OpenAI ļauj darbiniekiem lasīt un vērtēt ChatGPT čatus
Saskaņā ar iekšējiem dokumentiem, kas nonākuši žurnāla 404 Media rīcībā, OpenAI nodarbojas simtiem ārējie darbinieki, kuri lasa un vērtē reālas ChatGPT sarunas.
Ietverti ir lietotāji ar bezmaksas, Plus un PRO kontiem, jo šiem kontiem datu izmantošana modela uzlabošanai ir aktivizēta pēc noklusējuma. Biznesa un izglītības konti no šī procesa ir izņemti.
Projekta ar nosaukumu 'Lily' ietvaros ārējie pārbaudītāji caur paneliem iegūst piekļuvi pie pieprasījumiem un daļēji arī pie iepriekšējo čatu kopsavilkumiem. Viņi vērtē četras no KI ģenerētas atbildes pēc skalas no 1 līdz 7 un atzīmē neatbilstošas formulējumus.
OpenAI pirms tam lieto tā saucamo Privacy Filter, lai noņemtu personiskās ziņas. Uzņēmums atzīst, ka reti identificētāji vai privātas detaļas, piemēram, ģeogrāfiskā atrašanās vieta, var nokļūt caur filtru.
Arī citi sniedzēji izmanto cilvēku kontroli: Anthropic, saskaņā ar saviem paziņojumiem, ierobežo to tikai uz lietotājiem ar aktivizētu Opt-in funkciju un pirms tam noņem konta identifikatorus. Google norāda, ka arī Gemini gadījumā cilvēki pārbauda dažus saglabātos čatus.
404 Media apjautāts darbinieks, kurš strādā ar pieprasījumiem, uzskata, ka lielākā daļa lietotāju nezina, ka viņu čatus var lasīt reāli cilvēki.
Neizšķirts paliek, cik bieži jutīgas datus, nepārrādot filtru, tomēr nonāk pie pārbaudītājiem, un cik atklāti lietotāji tiek informēti par to.
KĀPĒC TAS IR SVARĪGI
Miljoniem cilvēku dalās ar ChatGPT ar personīgām un daļēji ļoti privātiem ziņām, nezinot, ka tās var lasīt reāli cilvēki.
KO VARI IZDARĪT TAGAD
- Deaktivēt datu izmantošanu modela uzlabošanai Atver iestatījumus ChatGPT un ej uz datu kontroli. Izslēdz tur opciju par modela uzlabošanu visiem lietotājiem.
- Neievadīt jutīgu informāciju Nedalies ar veselības, tiesību vai finanšu datiem ar čatbotu. Apstrādā savas ievades tā, it kā tās varētu lasīt kāds cits.
- Izmantot biznesa vai izglītības kontu Šie kontu veidi pēc noklusējuma ir ar deaktivētu datu piekļuvi. Ja iespējams, izmanto šādu kontu, lai nodrošinātu lielāku privātumu.
- Regulāri pārbaudīt privātuma iestatījumus Pārlūko datu aizsardzības opcijas lietotnē no laika uz laiku. Sniedzēji reizēm maina noklusējuma iestatījumus bez lielas paziņošanas.