OpenAI dovoljuje sodelavcem, da berejo in ocenujejo ChatGPT-chate
Podjetje OpenAI naj bi po notranjih dokumentih, ki jih je dobilo revija 404 Media, zaposlovalo stotine zunanjih sodelavcev, ki preberejo in ocenijo resnične pogovore z ChatGPT-jem.
Zadeva so uporabniki z brezplačnimi, Plus in PRO računi, ker je pri teh privzeto omogočena uporaba podatkov za izboljšavo modela. Poslovni in izobraževalni računi so izključeni.
V okviru projekta z kodnim imenom 'Lily' dobijo zunanje preverjalke preko nadzornih plošč dostop do zahtev (promptov) in deloma tudi do povzetkov prejšnjih pogovorov. Ocenjujejo štiri od KI ustvarjene odgovore na lestvici od 1 do 7 in označijo neustrezne formulacije.
OpenAI predhodno uporabi tako imenovani filter za zasebnost, da odstrani osebne podatke. Podjetje pa priznava, da redki identifikatorji ali zasebni podrobnosti, kot so podatki o lokaciji, lahko kljub temu preidejo skozi.
Tudi drugi ponudniki se zanašajo na človeško nadzor: Anthropic po lastnih podatkih omejuje to le na uporabnike z omogočeno funkcijo Opt-in in predhodno odstrani identifikatorje računov. Google pa pri Gemini opozarja, da ljudje preverjajo nekaj shranjenih pogovorov.
Eden od sodelavcev, ki deluje z zahtevami in je bil vprašan s strani 404 Media, meni, da večina uporabnikov ne ve, da njihove pogovore lahko berejo resnične osebe.
Nejasno je, kako pogosto so občutljivi podatki kljub filtru res prišli do preverjalcev in kako prozorno so uporabniki o tem obveščeni.
ZAKAJ JE TO POMEMBNO
Milijoni ljudi delijo z ChatGPT-jem osebne in pogosto zasebne informacije, ne da bi vedeli, da jih lahko preberejo resnične osebe.
KAJ LAHKO NARDIŠ ZDAJ
- Onemogoči uporabo podatkov za izboljšavo modela Odpri nastavitve v ChatGPT-ju in odpri podatkovne kontrole. Tam onemogoči možnost izboljšave modela za vse uporabnike.
- Ne vnašaj občutljivih podatkov Ne deli podatkov o zdravju, pravnih ali finančnih zadevah z botom. Ravnaj se z vnosi tako, kot da jih lahko prebere kdo drug.
- Uporabi poslovni ali izobraževalni račun Te vrste računov imajo privzeto onemogočeno deljenje podatkov. Če je mogoče, uporabi tak račun za večjo zasebnost.
- Redno preverjaj nastavitve zasebnosti Pogledaj si nastavitve zasebnosti v aplikaciji od časa do časa. Ponudniki pogosto spreminjajo privzete nastavitve brez večjih obvestil.