OpenAI permite angajaților să citească și să evalueze mesajele cu ChatGPT
Conform unor documente interne obținute de revista 404 Media, OpenAI angajează sute de angajați externi care citesc și evaluează conversațiile reale cu ChatGPT.
Sunt afectați utilizatorii cu conturi gratuite, Plus și PRO, deoarece, în cazul acestora, utilizarea datelor pentru îmbunătățirea modelului este activată implicit. Conturile de afaceri și cele educaționale sunt exceptate.
În cadrul proiectului cu numele de cod 'Lily', evaluatorii externi au acces, prin intermediul unor panouri de control, la prompturi și, parțial, la rezumatele unor conversații anterioare. Aceștia evaluează patru răspunsuri generate de IA pe o scală de la 1 la 7 și marchează formulările inadecvate.
OpenAI utilizează în prealabil un filtru de confidențialitate pentru a elimina datele personale. Totuși, compania recunoaște că anumite identificatori rare sau detalii private, cum ar fi informații despre locație, ar putea totuși să treacă neobservate.
Alți furnizori folosesc și ei controlul uman: Anthropic limitează acest lucru, conform propriilor declarații, la utilizatorii care au activat funcția de opt-in și elimină în prealabil tokenurile de cont. Google menționează, de asemenea, pentru Gemini, că unele conversații salvate sunt verificate de oameni.
Un angajat intervievat de 404 Media, care lucrează cu prompturile, consideră că majoritatea utilizatorilor nu știu că persoane reale le pot citi mesajele.
Rămâne necunoscut cât de des datele sensibile ajung, în ciuda filtrelor, la evaluatori și cât de transparent sunt informați utilizatorii cu privire la acest aspect.
DE CE ESTE IMPORTANT
Milioane de oameni împărtășesc cu ChatGPT informații personale și uneori foarte private, fără să știe că acestea pot fi citite de oameni reali.
CE POȚI FACE ACUM
- Dezactivează utilizarea datelor pentru îmbunătățirea modelului Deschide setările în ChatGPT și mergi la controlul datelor. Dezactivează acolo opțiunea de îmbunătățire a modelului pentru toți utilizatorii.
- Nu introduce informații sensibile Nu împărtășești date despre sănătate, aspecte juridice sau financiare cu chatbot-ul. Tratează intrările tale ca și cum ar putea fi citite de altcineva.
- Folosește un cont de afaceri sau educațional Aceste tipuri de conturi au partajarea datelor dezactivată implicit. Dacă este posibil, folosește un astfel de cont pentru mai multă confidențialitate.
- Verifică periodic setările de confidențialitate Urmărește din când în când opțiunile de confidențialitate din aplicație. Furnizorii schimbă uneori setările implicite fără anunțuri mari.