OpenAI fa leggere e valutare le chat di ChatGPT ai suoi collaboratori
Secondo documenti interni ottenuti dal magazine 404 Media, OpenAI impiega centinaia di collaboratori esterni che leggono e valutano conversazioni reali con ChatGPT.
Sono interessati gli utenti con account gratuiti, Plus e PRO, perché per questi l’utilizzo dei dati per il miglioramento del modello è attivato per impostazione predefinita. Gli account aziendali e educativi sono esclusi.
Nell’ambito del progetto con nome in codice 'Lily', i revisori esterni accedono tramite dashboard ai prompt e, in alcuni casi, anche ai riassunti di chat precedenti. Valutano quattro risposte generate dall’IA su una scala da 1 a 7 e segnalano formulazioni inadeguate.
OpenAI applica preventivamente un filtro per la privacy per rimuovere i dati personali. Tuttavia, l’azienda ammette che identificatori rari o dettagli privati come le informazioni sulla posizione potrebbero comunque sfuggire al filtro.
Anche altri fornitori si affidano al controllo umano: secondo le proprie dichiarazioni, Anthropic lo limita agli utenti che hanno attivato la funzione opt-in e rimuove preventivamente le identificazioni degli account. Google, per Gemini, indica anch’essa che alcune chat salvate vengono esaminate da persone.
Un collaboratore intervistato da 404 Media che lavora con i prompt ritiene che la maggior parte degli utenti non sappia che persone reali possono leggere le loro chat.
Rimane aperto quante volte i dati sensibili, nonostante il filtro, finiscano effettivamente ai revisori e quanto trasparente sia l’informazione fornita agli utenti.
PERCHÉ È IMPORTANTE
Milioni di persone condividono con ChatGPT informazioni personali e talvolta molto private, senza sapere che queste potrebbero essere lette da persone reali.
COSA PUOI FARE ORA
- Disattivare l’utilizzo dei dati per il miglioramento del modello Apri le impostazioni in ChatGPT e vai al controllo dei dati. Disattiva lì l’opzione per il miglioramento del modello per tutti gli utenti.
- Non inserire informazioni sensibili Non condividere dati sanitari, legali o finanziari con il chatbot. Tratta le tue richieste come se potessero essere lette da qualcuno altro.
- Usare un account aziendale o educativo Questi tipi di account hanno la condivisione dei dati disattivata per impostazione predefinita. Se possibile, usa un account del genere per maggiore privacy.
- Controllare regolarmente le impostazioni sulla privacy Dai un’occhiata alle opzioni sulla privacy nell’app di tanto in tanto. I fornitori a volte modificano le impostazioni predefinite senza grandi annunci.