OpenAI lader medarbejdere læse og vurderer ChatGPT-chats
Ifølge interne dokumenter, som magasinet 404 Media har adgang til, ansætter OpenAI hundredvis af eksterne medarbejdere til at læse og vurderer ægte ChatGPT-samtaler.
Det gælder brugere med gratis-, Plus- og PRO-konti, da datadeling til forbedring af modellen er aktiveret som standard for disse. Forretnings- og uddannelseskonti er undtaget.
I forbindelse med projektet med kodenavnet 'Lily' får de eksterne kontrollører adgang til prompts og i nogle tilfælde også resuméer af tidligere chats via dashboards. De vurderer fire KI-genererede svar på en skala fra 1 til 7 og markerer upassende formuleringer.
OpenAI bruger forud en såkaldt Privacy Filter for at fjerne personlige oplysninger. Virksomheden indrømmer dog, at sjældne identifikatorer eller private detaljer som f.eks. placeringer alligevel kan slippe igennem.
Også andre udbydere bruger menneskelig kontrol: Ifølge egne oplysninger begrænser Anthropic den til brugere med aktiveret Opt-in-funktion og fjerner kontoidentifikationer på forhånd. Google angiver ligeledes ved Gemini, at mennesker undersøger nogle gemte chats.
En medarbejder, der arbejder med prompts og er blevet interviewet af 404 Media, antager, at de fleste brugere ikke ved, at ægte mennesker kan læse deres chats.
Det er stadig uklart, hvor ofte følsomme data trods filteret ender hos kontrollørerne, og hvor åbne brugerne informeres om dette.
HVORFOR DET ER VIGTIGT
Millioner af mennesker deler personlige og til tider meget private oplysninger med ChatGPT, uden at vide, at disse kan læses af ægte mennesker.
HVAD DU KAN GØRE NU
- Slå datadeling til modelforbedring fra Åbn indstillingerne i ChatGPT og gå til datakontroller. Slå der indstillingen for forbedring af modellen fra for alle brugere.
- Indtast ingen følsomme oplysninger Del ingen sundheds-, rets- eller finansielle data med chatbotten. Behandl dine input, som om de kunne læses af en anden person.
- Brug en forretnings- eller uddannelseskonto Disse kontotyper har datadeling deaktiveret som standard. Hvis muligt, brug en sådan konto for mere privatliv.
- Tjek privatlivsindstillingerne jævnligt Se jævnligt på databeskyttelsesindstillingerne i appen. Udbydere ændrer standardindstillingerne sommetider uden stor meddelelse.