OpenAI lar ansatte lese og vurdere ChatGPT-chater
Ifølge interne dokumenter som magasinet 404 Media har fått tilgang til, bruker OpenAI hundrevis av eksterne ansatte til å lese og vurdere ekte ChatGPT-samtaler.
Dette gjelder brukere med gratis-, Plus- og PRO-kontoer, fordi databruk for modellforbedring er aktivert som standard for disse. Forretnings- og utdanningskontoer er unntatt.
I prosjektet med kodenavnet 'Lily' får de eksterne kontrollørene tilgang til spørsmål og delvis oppsummeringer av tidligere chatter via dashbord. De vurderer fire KI-genererte svar på en skala fra 1 til 7 og merker uhensiktsmessige formuleringer.
OpenAI bruker på forhånd et såkalt personvernfilter for å fjerne personlige opplysninger. Selskapet innrømmer imidlertid at sjeldne identifikatorer eller private detaljer som stedangivelser likevel kan slippe gjennom.
Også andre leverandører bruker menneskelig kontroll: Ifølge egne opplysninger begrenser Anthropic dette til brukere med aktivert Opt-in-funksjon og fjerner konto-IDer på forhånd. Google påpeker også for Gemini at mennesker sjekker noen lagrede chatter.
En ansatt som jobber med spørsmålene, og som 404 Media har intervjuet, antar at de fleste brukerne ikke vet at ekte personer kan lese chatene deres.
Det er fortsatt uklart hvor ofte sensitive data, til tross for filteret, faktisk havner hos kontrollørene, og hvor transparent brukerne informeres om dette.
HVORFOR DETTE ER VIKTIG
Millioner av mennesker deler personlige og svært private opplysninger med ChatGPT, uten å vite at disse kan leses av ekte mennesker.
HVA DU KAN GJØRE NÅ
- Slå av databruk for modellforbedring Åpne innstillinger i ChatGPT og gå til datakontroller. Slå der av alternativet for modellforbedring for alle brukere.
- Ikke oppgi sensitive opplysninger Del ingen helse-, retts- eller finansdata med chatboten. Behandle innspillene dine som om de kan leses av noen andre.
- Bruk forretnings- eller utdanningskonto Disse kontotypene har datadeling deaktivert som standard. Hvis mulig, bruk en slik konto for mer personvern.
- Sjekk personverninnstillinger regelmessig Se over personvernalternativene i appen av og til. Leverandører endrer standardinnstillinger noen ganger uten stor kunngjøring.