OpenAI låter medarbetare läsa och bedöma ChatGPT-chattar
Enligt interna dokument som tidskriften 404 Media har tagit del av anställer OpenAI hundratals externa medarbetare som läser och bedömer riktiga ChatGPT-konversationer.
Det gäller användare med kostnadsfria, Plus- och PRO-konton, eftersom datanvändning för modellförbättring är aktiverad som standard för dessa. Företags- och utbildningskonton undantas dock.
I projektet med kodnamnet 'Lily' får de externa granskarna tillgång till inmatningar och ibland även sammanfattningar av tidigare chattar via instrumentpaneler. De bedömer fyra KI-genererade svar på en skala från 1 till 7 och markerar olämpliga formuleringar.
OpenAI använder i förväg en så kallad integritetsskyddsfilter för att ta bort personuppgifter. Företaget medger dock att sällsynta identifierare eller privata detaljer som platsuppgifter ändå kan slippa igenom.
Även andra leverantörer satsar på mänsklig kontroll: Anthropic begränsar, enligt egna uppgifter, detta till användare med aktiverad opt-in-funktion och tar bort kontoidentifierare i förväg. Google påpekar också för Gemini att människor granskar vissa sparade chattar.
En medarbetare som arbetar med inmatningarna och som 404 Media har intervjuat tror att de flesta användare inte vet att riktiga människor kan läsa deras chattar.
Det är oklart hur ofta känsliga data trots filter hamnar hos granskarna och hur transparent användarna informeras om detta.
VARFÖR DET ÄR VIKTIGT
Miljontals människor delar personliga och ibland mycket privata uppgifter med ChatGPT, utan att veta att dessa kan läsas av riktiga människor.
VAD DU KAN GÖRA NU
- Inaktivera datanvändning för modellförbättring Öppna inställningarna i ChatGPT och gå till datakontroller. Stäng av alternativet för modellförbättring för alla användare där.
- Ange inga känsliga uppgifter Dela inga hälso-, juridiska eller ekonomiska uppgifter med chatboten. Behandla dina inmatningar som om de kunde läsas av någon annan.
- Använd ett företags- eller utbildningskonto Dessa kontotyper har datadelning inaktiverad som standard. Använd om möjligt ett sådant konto för mer integritet.
- Kontrollera integritetsinställningar regelbundet Gå igenom integritetsalternativen i appen då och då. Leverantörer ändrar ibland standardinställningar utan större meddelanden.