OpenAI laat medewerkers ChatGPT-gesprekken lezen en beoordelen
OpenAI huurt volgens interne documenten, die in handen zijn van het tijdschrift 404 Media, honderden externe medewerkers in die echte ChatGPT-gesprekken lezen en beoordelen.
Gebruikers met gratis, Plus- en PRO-accounts zijn hiervan betrokken, omdat bij deze accounts de gegevensgebruik voor modelverbetering standaard is ingeschakeld. Bedrijfs- en onderwijsaccounts zijn hiervan uitgesloten.
In het kader van het project met de codenaam 'Lily' krijgen de externe controleurs via dashboards toegang tot prompts en soms ook samenvattingen van eerdere gesprekken. Zij beoordelen vier door de KI gegenereerde antwoorden op een schaal van 1 tot 7 en markeren ongeschikte formuleringen.
OpenAI past vooraf een zogenaamde privacyfilter toe om persoonlijke gegevens te verwijderen. Het bedrijf geeft echter toe dat zeldzame identificatiegegevens of privé-details zoals locatiegegevens toch door kunnen komen.
Ook andere aanbieders zetten in op menselijke controle: Anthropic beperkt deze volgens eigen opgaven tot gebruikers met een ingeschakelde opt-in-functie en verwijdert vooraf accountgegevens. Google wijst bij Gemini erop dat mensen sommige opgeslagen gesprekken controleren.
Een door 404 Media ondervraagde medewerker die met de prompts werkt, gaat ervan uit dat de meeste gebruikers niet weten dat echte mensen hun gesprekken kunnen lezen.
Onduidelijk is hoe vaak gevoelige gegevens ondanks de filter daadwerkelijk bij de controleurs terechtkomen en hoe transparant gebruikers hierover worden geïnformeerd.
WAAROM DIT BELANGRIJK IS
Miljoenen mensen delen persoonlijke en soms zeer privé-informatie met ChatGPT, zonder te weten dat deze door echte mensen kunnen worden gelezen.
WAT JE NU KUNT DOEN
- Gegevensgebruik voor modelverbetering uitschakelen Open de instellingen in ChatGPT en ga naar de gegevenscontroles. Schakel daar de optie voor modelverbetering voor alle gebruikers uit.
- Geen gevoelige informatie invoeren Deel geen gezondheids-, juridische of financiële gegevens met de chatbot. Behandel je invoer alsof deze door iemand anders kan worden gelezen.
- Gebruik een bedrijfs- of onderwijsaccount Deze accounttypen hebben de gegevensdeling standaard uitgeschakeld. Gebruik indien mogelijk zo’n account voor meer privacy.
- Privacy-instellingen regelmatig controleren Bekijk de privacy-opties in de app af en toe opnieuw. Aanbieders veranderen standaardinstellingen soms zonder grote aankondiging.