OpenAI lässt Mitarbeiter ChatGPT-Chats lesen und bewerten
OpenAI beschäftigt laut internen Dokumenten, die dem Magazin 404 Media vorliegen, Hunderte externe Mitarbeiter, die echte ChatGPT-Unterhaltungen lesen und bewerten.
Betroffen sind Nutzer mit kostenlosen, Plus- und Pro-Konten, weil bei diesen die Datennutzung zur Modellverbesserung standardmäßig aktiviert ist. Geschäfts- und Bildungskonten sind davon ausgenommen.
Im Rahmen des Projekts mit dem Codenamen 'Lily' erhalten die externen Prüfer über Dashboards Zugriff auf Prompts und teilweise auch Zusammenfassungen früherer Chats. Sie bewerten vier von der KI generierte Antworten auf einer Skala von 1 bis 7 und markieren unpassende Formulierungen.
OpenAI setzt vorab einen sogenannten Privacy Filter ein, um persönliche Angaben zu entfernen. Das Unternehmen räumt jedoch ein, dass seltene Identifikatoren oder private Details wie Standortangaben trotzdem durchrutschen können.
Auch andere Anbieter setzen auf menschliche Kontrolle: Anthropic beschränkt sie laut eigenen Angaben auf Nutzer mit aktivierter Opt-in-Funktion und entfernt vorab Kontokennungen. Google weist bei Gemini ebenfalls darauf hin, dass Menschen einige gespeicherte Chats prüfen.
Ein von 404 Media befragter Mitarbeiter, der mit den Prompts arbeitet, geht davon aus, dass die meisten Nutzer nicht wissen, dass echte Personen ihre Chats lesen können.
Offen bleibt, wie häufig sensible Daten trotz Filter tatsächlich bei den Prüfern landen und wie transparent die Nutzer darüber informiert werden.
WARUM DAS WICHTIG IST
Millionen Menschen teilen ChatGPT persönliche und teils sehr private Informationen mit, ohne zu wissen, dass diese von echten Menschen gelesen werden können.
WAS DU JETZT TUN KANNST
- Datennutzung zur Modellverbesserung ausschalten Öffne die Einstellungen in ChatGPT und gehe zu den Datenkontrollen. Schalte dort die Option zur Verbesserung des Modells für alle Nutzer aus.
- Keine sensiblen Infos eingeben Teile keine Gesundheits-, Rechts- oder Finanzdaten mit dem Chatbot. Behandle deine Eingaben so, als könnten sie von jemand anderem gelesen werden.
- Geschäfts- oder Bildungskonto nutzen Diese Kontotypen haben die Datenfreigabe standardmäßig deaktiviert. Wenn möglich, nutze ein solches Konto für mehr Privatsphäre.
- Privatsphäre-Einstellungen regelmäßig prüfen Schau dir die Datenschutzoptionen in der App von Zeit zu Zeit erneut an. Anbieter ändern Standardeinstellungen manchmal ohne große Ankündigung.