OpenAI fait lire et évaluer les conversations ChatGPT par des employés
Selon des documents internes obtenus par le magazine 404 Media, OpenAI emploie des centaines de collaborateurs externes qui lisent et évaluent de vraies conversations avec ChatGPT.
Cela concerne les utilisateurs disposant de comptes gratuits, Plus et PRO, car pour ceux-ci, l'utilisation des données pour améliorer le modèle est activée par défaut. Les comptes professionnels et éducatifs en sont exclus.
Dans le cadre du projet nommé en interne 'Lily', les vérificateurs externes accèdent, via des tableaux de bord, aux prompts et parfois à des résumés de conversations précédentes. Ils évaluent quatre réponses générées par l'IA sur une échelle de 1 à 7 et signalent les formulations inappropriées.
OpenAI utilise au préalable un filtre de confidentialité pour supprimer les informations personnelles. Cependant, l'entreprise reconnaît que des identifiants rares ou des détails privés, comme les localisations, peuvent parfois échapper à ce filtre.
D'autres fournisseurs misent également sur le contrôle humain : selon ses propres indications, Anthropic le limite aux utilisateurs ayant activé la fonction opt-in et supprime au préalable les identifiants de compte. Google indique également pour Gemini que des humains examinent certains chats enregistrés.
Un employé interrogé par 404 Media, qui travaille avec les prompts, estime que la plupart des utilisateurs ignorent que de vraies personnes peuvent lire leurs conversations.
Il reste à savoir à quelle fréquence des données sensibles parviennent malgré tout aux vérificateurs et dans quelle mesure les utilisateurs sont informés de manière transparente.
POURQUOI C'EST IMPORTANT
Des millions de personnes partagent avec ChatGPT des informations personnelles et parfois très privées, sans savoir que celles-ci peuvent être lues par de vraies personnes.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Désactiver l'utilisation des données pour l'amélioration du modèle Ouvrez les paramètres dans ChatGPT et allez dans les contrôles des données. Désactivez là l'option d'amélioration du modèle pour tous les utilisateurs.
- Ne pas entrer d'informations sensibles Ne partagez pas de données médicales, juridiques ou financières avec le chatbot. Traitez vos entrées comme si elles pouvaient être lues par quelqu'un d'autre.
- Utiliser un compte professionnel ou éducatif Ces types de comptes ont le partage des données désactivé par défaut. Si possible, utilisez un tel compte pour plus de confidentialité.
- Vérifier régulièrement les paramètres de confidentialité Consultez de temps en temps les options de confidentialité dans l'application. Les fournisseurs modifient parfois les paramètres par défaut sans grande annonce.