OpenAI permite que empleados lean y evalúen chats de ChatGPT
Según documentos internos a los que tuvo acceso la revista 404 Media, OpenAI contrata a cientos de empleados externos que leen y evalúan conversaciones reales de ChatGPT.
Esto afecta a usuarios con cuentas gratuitas, Plus y PRO, ya que en estas la opción de uso de datos para mejorar el modelo está activada por defecto. Las cuentas de empresa y educación están exentas.
En el marco del proyecto con nombre en código 'Lily', los revisores externos acceden a través de paneles de control a los prompts y, en algunos casos, a resúmenes de chats anteriores. Evalúan cuatro respuestas generadas por la IA en una escala del 1 al 7 y marcan formulaciones inapropiadas.
OpenAI aplica previamente un filtro de privacidad para eliminar datos personales. Sin embargo, la empresa reconoce que identificadores poco comunes o detalles privados, como ubicaciones, podrían pasar el filtro.
Otros proveedores también recurren al control humano: según sus propias declaraciones, Anthropic lo limita a usuarios que han activado la función de opt-in y elimina previamente los identificadores de cuenta. Google, por su parte, también indica en Gemini que algunas conversaciones guardadas son revisadas por personas.
Un empleado consultado por 404 Media que trabaja con los prompts cree que la mayoría de los usuarios desconocen que personas reales pueden leer sus chats.
Queda por aclarar con qué frecuencia los datos sensibles llegan a los revisores a pesar del filtro y con qué transparencia se informa a los usuarios sobre esto.
POR QUÉ ES IMPORTANTE
Millones de personas comparten información personal y, a veces, muy privada con ChatGPT sin saber que estas pueden ser leídas por personas reales.
QUÉ PUEDES HACER AHORA
- Desactivar el uso de datos para mejorar el modelo Abre la configuración en ChatGPT y ve a los controles de datos. Desactiva allí la opción de mejora del modelo para todos los usuarios.
- No introducir información sensible No compartas datos de salud, legales o financieros con el chatbot. Trata tus entradas como si pudieran ser leídas por otra persona.
- Usar una cuenta de empresa o educativa Estos tipos de cuentas tienen la opción de compartir datos desactivada por defecto. Si es posible, usa una de estas cuentas para mayor privacidad.
- Revisar periódicamente la configuración de privacidad Consulta las opciones de privacidad en la app de vez en cuando. Los proveedores a veces cambian las configuraciones predeterminadas sin aviso previo.