OpenAI позволяет сотрудникам читать и оценивать чаты ChatGPT
Согласно внутренним документам, которые попали в распоряжение журнала 404 Media, OpenAI нанимает сотни внешних сотрудников, которые читают и оценивают реальные диалоги в ChatGPT.
Это касается пользователей с бесплатными, Plus- и PRO-аккаунтами, так как у них по умолчанию включено использование данных для улучшения модели. Деловые и образовательные аккаунты исключены.
В рамках проекта с кодовым названием 'Lily' внешние проверяющие получают доступ к запросам и иногда к кратким выдержкам из предыдущих чатов через панель управления. Они оценивают четыре ответа, сгенерированных ИИ, по шкале от 1 до 7 и отмечают неподходящие формулировки.
OpenAI заранее использует так называемый фильтр конфиденциальности, чтобы удалить личные данные. Однако компания признаёт, что редкие идентификаторы или личные детали, такие как данные о местоположении, всё же могут просочиться.
Другие поставщики также используют человеческий контроль: по данным Anthropic, он ограничен пользователями, которые активировали функцию Opt-in, а личные идентификаторы удаляются заранее. Google также сообщает, что в Gemini некоторые сохранённые чаты проверяются людьми.
Один из сотрудников, опрошенных 404 Media, который работает с запросами, считает, что большинство пользователей не знают, что их чаты могут читать реальные люди.
Пока неясно, как часто конфиденциальные данные попадают к проверяющим, несмотря на фильтры, и насколько прозрачно пользователи информируются об этом.
ПОЧЕМУ ЭТО ВАЖНО
Миллионы людей делятся с ChatGPT личной и порой очень конфиденциальной информацией, не подозревая, что её могут читать реальные люди.
ЧТО ДЕЛАТЬ СЕЙЧАС
- Отключить использование данных для улучшения модели Откройте настройки в ChatGPT и перейдите в раздел управления данными. Отключите там опцию улучшения модели для всех пользователей.
- Не вводить конфиденциальную информацию Не делитесь с чат-ботом данными о здоровье, юридическими или финансовыми сведениями. Относитесь к своим запросам так, как будто их может прочитать кто-то другой.
- Использовать деловой или образовательный аккаунт У этих типов аккаунтов передача данных по умолчанию отключена. По возможности используйте такой аккаунт для большей конфиденциальности.
- Регулярно проверять настройки конфиденциальности Периодически пересматривайте параметры конфиденциальности в приложении. Поставщики иногда изменяют стандартные настройки без широкого оповещения.