OpenAI дозволяє співробітникам читати та оцінювати чати ChatGPT
Згідно з внутрішніми документами, які отримало видання 404 Media, OpenAI наймає сотні зовнішніх співробітників, які читають і оцінюють справжні діалоги в ChatGPT.
Це стосується користувачів з безкоштовними, Plus- та PRO-обліковими записами, оскільки для них використання даних для покращення моделі за замовчуванням увімкнено. Бізнес-облікові записи та облікові записи освітніх установ виключені.
У рамках проєкту з кодовою назвою 'Lily' зовнішні перевірники отримують доступ до запитів і частково до резюме попередніх чатів через панелі керування. Вони оцінюють чотири відповіді, згенеровані КІ, за шкалою від 1 до 7 і позначають невідповідні формулювання.
OpenAI попередньо застосовує так званий фільтр конфіденційності, щоб видалити особисті дані. Однак компанія визнає, що рідкісні ідентифікатори або приватні деталі, такі як дані про місцезнаходження, все ж можуть потрапити до перевірників.
Інші постачальники також покладаються на людський контроль: згідно з власними даними, Anthropic обмежує його користувачами з увімкненою функцією Opt-in і попередньо видаляє ідентифікатори облікових записів. Google також зазначає для Gemini, що деякі збережені чати перевіряють люди.
Один із співробітників, якого опитало 404 Media і який працює з запитами, вважає, що більшість користувачів не знають, що їхні чати можуть читати справжні люди.
Лишається незрозумілим, як часто чутливі дані, попри фільтри, все ж потрапляють до перевірників і наскільки прозоро користувачів інформують про це.
ЧОМУ ЦЕ ВАЖЛИВО
Мільйони людей діляться з ChatGPT особистою та іноді дуже приватною інформацією, не знаючи, що її можуть читати справжні люди.
ЩО ВИ МОЖЕТЕ ЗРОБИТИ ЗАРАЗ
- Вимкнути використання даних для покращення моделі Відкрийте налаштування в ChatGPT і перейдіть до керування даними. Вимкніть там опцію покращення моделі для всіх користувачів.
- Не вводьте чутливу інформацію Не діліться з чат-ботом даними про здоров’я, юридичними або фінансовими відомостями. Ставтеся до своїх введених даних так, ніби їх може хтось прочитати.
- Користуйтеся бізнес- або освітнім обліковим записом Ці типи облікових записів мають вимкнене за замовчуванням надання даних. Якщо можливо, використовуйте такий обліковий запис для більшої конфіденційності.
- Регулярно перевіряйте налаштування конфіденційності Періодично переглядайте налаштування конфіденційності в додатку. Постачальники іноді змінюють стандартні налаштування без великих оголошень.