OpenAI позволява на служители да четат и оценяват чатове в ChatGPT
Съгласно вътрешни документи, достъпни за списание 404 Media, OpenAI наема стотици външни служители, които четат и оценяват реални разговори в ChatGPT.
Засегнати са потребителите с безплатни, Plus и PRO акаунти, тъй като при тях опцията за използване на данните за подобряване на модела е активирана по подразбиране. Бизнес и образователни акаунти не са засегнати.
В рамките на проекта с кодово име 'Lily' външните рецензенти получават достъп до подкани (prompts) и частични резюмета на предишни чатове чрез табло за управление. Те оценяват четири отговора, генерирани от КИ, по скала от 1 до 7, и маркират неподходящи формулировки.
OpenAI използва предварително т.нар. Privacy Filter, за да премахне лични данни. Компанията обаче признава, че рядко срещани идентификатори или лични детайли, като данни за местоположение, все пак могат да се „промъкнат“.
И други доставчици разчитат на човешки контрол: Anthropic, според собствени данни, го ограничава само за потребители с активирана опция за изрично съгласие (Opt-in) и предварително премахва идентификаторите на акаунтите. Google също отбелязва за Gemini, че някои запазени чатове се проверяват от хора.
Служител, работещ с подкани и интервюиран от 404 Media, смята, че повечето потребители не знаят, че техните чатове могат да бъдат четени от реални хора.
Остава неясно колко често чувствителни данни стигат до рецензентите, въпреки филтъра, и колко прозрачно потребителите са информирани за това.
ЗАЩО Е ВАЖНО
Милиони хора споделят с ChatGPT лична и често много деликатна информация, без да знаят, че тя може да бъде прочетена от реални хора.
ЧЕ МОЖЕШ ДА НАПРАВИШ СЕГА
- Изключете използването на данните за подобряване на модела Отворете настройките в ChatGPT и отидете в секция „Контрол на данните“. Изключете опцията за подобряване на модела за всички потребители.
- Не въвеждайте чувствителна информация Не споделяйте данни за здраве, право или финанси с чатбота. Третирайте въвежданите данни така, сякаш могат да бъдат прочетени от някой друг.
- Използвайте бизнес или образователен акаунт Тези типове акаунти имат деактивирано споделянето на данни по подразбиране. Ако е възможно, използвайте такъв акаунт за по-голяма поверителност.
- Проверявайте редовно настройките за поверителност Поглеждайте от време на време настройките за поверителност в приложението. Доставчиците понякога променят стандартните настройки без голямо обявление.