OpenAI nechává zaměstnance číst a hodnotit chaty s ChatGPT
Podle interních dokumentů, které má k dispozici časopis 404 Media, zaměstnává společnost OpenAI stovky externích pracovníků, kteří čtou a hodnotí skutečné konverzace s ChatGPT.
Zasaženi jsou uživatelé s bezplatnými, Plus a PRO účty, protože u těchto je standardně aktivováno používání dat pro zlepšování modelu. Obchodní a vzdělávací účty jsou z toho vyjmuty.
V rámci projektu s kódovým názvem 'Lily' získávají externí hodnotitelé prostřednictvím řídicích panelů přístup k výzvám a částečně také k souhrnům předchozích chatů. Hodnotí čtyři odpovědi generované KI na stupnici od 1 do 7 a označují nevhodná formulace.
OpenAI předem používá tzv. filtr ochrany soukromí, který má odstranit osobní údaje. Společnost však připouští, že vzácné identifikátory nebo soukromé detaily, jako jsou údaje o poloze, mohou přesto projít.
I další poskytovatelé sázejí na lidskou kontrolu: Podle vlastních údajů omezuje společnost Anthropic tuto kontrolu na uživatele s aktivovanou funkcí Opt-in a předem odstraňuje identifikátory účtů. Google u Gemini rovněž upozorňuje, že lidé kontrolují některé uložené chaty.
Jeden z pracovníků dotazovaných časopisem 404 Media, který pracuje s výzvami, předpokládá, že většina uživatelů neví, že jejich chaty mohou číst skuteční lidé.
Není jasné, jak často citlivá data projdou filtrem a dostanou se k hodnotitelům, a jak transparentně jsou o tom uživatelé informováni.
PROČ JE TO DŮLEŽITÉ
Miliony lidí sdílejí s ChatGPT osobní a někdy velmi soukromé informace, aniž by věděli, že je mohou číst skuteční lidé.
CO MŮŽETE UDĚLAT NYNÍ
- Vypnout používání dat pro zlepšování modelu Otevři nastavení v ChatGPT a přejdi do ovládání dat. Tam vypni možnost zlepšování modelu pro všechny uživatele.
- Nevkládej citlivé informace Nesdílej s chatbotem žádná zdravotní, právní ani finanční data. Svoji vstupy zacházej tak, jako by je mohl číst někdo jiný.
- Používej obchodní nebo vzdělávací účet Tyto typy účtů mají standardně deaktivováno sdílení dat. Pokud je to možné, používej takový účet pro větší soukromí.
- Pravidelně kontroluj nastavení soukromí Občas si znovu prohlédni možnosti ochrany soukromí v aplikaci. Poskytovatelé někdy mění výchozí nastavení bez většího oznámení.