OpenAI necháva zamestnancov čítať a hodnotiť konverzácie s ChatGPT
Podľa interných dokumentov, ktoré má k dispozícii časopis 404 Media, zamestnáva spoločnosť OpenAI stovky externých zamestnancov, ktorí čítajú a hodnotia skutočné konverzácie s ChatGPT.
Zásah to má na používateľov s bezplatnými, Plus a PRO účtami, pretože u tých je použitie dát na zlepšovanie modelu štandardne aktivované. Obchodné a vzdelávacie účty sú z tohto dôvodu vyňaté.
V rámci projektu s kódovým názvom 'Lily' majú externí hodnotitelia cez dashboardy prístup k výzvam (promptom) a čiastočne aj k sumárom predchádzajúcich konverzácií. Hodnotia štyri KI generované odpovede na stupnici od 1 do 7 a označujú nevhodné formulácie.
OpenAI pred spracovaním použije tzv. Privacy Filter na odstránenie osobných údajov. Spoločnosť však priznáva, že zriedkavé identifikátory alebo súkromné detaily, ako je napríklad poloha, sa môžu cez filter dostat́.
Aj iní poskytovatelia sa spoliehajú na ľudskú kontrolu: Anthropic podľa vlastných údajov obmedzuje túto kontrolu na používateľov s aktivovanou funkciou Opt-in a pred spracovaním odstraňuje identifikátory účtov. Google u Gemini tiež upozorňuje, že ľudia kontrolujú niektoré uložené konverzácie.
Jeden z zamestnancov, ktorí pracujú s promptmi a bol oslovený časopisom 404 Media, predpokladá, že väčšina používateľov nevie, že ich konverzácie môžu čítať skutoční ľudia.
Nejasné ostáva, ako často sa citlivé dáta dostanú k hodnotiteľom napriek filtru a ako transparentne sú používatelia o tom informovaní.
PREČO JE TO DÔLEŽITÉ
Milióny ľudí zdieľajú s ChatGPT osobné a niekedy veľmi súkromné informácie, aniž by vedeli, že ich môžu čítať skutoční ľudia.
ČO MÔŽEŠ TERAZ UROBIŤ
- Vypnite použitie dát na zlepšovanie modelu Otvorte nastavenia v ChatGPT a prejdite do sekcie ovládania dát. Tam vypnite možnosť zlepšovania modelu pre všetkých používateľov.
- Nezadávajte citlivé informácie Nezdielajte s chatbotom údaje o zdraví, práve alebo financiách. Svoje vstupy spracovávajte tak, ako by ich mohol čítať niekto iný.
- Použite obchodný alebo vzdelávací účet Tieto typy účtov majú zdieľanie dát štandardne deaktivované. Ak je to možné, použite takéto konto pre väčšiu súkromie.
- Pravidelne kontrolujte nastavenia súkromia Občas si znova skontrolujte možnosti ochrany súkromia v aplikácii. Poskytovatelia niekedy menia štandardné nastavenia bez väčších oznámení.