Az OpenAI munkatársai olvassák és értékelik a ChatGPT-beszélgetéseket
Az OpenAI – a 404 Media magazinnak rendelkezésre álló belső dokumentumok szerint – több száz külső munkatársat foglalkoztat, akik valós ChatGPT-beszélgetéseket olvasnak és értékelnek.
A szolgáltatás ingyenes, Plus és PRO-fiókokkal rendelkező felhasználói érintettek, mert ebben az esetben a modell javításához szükséges adathasználat alapértelmezetten engedélyezett. Az üzleti és oktatási fiókok nem tartoznak ide.
A 'Lily' kódnéven futó projekt keretében a külső ellenőrök dashboardokon keresztül hozzáférnek a promptokhoz, és részben a korábbi beszélgetések összefoglalóihoz is. Négy, a KI által generált választ értékelnek 1-től 7-ig terjedő skálán, és megjelölik a nem megfelelő megfogalmazásokat.
Az OpenAI előzetesen úgynevezett adatok védelmét szolgáló szűrőt alkalmaz a személyes adatok eltávolítására. A cég azonban elismeri, hogy ritka azonosítók vagy magánjellegű adatok, például helymeghatározási információk akár átcsúszhatnak.
Más szolgáltatók is alkalmazzák az emberi ellenőrzést: az Anthropic saját bevallása szerint csak azokra a felhasználókra korlátozza, akik engedélyezték az opt-in funkciót, és előzetesen eltávolítja a fiókazonosítókat. A Google a Gemini esetében is jelez, hogy emberek ellenőrizhetnek néhány mentett beszélgetést.
A 404 Media által megkérdezett, a promptokkal dolgozó munkatárs szerint a legtöbb felhasználó nem tudja, hogy valós emberek olvashatják a beszélgetéseiket.
Nyitott kérdés, hogy a szűrő ellenére milyen gyakran kerülnek érzékeny adatok a vizsgálókhoz, és mennyire átlátszóan tájékoztatják erről a felhasználókat.
MIÉRT FONTOS EZ
Milliók osztanak meg személyes, néha nagyon magánjellegű információkat a ChatGPT-vel anélkül, hogy tudnák, ezeket valós emberek is elolvashatják.
MIT TEHETSZ MOST
- A modell javításához szükséges adathasználat kikapcsolása Nyisd meg a beállításokat a ChatGPT-ben, és menj az adatok kezelése menüpontra. Ott kapcsold ki a modell javításához szükséges adathasználat beállítását minden felhasználó számára.
- Ne adj meg érzékeny információkat Ne oszd meg egészségügyi, jogi vagy pénzügyi adataidat a chatbottal. Kezeld a beviteledet úgy, mintha mások is elolvashatnák.
- Használj üzleti vagy oktatási fiókot Ezek a fióktípusok alapértelmezetten le vannak tiltva az adatok megosztása. Ha lehetséges, használj ilyen fiókot a nagyobb magánszféra érdekében.
- Ellenőrizd rendszeresen az adatvédelmi beállításokat Nézd át időnként újra az adatvédelmi beállításokat az alkalmazásban. A szolgáltatók néha módosítják az alapértelmezett beállításokat anélkül, hogy nagy hirdetés lenne róla.