„OpenAI“ leidžia darbuotojams skaityti ir vertinti „ChatGPT“ pokalbius
„OpenAI“ pagal vidinius dokumentus, kuriuos turi žurnalas „404 Media“, samdo šimtus išorinių darbuotojų, kurie skaito ir vertina tikrus „ChatGPT“ pokalbius.
Tai suinteresuoti vartotojai su nemokamais, „Plus“ ir „PRO“ paskyrais, nes šiuose duomenų naudojimas modelio tobulinimui įjungtas numatyta tvarka. Verslo ir švietimo paskyrai išimtis.
Projekto „Lily“ kodiniu pavadinimu metu išoriniai tikrintojai per prietaisų skydelius gauna prieigą prie užklausų ir dalies ankstesnių pokalbių santraukų. Jie vertina keturias KI sugeneruotas atsakymus pagal skalę nuo 1 iki 7 ir žymi netinkamus formuluotes.
„OpenAI“ prieš tai taiko taip vadinamą privatumo filtrą, kad pašalintų asmeninę informaciją. Tačiau įmonė pripažįsta, kad reti identifikatoriai arba privačios detalės, pvz., vietovės duomenys, vis dėlto gali prasiskverbti.
Kiti teikėjai taiko žmogaus kontrolę: „Anthropic“ pagal savo duomenis ją riboja tik vartotojams su aktyvuota „opt-in“ funkcija ir prieš tai pašalina paskyros žymes. „Google“ praneša apie „Gemini“, kad žmonės tikrina kai kuriuos įrašytus pokalbius.
Vienas „404 Media“ paklaustas darbuotojas, dirbantis su užklausomis, mano, kad dauguma vartotojų nežino, kad tikri žmonės gali skaityti jų pokalbius.
Liko neaišku, kaip dažnai jautri duomenys, nors ir su filtru, pasiekia tikrintojus ir kaip aiškiai vartotojai yra informuojami apie tai.
KODĖL TAI SVARBU
Milijonai žmonių dalijasi su „ChatGPT“ asmenine ir kartais labai privacia informacija, nežinodami, kad ją gali skaityti tikri žmonės.
KĄ DABAR GALI PADARYTI
- Išjungti duomenų naudojimą modelio tobulinimui Atidaryk „ChatGPT“ nustatymus, eik į duomenų kontrolę ir išjungk parinktį modelio tobulinimui visiems vartotojams.
- Neteikti jautrių duomenų Neteik chatbotui sveikatos, teisinių ar finansinių duomenų. Elgiesi su savo įvestimis taip, tarsi jas galėtų skaityti kažkas kitas.
- Naudoti verslo ar švietimo paskyrą Šie paskyrų tipai turi duomenų dalijimąsi numatytai išjungtą. Jei įmanoma, naudok tokį paskyrą norint didesnės privatumo.
- Reguliariai tikrinti privatumo nustatymus Žiūrėk į privatumo parinktis programoje nuolat. Teikėjai kartais keičia numatytąsias parinktis be didelio pranešimo.