OpenAI antaa työntekijöiden lukea ja arvioida ChatGPT-keskusteluja
OpenAI:n sisäisten asiakirjojen mukaan, jotka 404 Media -lehti on saanut käsiinsä, yhtiö käyttää satoja ulkopuolisia työntekijöitä, jotka lukevat ja arvioivat aitoja ChatGPT-keskusteluja.
Kyseessä ovat ilmaisten, Plus- ja PRO-tilien käyttäjät, sillä näillä datan käyttö mallin parantamiseen on oletuksena käynnissä. Liiketoiminta- ja koulutustilit on jätetty tämän ulkopuolelle.
’Lily’-koodnimellä kulkevan projektin puitteissa ulkopuoliset tarkastajat saavat pääsyn kehotuksiin ja osittain myös aiempien keskustelujen yhteenvetoihin kautta näytöillä. He arvioivat KI:n tuottamia neljää vastausvaihtoehtoa asteikolla 1–7 ja merkitsivät sopimattomat ilmaisut.
OpenAI käyttää ennalta niin kutsuttua yksityisyyssuodatinta henkilötietojen poistamiseen. Yhtiö myöntää kuitenkin, että harvinaiset tunnisteet tai yksityiset tiedot, kuten sijaintitiedot, voivat silti päätyä tarkastajien luo.
Myös muut tarjoajat hyödyntävät ihmisten valvontaa: Anthropic rajoittaa sen omien tietojensa mukaan vain käyttäjiin, joilla on opt-in-toiminto käynnissä, ja poistaa ennalta tilitunnukset. Google mainitsee Geminin kohdalla, että ihmiset tarkastavat joitakin tallennettuja keskusteluja.
404 Median haastattelema työntekijä, joka työskentelee kehotusten parissa, arvelee, että useimmat käyttäjät eivät tiedä, että todelliset ihmiset voivat lukea heidän keskustelujaan.
Avoimena jää, kuinka usein herkät tiedot päätyvät tarkastajille huolimatta suodattimesta ja kuinka läpinäkyvästi käyttäjiä asiasta informoidaan.
MIKSI TÄMÄ ON TÄRKEÄÄ
Miljoonat ihmiset jakavat ChatGPT:n kanssa henkilökohtaisia ja joskus hyvin yksityisiä tietoja tietämättä, että nämä voivat tulla luetuksi aidoilta ihmisiltä.
MITÄ VOIT TEHDÄ NYT
- Poista mallin parantamisen datankäyttö käytöstä Avaa ChatGPT:n asetukset ja siirry tietojen hallintaan. Poista sieltä mallin parantamisen vaihtoehto kaikille käyttäjille.
- Älä syötä herkkiä tietoja Älä jaa terveyden-, oikeudellisten tai rahoitusietojen kaltaisia herkkiä tietoja chatbotille. Käsittele syöttöjäsi niin, kuin joku muu voisi lukea ne.
- Käytä liiketoiminta- tai koulutustiliä Näillä tilityypeillä datan jakaminen on oletuksena poistettu käytöstä. Käytä mahdollisuuksien mukaan tällaista tiliä paremman yksityisyyden vuoksi.
- Tarkista yksityisyysasetukset säännöllisesti Käy ajoittain läpi sovelluksen tietosuoja-asetukset. Palveluntarjoajat muuttavat joskus oletusasetuksia ilman suurempaa ilmoitusta.