Oversight Board kritisoi Metan deepfakejen käsittelyä riittämättömäksi
Metan riippumaton valvontalautakunta, Oversight Board, on määrännyt yhtiön poistamaan kaksi KI:n avulla luotua videota Facebook-alustalta.
Toisessa videossa skotlantilainen työväenpuolueen kunnanvaltuutettu teki väitetysti vihapuhetta pakolaisista. Toisessa videossa pilkattiin muslimiaktivistia, joka ajaa kuukautisterveyden valistusta, näyttämällä hänet tekemässä absurdeja urheilusuorituksia ja syömässä roskaruokaa.
Lautakunnan mukaan molemmat videot oli luotu KI:llä. Poliitikkoa koskeneessa tapauksessa lautakunta tunnisti videon KI-tuotannoksi muun muassa siitä, että ääni ja huulien liikkeet eivät täysin vastanneet toisiaan. Aktivistin videoilla oli lautakunnan materiaalin mukaan kymmeniä miljoonia katselukertoja internetissä.
Meta ei ollut alun perin poistanut poliitikon videota, koska sen mukaan videota ei ollut ilmoitettu luotettavien kumppanijärjestöjen toimesta. Myös KI-merkintä puuttui, koska videon lataaja ei ollut ilmoittanut sitä.
Lautakunta kuvaili Metan suojatoimia „johdonmukaisesti ja perusteellisesti riittämättömiksi“ KI-väärennösten nopean lisääntymisen vuoksi. Lautakunnan puheenjohtaja Pamela San Martin sanoi, että deepfakeja käytetään yhä useammin naisten sulkemiseen pois julkisesta keskustelusta.
Lautakunta suositteli Metalle yhdeksää muutosta, kuten tiukempia merkintöjä riskialttiille KI-sisällölle, pienempää näkyvyyttä tällaisille julkaisuille syötteissä sekä kovempia rangaistuksia toistuvista rikkomuksista. Metalla on lautakunnan materiaalin mukaan 60 päivää aikaa vastata suosituksiin.
MIKSI TÄMÄ ON TÄRKEÄÄ
Tapaus osoittaa, että jopa suuret alustat kuten Meta eivät ole vielä luoneet luotettavia sääntöjä suojellakseen ihmisiä tahallisilta KI-väärennöksiltä.
MITÄ VOIT TEHDÄ NYT
- Ole skeptinen shokkivideoita kohtaan Jos video sisältää erityisen äärimmäisiä tai yllättäviä väitteitä, tarkastele sitä tarkemmin. Jos suun liikkeet ja ääni eivät täysin vastaa toisiaan, se voi olla väärennöksen merkki.
- Ilmoita epäilyttävät videot alustalle Käytä ilmoitusfunktiota, jos epäilet videon olevan KI-väärennös. Kuvaile lyhyesti, miksi pidät videota väärennöksenä, jotta tarkistus etenee nopeammin.
- Älä luota pelkästään KI-merkintöihin KI-merkinnät, kuten KI-huomautukset, puuttuvat usein, vaikka video olisi selvästi väärennös. Tarkista siksi lisäksi, ovatko luotettavat uutislähteet raportoineet sisällöstä.
- Älä levitä epäselviä sisältöjä tarkistamatta Ennen kuin jaat levottomuutta herättävän videon, etsi alkuperäinen video tai tunnustus tunnetuilta medioilta. Näin estät väärennöksen leviämisen.