Oversight Board kritiserer Metas håndtering av deepfakes som utilstrekkelig
Metas uavhengige kontrollorgan, Oversight Board, har bedt selskapet fjerne to KI-genererte videoer fra plattformen Facebook.
En video viste en skotsk Labour-lokalpolitiker som angivelig kom med hetsende uttalelser om flyktninger. Den andre videoen hånet en muslimsk aktivist som jobber for opplysning om menstruasjonshelse, ved å vise henne drive med absurd sport og spise usunt mat.
Ifølge kontrollorganet var begge videoene KI-genererte. I tilfellet med politikeren la organet blant annet merke til at lyd og leppebevegelser ikke stemte helt overens. Videoene av aktivisten nådde ifølge materialet titalls millioner visninger på nettet.
Meta hadde ikke fjernet videoen av politikeren i utgangspunktet, fordi den ifølge egne opplysninger ikke var rapportert av pålitelige partnerorganisasjoner. Dessuten manglet en KI-merking fordi personen som lastet opp videoen ikke hadde oppgitt dette.
Kontrollorganet kalte Metas beskyttelsestiltak for «gjennomgående og fundamentalt utilstrekkelige» i lys av den raske økningen av KI-falskninger. Styreleder Pamela San Martin sa at deepfakes i økende grad blir brukt for å ekskludere kvinner fra den offentlige debatten.
Organet anbefalte Meta ni endringer, blant annet strengere merking av risikofylte KI-innhold, lavere synlighet for slike innlegg i feeden og strengere sanksjoner for gjentatte brudd. Meta har ifølge materialet 60 dager på seg til å svare.
HVORFOR DETTE ER VIKTIG
Saken viser at selv store plattformer som Meta hittil ikke har pålitelige regler for å beskytte mennesker mot målrettede KI-falskninger.
HVA DU KAN GJØRE NÅ
- Vær skeptisk til sjokkerende videoinnhold Hvis en video viser særlig ekstreme eller overraskende uttalelser, bør du se nøyere etter. Stemmer munnbevegelser og lyd ikke helt overens, kan det være et tegn på en falskning.
- Rapporter mistenkelige videoer til plattformen Bruk rapporteringsfunksjonen hvis du mener en video er en KI-falskning. Beskriv kort hvorfor du tror videoen er falsk, slik at kontrollen går fortere.
- Stol ikke bare på KI-merking Merkinger som en KI-hint mangler ofte, selv om en video tydelig er falsk. Sjekk derfor også om seriøse nyhetskilder har skrevet om innholdet.
- Del uklar innhold ikke ukritisk videre Før du sender videre en oppsiktsvekkende video, bør du lete etter originalen eller en bekreftelse fra kjente medier. På den måten hindrer du at en falskning sprer seg videre.