Oversight Board kritiserer Metas håndtering af deepfakes som utilstrækkelig
Metas uafhængige tilsynsorgan, Oversight Board, har pålagt koncernen at fjerne to KI-genererede videoer fra platformen Facebook.
En video viste en skotsk Labour-lokalpolitiker, der angiveligt fremførte hadske udtalelser om flygtninge. Den anden video gjorde grin med en muslimsk aktivist, der arbejder for oplysning om menstruationssundhed, ved at vise hende dyrke absurd sport og spise junkfood.
Ifølge Oversight Board var begge videoer KI-genererede. I tilfældet med politikeren genkendte organet dette blandt andet på, at lyd og læbebevægelser ikke stemte helt overens. Videoerne med aktivisten nåede ifølge materialet op på millioner af visninger på nettet.
Meta havde ikke fjernet videoen med politikeren, fordi den ifølge egne oplysninger ikke var blevet indberettet af betroede partnerorganisationer. Der manglede også en KI-mærkning, fordi den person, der havde uploadet videoen, ikke havde angivet dette.
Oversight Board betegnede Metas beskyttelsesforanstaltninger som „igennemgående og fundamentalt utilstrækkelige“ i lyset af den hurtige stigning i KI-falsknerier. Formand for Oversight Board, Pamela San Martin, sagde, at deepfakes i stigende grad bliver brugt til at udelukke kvinder fra den offentlige debat.
Organet anbefalede Meta ni ændringer, herunder strengere mærkninger for risikable KI-indhold, lavere synlighed af sådanne opslag i feeds og højere straf for gentagne overtrædelser. Ifølge materialet har Meta 60 dage til at reagere på dette.
HVORFOR DET ER VIGTIGT
Sagen viser, at selv store platforme som Meta endnu ikke har pålidelige regler for at beskytte mennesker mod målrettede KI-falsknerier.
HVAD DU KAN GØRE NU
- Vær skeptisk over for chokerende videoudtalelser Hvis en video viser særligt ekstreme eller overraskende udtalelser, skal du kigge nøjere. Hvis mundbevægelser og lyd ikke passer helt sammen, kan det være et tegn på en falskneri.
- Indberet mistænkelige videoer til platformen Brug indberetningsfunktionen, hvis du mener, at en video er en KI-falskneri. Beskriv kort, hvorfor du mener, videoen er falsk, så prøvelsen kan gå hurtigere.
- Stol ikke udelukkende på KI-mærkninger Mærkninger som en KI-henvisning mangler ofte, selvom en video tydeligt er falsk. Kontroller derfor også, om seriøse nyhedskilder rapporterer om indholdet.
- Del uklare indhold ikke ukritisk videre Før du videresender en opsigtsvækkende video, skal du søge efter originalen eller en bekræftelse fra kendte medier. Så forhindrer du, at en falskneri spreder sig videre.