Oversight Board kritiserar Metas hantering av deepfakes som otillräcklig
Metas oberoende övervakningsnämnd, Oversight Board, har beordrat koncernen att ta bort två KI-genererade videor från plattformen Facebook.
En video visade en skotsk Labour-kommunalpolitiker som påstås ha gjort hatiska uttalanden om flyktingar. Den andra videon hånade en muslimsk aktivist som engagerar sig för upplysning om menstruationshälsa genom att visa henne sysselsatt med absurd idrott och äta skräpmat.
Enligt nämnden var båda videorna KI-genererade. I fallet med politikern märkte nämnden bland annat att ljud och läpprörelser inte stämde helt överens. Videorna med aktivisten nådde enligt materialet tillsammans tiotals miljoner visningar på internet.
Meta hade initialt inte tagit bort videon med politikern eftersom den enligt egna uppgifter inte hade rapporterats av betrodda partnerorganisationer. Även en KI-märkning saknades, eftersom den person som laddade upp videon inte hade angett detta.
Nämnden beskrev Metas skyddsåtgärder som "genomgående och grundläggande otillräckliga" med tanke på den snabba ökningen av KI-förfalskningar. Nämndens ordförande Pamela San Martin sade att deepfakes alltmer används för att utesluta kvinnor från den offentliga debatten.
Nämnden rekommenderade Meta nio förändringar, bland annat strängare märkningar för riskfyllda KI-innehåll, lägre synlighet för sådana inlägg i flöden och högre straff för upprepade överträdelser. Meta har enligt materialet 60 dagar på sig att svara.
VARFÖR DET ÄR VIKTIGT
Fallet visar att även stora plattformar som Meta ännu inte har tillförlitliga regler för att skydda människor mot riktade KI-förfalskningar.
VAD DU KAN GÖRA NU
- Var skeptisk till chockerande videor Om en video innehåller särskilt extrema eller överraskande påståenden, titta noggrant. Om munrörelser och ljud inte stämmer helt överens kan det vara ett tecken på en förfalskning.
- Anmäl misstänkta videor till plattformen Använd anmälningsfunktionen om du tror att en video är en KI-förfalskning. Beskriv kort varför du anser att videon är förfalskad så att granskningen går snabbare.
- Förlita dig inte enbart på KI-märkningar Märkningar som en KI-varning saknas ofta, även om en video tydligt är förfalskad. Kontrollera därför också om seriösa nyhetskällor rapporterar om innehållet.
- Dela oklara innehåll inte okontrollerat Innan du vidarebefordrar en upprörande video, sök efter originalet eller en bekräftelse från kända medier. Så förhindrar du att en förfalskning sprids vidare.