Oversight Board kritiseert Metas omgang met deepfakes als onvoldoende
Het onafhankelijke toezichthoudend orgaan van Meta, het Oversight Board, heeft het bedrijf opgedragen twee door KI gegenereerde video's van het platform Facebook te verwijderen.
Een video toonde een Schotse Labour-lokale politicus die zogenaamd haatzaaiende uitspraken over vluchtelingen deed. De andere video bespotte een moslimactiviste die zich inzet voor voorlichting over menstruatiegezondheid, door haar af te beelden terwijl ze een absurde sport beoefende en junkfood at.
Volgens het Board waren beide video's door KI gegenereerd. In het geval van de politicus herkende het orgaan dit onder meer aan het feit dat geluid en lipbewegingen niet volledig op elkaar aansloten. De video's van de activiste bereikten samen volgens de documenten tientallen miljoenen views op internet.
Meta had de video van de politicus aanvankelijk niet verwijderd, omdat deze volgens eigen zeggen niet was gemeld door vertrouwde partnerorganisaties. Ook ontbrak een KI-aanduiding, omdat de persoon die de video had geüpload, dit niet had aangegeven.
Het Board noemde Metas beschermingsmaatregelen „doorlopend en fundamenteel onvoldoende” in het licht van de snelle toename van KI-vervalsing. Voorzitter Pamela San Martin van het Board zei dat deepfakes steeds vaker worden gebruikt om vrouwen uit het publieke debat te sluiten.
Het orgaan adviseerde Meta negen wijzigingen, zoals strengere aanduidingen voor risicovolle KI-inhoud, een lagere zichtbaarheid van dergelijke berichten in feeds en hogere straffen voor herhaalde overtredingen. Meta heeft volgens de documenten 60 dagen de tijd om hierop te reageren.
WAAROM DIT BELANGRIJK IS
Deze zaak laat zien dat zelfs grote platforms zoals Meta nog geen betrouwbare regels hebben om mensen te beschermen tegen gerichte KI-vervalsing.
WAT JE NU KUNT DOEN
- Wees sceptisch bij schokkende videocontent Als een video bijzonder extreme of verrassende uitspraken toont, kijk dan goed. Als mondbewegingen en geluid niet helemaal op elkaar aansluiten, kan dat een aanwijzing zijn voor vervalsing.
- Meld verdachte video's aan het platform Gebruik de meldfunctie als je denkt dat een video een KI-vervalsing is. Beschrijf kort waarom je denkt dat de video vervalst is, zodat de controle sneller verloopt.
- Vertrouw niet alleen op KI-aanduidingen Aanduidingen zoals een KI-hint ontbreken vaak, ook als een video duidelijk vervalst is. Controleer daarom ook of betrouwbare nieuwsbronnen over de inhoud berichten.
- Deel onduidelijke inhoud niet onbeoordeeld door Voordat je een opwindende video deelt, zoek dan naar het origineel of een bevestiging door bekende media. Zo voorkom je dat een vervalsing zich verder verspreidt.