Oversight Board kritisiert Metas Umgang mit Deepfakes als unzureichend
Metas unabhängiges Aufsichtsgremium, das Oversight Board, hat den Konzern angewiesen, zwei KI-generierte Videos von der Plattform Facebook zu entfernen.
Ein Video zeigte einen schottischen Labour-Kommunalpolitiker, der angeblich hetzerische Aussagen über Geflüchtete machte. Das andere Video verspottete eine muslimische Aktivistin, die sich für Aufklärung zur Menstruationsgesundheit einsetzt, indem es sie beim absurden Sport treiben und Junkfood essen zeigte.
Laut dem Board waren beide Videos KI-generiert. Im Fall des Politikers erkannte das Gremium dies unter anderem daran, dass Ton und Lippenbewegungen nicht vollständig übereinstimmten. Die Videos der Aktivistin erreichten laut Material zusammen zig Millionen Aufrufe im Internet.
Meta hatte das Video des Politikers zunächst nicht entfernt, weil es laut eigenen Angaben nicht von vertrauten Partnerorganisationen gemeldet worden war. Auch eine KI-Kennzeichnung fehlte, weil die Person, die das Video hochgeladen hatte, dies nicht angegeben hatte.
Das Board bezeichnete Metas Schutzmaßnahmen als „durchgängig und grundlegend unzureichend“ angesichts der schnellen Zunahme von KI-Fälschungen. Board-Vorsitzende Pamela San Martin sagte, Deepfakes würden zunehmend genutzt, um Frauen von der öffentlichen Debatte auszuschließen.
Das Gremium empfahl Meta neun Änderungen, etwa strengere Kennzeichnungen für riskante KI-Inhalte, eine geringere Sichtbarkeit solcher Beiträge in Feeds und höhere Strafen für wiederholte Verstöße. Meta hat laut Material 60 Tage Zeit, um darauf zu reagieren.
WARUM DAS WICHTIG IST
Der Fall zeigt, dass selbst große Plattformen wie Meta bislang keine verlässlichen Regeln haben, um Menschen vor gezielten KI-Fälschungen zu schützen.
WAS DU JETZT TUN KANNST
- Sei skeptisch bei schockierenden Video-Inhalten Wenn ein Video besonders extreme oder überraschende Aussagen zeigt, schau genauer hin. Passen Mundbewegungen und Ton nicht ganz zusammen, kann das ein Hinweis auf eine Fälschung sein.
- Melde verdächtige Videos der Plattform Nutze die Meldefunktion, wenn du ein Video für eine KI-Fälschung hältst. Beschreibe kurz, warum du das Video für gefälscht hältst, damit die Prüfung schneller geht.
- Verlass dich nicht allein auf KI-Kennzeichnungen Kennzeichnungen wie ein KI-Hinweis fehlen oft, auch wenn ein Video eindeutig gefälscht ist. Prüfe deshalb zusätzlich, ob seriöse Nachrichtenquellen über den Inhalt berichten.
- Teile unklare Inhalte nicht ungeprüft weiter Bevor du ein aufwühlendes Video weiterleitest, suche nach dem Original oder einer Bestätigung durch bekannte Medien. So verhinderst du, dass sich eine Fälschung weiter verbreitet.