Il comitato di supervisione critica la gestione dei deepfake da parte di Meta come inadeguata
Il comitato di supervisione indipendente di Meta, l'Oversight Board, ha ordinato all'azienda di rimuovere due video generati dall'IA dalla piattaforma Facebook.
Un video mostrava un politico locale scozzese del Partito Laburista che avrebbe fatto affermazioni incitanti all'odio sui rifugiati. L'altro video derideva un'attivista musulmana impegnata nella sensibilizzazione sulla salute mestruale, mostrandola mentre praticava uno sport assurdo e mangiava cibo spazzatura.
Secondo il comitato, entrambi i video erano generati dall'IA. Nel caso del politico, il comitato ha rilevato, tra l'altro, che audio e movimenti delle labbra non coincidevano perfettamente. I video dell'attivista, secondo le informazioni disponibili, hanno raggiunto decine di milioni di visualizzazioni su internet.
Meta inizialmente non aveva rimosso il video del politico perché, secondo le sue dichiarazioni, non era stato segnalato da organizzazioni partner affidabili. Inoltre, mancava un'etichetta di IA perché la persona che aveva caricato il video non l'aveva indicato.
Il comitato ha definito le misure di protezione di Meta come "consistentemente e fondamentalmente inadeguate" di fronte alla rapida crescita delle falsificazioni create dall'IA. La presidente del comitato, Pamela San Martin, ha dichiarato che i deepfake vengono sempre più utilizzati per escludere le donne dal dibattito pubblico.
Il comitato ha raccomandato a Meta nove modifiche, tra cui etichette più rigorose per i contenuti IA a rischio, una minore visibilità di tali post nei feed e sanzioni più severe per le violazioni ripetute. Secondo le informazioni disponibili, Meta ha 60 giorni di tempo per rispondere.
PERCHÉ È IMPORTANTE
Il caso dimostra che anche grandi piattaforme come Meta non dispongono ancora di regole affidabili per proteggere le persone dalle falsificazioni mirate create dall'IA.
COSA PUOI FARE ORA
- Sii scettico di fronte a contenuti video scioccanti Se un video mostra affermazioni estreme o sorprendenti, osservalo con attenzione. Se movimenti delle labbra e audio non coincidono perfettamente, potrebbe essere un segno di falsificazione.
- Segnala i video sospetti alla piattaforma Utilizza la funzione di segnalazione se ritieni che un video sia una falsificazione creata dall'IA. Descrivi brevemente perché pensi che il video sia falso, in modo che la verifica sia più rapida.
- Non affidarti solo alle etichette IA Le etichette come l'indicazione di contenuto generato dall'IA spesso mancano, anche quando un video è chiaramente falso. Controlla quindi se fonti di notizie affidabili hanno riportato il contenuto.
- Non condividere contenuti poco chiari senza averli verificati Prima di inoltrare un video che suscita emozioni forti, cerca l'originale o una conferma da parte di media noti. In questo modo eviti che una falsificazione si diffonda ulteriormente.