Conselho de Supervisão critica abordagem da Meta em relação a deepfakes como insuficiente
O Conselho de Supervisão independente da Meta, o Oversight Board, ordenou que a empresa removesse dois vídeos gerados por IA da plataforma Facebook.
Um dos vídeos mostrava um político local escocês do partido Labour supostamente fazendo declarações inflamatórias sobre refugiados. O outro vídeo ridicularizava uma ativista muçulmana, que defende a educação sobre saúde menstrual, mostrando-a praticando um esporte absurdo e comendo comida não saudável.
De acordo com o Conselho, ambos os vídeos foram gerados por IA. No caso do político, o órgão identificou a falsificação, entre outras coisas, porque o áudio e os movimentos labiais não estavam completamente sincronizados. Os vídeos da ativista, segundo o material, alcançaram dezenas de milhões de visualizações na internet.
A Meta inicialmente não removeu o vídeo do político porque, segundo a empresa, ele não havia sido denunciado por organizações parceiras confiáveis. Além disso, não havia uma etiqueta de IA, pois a pessoa que postou o vídeo não o havia indicado.
O Conselho classificou as medidas de proteção da Meta como "consistentemente e fundamentalmente insuficientes" diante do rápido aumento de falsificações de IA. A presidente do Conselho, Pamela San Martin, afirmou que deepfakes estão sendo cada vez mais usados para excluir mulheres do debate público.
O órgão recomendou nove mudanças à Meta, como etiquetas mais rígidas para conteúdos de IA de risco, menor visibilidade dessas publicações nos feeds e penalidades mais severas para reincidências. Segundo o material, a Meta tem 60 dias para responder.
POR QUE ISSO É IMPORTANTE
O caso mostra que até grandes plataformas como a Meta ainda não têm regras confiáveis para proteger as pessoas de falsificações de IA direcionadas.
O QUE VOCÊ PODE FAZER AGORA
- Seja cético com conteúdos de vídeo chocantes Se um vídeo apresentar declarações extremas ou surpreendentes, observe com mais atenção. Se os movimentos da boca e o áudio não estiverem completamente sincronizados, isso pode ser um indício de falsificação.
- Denuncie vídeos suspeitos à plataforma Use a função de denúncia se achar que um vídeo é uma falsificação de IA. Descreva brevemente por que acha que o vídeo é falso para agilizar a análise.
- Não confie apenas em etiquetas de IA Etiquetas como um aviso de IA muitas vezes faltam, mesmo quando um vídeo é claramente falsificado. Por isso, verifique também se fontes de notícias confiáveis estão relatando o conteúdo.
- Não compartilhe conteúdos não verificados Antes de encaminhar um vídeo perturbador, procure pelo original ou por uma confirmação de meios de comunicação conhecidos. Assim, você evita que uma falsificação se espalhe ainda mais.