Le conseil de surveillance critique la gestion des deepfakes par Meta comme insuffisante
Le conseil de surveillance indépendant de Meta, l’Oversight Board, a ordonné au groupe de retirer deux vidéos générées par IA de la plateforme Facebook.
Une vidéo montrait un homme politique local écossais du parti travailliste tenant des propos prétendument haineux à l’encontre des réfugiés. L’autre vidéo se moquait d’une militante musulmane engagée dans l’éducation sur la santé menstruelle en la montrant pratiquant un sport absurde et mangeant de la malbouffe.
Selon le conseil, les deux vidéos étaient générées par IA. Dans le cas du politicien, le conseil l’a notamment reconnu au fait que le son et les mouvements des lèvres ne correspondaient pas parfaitement. Les vidéos de la militante ont, selon les documents, totalisé des dizaines de millions de vues sur Internet.
Meta n’avait pas supprimé la vidéo du politicien dans un premier temps, car, selon ses propres déclarations, elle n’avait pas été signalée par des organisations partenaires de confiance. De plus, aucune mention IA n’avait été ajoutée, car la personne ayant publié la vidéo ne l’avait pas indiqué.
Le conseil a qualifié les mesures de protection de Meta de « systématiquement et fondamentalement insuffisantes » face à la rapide augmentation des falsifications par IA. La présidente du conseil, Pamela San Martin, a déclaré que les deepfakes étaient de plus en plus utilisés pour exclure les femmes des débats publics.
Le conseil a recommandé à Meta neuf modifications, comme des étiquettes plus strictes pour les contenus IA à risque, une visibilité réduite de ces publications dans les fils d’actualité et des sanctions plus sévères en cas de récidive. Selon les documents, Meta dispose de 60 jours pour réagir.
POURQUOI C'EST IMPORTANT
Ce cas montre que même les grandes plateformes comme Meta n’ont pas encore de règles fiables pour protéger les personnes contre les falsifications ciblées par IA.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Soyez sceptique face aux contenus vidéo choquants Si une vidéo présente des déclarations extrêmes ou surprenantes, examinez-la de plus près. Si les mouvements de la bouche et le son ne correspondent pas parfaitement, cela peut indiquer une falsification.
- Signalez les vidéos suspectes à la plateforme Utilisez la fonction de signalement si vous pensez qu’une vidéo est un deepfake. Décrivez brièvement pourquoi vous pensez que la vidéo est falsifiée pour accélérer l’examen.
- Ne vous fiez pas uniquement aux mentions IA Les mentions comme un avertissement IA manquent souvent, même si une vidéo est clairement falsifiée. Vérifiez également si des sources d’information fiables rapportent le contenu.
- Ne partagez pas de contenus non vérifiés Avant de transmettre une vidéo troublante, recherchez l’original ou une confirmation par des médias reconnus. Ainsi, vous empêchez la propagation d’une falsification.