El Oversight Board critica el manejo de deepfakes por parte de Meta como insuficiente
El consejo de supervisión independiente de Meta, el Oversight Board, ha ordenado a la empresa eliminar dos vídeos generados por IA de la plataforma Facebook.
Un vídeo mostraba a un político local escocés del partido Labour haciendo supuestas declaraciones incitadoras sobre refugiados. El otro vídeo se burlaba de una activista musulmana que promueve la educación sobre salud menstrual, mostrando imágenes absurdas de ella practicando deportes y comiendo comida basura.
Según el consejo, ambos vídeos fueron generados por IA. En el caso del político, el consejo lo identificó, entre otras cosas, porque el audio y los movimientos de labios no coincidían del todo. Los vídeos de la activista alcanzaron, según la información, decenas de millones de visualizaciones en internet.
Meta no había eliminado inicialmente el vídeo del político porque, según sus propias declaraciones, no había sido reportado por organizaciones asociadas de confianza. Además, faltaba la etiqueta de IA porque la persona que subió el vídeo no lo había indicado.
El consejo calificó las medidas de protección de Meta como "consistentemente e fundamentalmente insuficientes" ante el rápido aumento de las falsificaciones con IA. La presidenta del consejo, Pamela San Martin, afirmó que los deepfakes se utilizan cada vez más para excluir a las mujeres del debate público.
El consejo recomendó a Meta nueve cambios, como etiquetas más estrictas para contenidos de IA de riesgo, una menor visibilidad de estas publicaciones en los feeds y sanciones más duras para reincidentes. Según la información, Meta tiene 60 días para responder.
POR QUÉ ES IMPORTANTE
El caso demuestra que incluso plataformas grandes como Meta aún no tienen reglas fiables para proteger a las personas de falsificaciones con IA dirigidas.
QUÉ PUEDES HACER AHORA
- Sé escéptico con contenidos de vídeo impactantes Si un vídeo muestra afirmaciones extremas o sorprendentes, obsérvalo con más atención. Si el audio y los movimientos de labios no coinciden del todo, puede ser una señal de falsificación.
- Reporta los vídeos sospechosos a la plataforma Usa la función de denuncia si crees que un vídeo es una falsificación con IA. Describe brevemente por qué piensas que el vídeo es falso para agilizar la revisión.
- No confíes solo en las etiquetas de IA A menudo faltan etiquetas como las de contenido generado por IA, incluso cuando un vídeo es claramente falso. Por eso, verifica además si fuentes de noticias serias informan sobre el contenido.
- No compartas contenidos poco claros sin verificar Antes de reenviar un vídeo perturbador, busca el original o una confirmación por parte de medios conocidos. Así evitas que una falsificación se difunda más.