감독 위원회, 메타의 딥페이크 대응을 ‘부족하다’고 비판
메타의 독립 감독 기관인 Oversight Board는 페이스북 플랫폼에서 두 개의 AI 생성 영상을 삭제하라고 메타에 지시했습니다.
한 영상은 스코틀랜드 노동당 지역 정치인이 난민에 대해 선동적인 발언을 했다는 내용이었습니다. 다른 영상은 월경 건강 교육을 주장하는 무슬림 활동가를 조롱하며, 그녀가 이상한 스포츠를 하거나 정크푸드를 먹는 모습으로 표현했습니다.
감독 위원회에 따르면 두 영상 모두 AI로 생성된 것이었습니다. 정치인의 경우, 소리와 입술 움직임이 완전히 일치하지 않는 점 등으로 AI 생성임을 확인했습니다. 활동가의 영상은 인터넷에서 수천만 건의 조회수를 기록했다고 합니다.
메타는 처음에 정치인의 영상을 삭제하지 않았습니다. 메타에 따르면, 해당 영상은 신뢰할 수 있는 파트너 조직에서 신고되지 않았기 때문이었습니다. 또한 영상을 업로드한 사람이 AI 생성임을 밝히지 않아 AI 표시도 없었습니다.
감독 위원회는 메타의 보호 조치가 ‘일관되고 근본적으로 부족하다’고 평가했습니다. 위원장 파멜라 산 마르틴은 딥페이크가 여성들을 공공 토론에서 배제시키기 위해 점점 더 활용되고 있다고 말했습니다.
감독 위원회는 메타에게 9가지 개선 사항을 제안했습니다. 예를 들어, 위험한 AI 콘텐츠에 대한 엄격한 표시, 피드에서 그러한 게시물의 가시성 낮추기, 반복적인 위반에 대한 더 높은 벌칙 등입니다. 메타는 이에 대해 60일 이내에 대응해야 합니다.
왜 중요한가
이 사건은 메타와 같은 대형 플랫폼조차도 AI 위조 영상으로부터 사람들을 보호할 수 있는 신뢰할 수 있는 규칙이 아직 없다는 사실을 보여줍니다.
지금 할 수 있는 일
- 충격적인 영상 콘텐츠에는 의심하세요 영상이 극단적이거나 놀랄 만한 내용을 담고 있다면, 더 자세히 살펴보세요. 입술 움직임과 소리가 완전히 맞지 않으면, 위조일 수 있습니다.
- 의심스러운 영상은 플랫폼에 신고하세요 영상이 AI 위조라고 생각되면 신고 기능을 이용하세요. 왜 위조라고 생각하는지 간단히 설명하면, 검토가 더 빠르게 진행됩니다.
- AI 표시만 믿지 마세요 AI 표시와 같은 표시가 없더라도 영상이 분명히 위조일 수 있습니다. 따라서 신뢰할 수 있는 뉴스 매체가 해당 내용을 보도하는지 추가로 확인하세요.
- 확인되지 않은 콘텐츠는 검증 없이 공유하지 마세요 동요를 일으키는 영상을 공유하기 전에, 원본이나 알려진 미디어의 확인을 찾으세요. 이렇게 하면 위조가 더 퍼지는 것을 방지할 수 있습니다.