Oversight Board、Metaのディープフェイク対応を不十分と批判
Metaの独立した監査機関であるOversight Boardは、同社に対し、Facebookプラットフォームから2本のAI生成動画を削除するよう指示した。
1本の動画では、スコットランドの労働党の地方政治家が、難民に対する扇動的な発言をしたかのように見せられていた。もう1本の動画では、月経健康の啓発活動を行うムスリムの活動家が、奇妙なスポーツをしたりジャンクフードを食べたりする様子が描かれ、彼女を嘲笑していた。
Boardによると、これらの動画はすべてAIによって生成されたものだった。政治家の動画については、音声と唇の動きが完全に一致していないことなどから、ディープフェイクであると判断された。活動家の動画は、インターネット上で数千万回以上再生されたという。
Metaは当初、政治家の動画を削除しなかった。同社によると、信頼できるパートナー団体からの通報がなかったためだ。また、動画をアップロードした人物がAI生成であると申告していなかったため、AIによる表示もなかった。
Boardは、Metaの保護措置を「一貫して根本的に不十分」と批判した。Boardの議長であるPamela San Martin氏は、ディープフェイクが女性を公的な議論から排除するために利用されるケースが増えていると指摘した。
BoardはMetaに対し、9つの改善策を提言した。例えば、リスクの高いAIコンテンツへの厳格な表示、フィードにおけるこうした投稿の可視性の低下、繰り返しの違反に対するより厳しい罰則などだ。Metaは、これに対応するための60日間の猶予期間を与えられたという。
なぜ重要なのか
この事例は、Metaのような大手プラットフォームでさえ、人々を標的としたAIによる偽造から守るための信頼できるルールをまだ持っていないことを示しています。
今すぐできること
- 衝撃的な動画コンテンツには懐疑的になりましょう 動画に極端な内容や驚くべき発言が含まれている場合、よく観察しましょう。口の動きと音声が完全に一致していない場合、偽造の可能性があります。
- 疑わしい動画はプラットフォームに通報しましょう 動画がAIによる偽造だと感じた場合、通報機能を利用しましょう。なぜその動画が偽造だと考えるのかを簡単に説明することで、審査が早く進みます。
- AI表示だけに頼らないでください 動画が明らかに偽造であっても、AIによる表示が欠けていることが多いです。そのため、信頼できるニュースソースがその内容について報じているかどうかも確認しましょう。
- 不明なコンテンツを未確認のまま共有しないでください 動揺させられる動画を共有する前に、元の動画や信頼できるメディアによる確認を探しましょう。これにより、偽造が広まるのを防ぐことができます。