监督委员会批评 Meta 处理深度伪造内容的方式不足
Meta 的独立监督委员会（Oversight Board）已指示该集团从 Facebook 平台上删除两个由人工智能生成的视频。
其中一个视频展示了一位苏格兰工党地方政治家，他似乎发表了针对难民的煽动性言论。另一个视频则嘲弄了一位致力于月经健康教育的穆斯林活动家，将她描绘成从事荒谬运动和吃垃圾食品的形象。
根据监督委员会的说法，这两个视频都是由人工智能生成的。在政治家的案例中，委员会部分通过声音与唇部动作不完全同步这一现象识别出这是伪造内容。而活动家的视频在网络上累计获得了数千万次观看。
Meta 最初未删除政治家的视频，因为根据其自身说明，该视频未被其信任的合作伙伴组织举报。此外，由于上传视频的人未申报，因此缺少人工智能标识。
委员会称 Meta 的保护措施“全面且根本性不足”，鉴于人工智能伪造内容的快速增长。委员会主席 Pamela San Martin 表示，深度伪造内容越来越多地被用来将女性排除在公共辩论之外。
委员会向 Meta 建议了九项改进措施，例如对高风险人工智能内容实施更严格的标识、降低此类内容在信息流中的可见性，以及对重复违规行为施加更高处罚。根据资料，Meta 有 60 天时间作出回应。
为什么这很重要
此案例表明，即使是 Meta 这样的大型平台，目前仍缺乏可靠的规则来保护人们免受有针对性的人工智能伪造内容的侵害。
你现在可以做什么
- 对震惊的视频内容保持怀疑 如果视频包含特别极端或出人意料的言论，请仔细观察。如果声音与唇部动作不完全吻合，这可能是伪造的迹象。
- 举报可疑视频给平台 如果你认为某个视频是人工智能伪造的，请使用举报功能。简要说明你为何认为该视频是伪造的，这样可以加快审核进程。
- 不要仅依赖人工智能标识 即使视频明显是伪造的，人工智能提示等标识往往也会缺失。因此，还应检查可靠的新闻来源是否报道了该内容。
- 勿在未核实的情况下转发模糊内容 在转发一个可能引起情绪波动的视频之前，请先寻找原始内容或知名媒体的确认。这样可以防止伪造内容的进一步传播。