Anthropic报告Claude在也门被滥用于火箭开发
美国公司Anthropic在一份威胁报告中披露，也门北部的一个行动者团体尝试利用AI聊天机器人Claude开发军用控制软件。
多家媒体分析一致认为，该团体很可能是受伊朗支持的胡塞武装，尽管Anthropic并未直接点名。
根据报告，该团体同时使用多个Claude实例：一个编写代码，一个进行研究，第三个检查结果——类似真正的开发团队。目标是开发火箭控制软件，包括射程超过2000公里的弹道导弹。
为了绕过Anthropic的安全措施，用户将请求分散到多个独立会话中，使整体目的难以被识别。Anthropic表示，虽然拦截了大部分请求，但并非全部。
在一次真实的火箭试射中，导弹发射失败。几小时后，用户将坠毁数据重新上传到Claude，试图查明原因。
Anthropic封禁了相关账户并通知了安全部门。胡塞武装的一名代表据报告否认该团体依赖公开可获取的武器开发资源。一名武器专家还质疑，即使有AI协助，该团体是否真正具备制造可用高超音速武器的能力。
Anthropic警告称，用户在账户被封禁前已创建了一个独立的离线程序包，未来可能无需访问Claude即可继续使用。
为什么这很重要
此事件表明，尽管有安全防护措施，AI系统仍可能被滥用于开发危险武器，从而使原本需要大型专家团队的能力落入少数人手中。
你现在可以做什么
- 对AI安全承诺保持怀疑 没有任何AI系统能完全避免滥用。不要盲目相信厂商能阻止所有滥用行为。
- 关注滥用报告 大型AI公司会定期发布其系统被滥用的报告。查看权威新闻来源有助于你更好地评估当前风险。
- 仔细核实冲突新闻来源 武器开发和冲突相关的报告通常复杂且可能存在矛盾。注意是否有多家独立媒体确认相同事实。
- 举报可疑的AI使用 如果你发现某AI服务可能被滥用，可以通过其举报功能向提供商反映。这样用户可以帮助厂商修补安全漏洞。