Anthropic 阻止利用 Claude 进行生物武器研究的尝试

Anthropic 发布了一份报告，描述了该公司在 2025 年 12 月至 2026 年 8 月期间发现并阻止了利用其 AI 模型 Claude 进行危险用途的尝试。

根据 Anthropic 的报告，其中包括 5 起利用 Claude 进行生物武器研究的案例。例如，有人通过匿名电子邮件地址和 VPN 发送数千条消息，寻求帮助研究一种高传染性流感病毒。

在另一起案例中，Anthropic 表示，一名科学家试图利用 Claude 起草一份在军事设施进行病毒研究的资助申请。尽管动机不明确，但该公司出于谨慎仍阻止了访问。

报告还提到，有人尝试利用 Claude 开发常规武器，例如也门的某些团体利用其开发火箭和无人机，以及中国的反鱼雷技术。此外，Anthropic 表示，与俄罗斯和伊朗有关联的团体还利用该 AI 进行间谍活动和宣传。

Anthropic 还指责中国的 Moonshot 和 Deepseek 等公司暗中将请求转发给 Claude，以训练自己的 AI 模型。这些指控目前无法通过现有来源进行独立核实。

Anthropic 的威胁分析负责人 Jacob Klein 对《纽约时报》表示，这是一个“难以置信的复杂局面”，因为同样的信息既可能用于武器，也可能用于疫苗研发。

这份报告发布之际，Anthropic 的一位前高级安全研究员刚刚公开警告 AI 对人类的风险。

为什么这很重要

这份报告表明，尽管供应商试图阻止，但 AI 模型已被有针对性地用于生物武器和武器研究等危险用途。

对 AI 关于化学品、病毒或武器的回答保持怀疑 如果 AI 向你提供化学品、病毒或武器的相关信息，请务必向官方可信渠道核实，切勿仅依赖聊天机器人。
举报可疑的 AI 服务使用情况 如果你发现有人试图利用 AI 进行危险用途，可以向服务提供商或相关部门举报。许多公司都提供了专门的举报表单。
阅读大型 AI 提供商的安全报告 Anthropic 等公司会定期发布关于 AI 滥用的报告。阅读这些报告可以帮助你了解存在的风险以及这些风险被重视的程度。
仅通过官方渠道使用 AI 服务 避免使用可疑的转售商或匿名访问 AI 工具，因为这些渠道常被用来绕过安全规则。请在正规提供商处用真实身份注册使用。