美国法院确认五角大楼将Anthropic列为安全风险的决定
华盛顿特区的一家上诉法院裁定，美国国防部有权将AI公司Anthropic列为“供应链风险”。法官以2比1的票数支持美国政府的决定。
争议的起因是Anthropic拒绝向五角大楼提供其AI模型Claude的无限制访问权。该公司希望在合同中排除其技术被用于对美国公民进行大规模监控或用于自主武器系统的可能性。
五角大楼拒绝了这些条件，并下令联邦机构不得再使用Anthropic的技术。根据法庭文件，国防部从3月开始移除这些AI系统。
法官们据Ars Technica报道表示，如果AI模型受到过多限制而意外失效，可能会导致重要的军事行动失败，这“极其令人担忧”。Anthropic则辩称，无限制的模型可能会错误识别致命暴力的目标。
Anthropic的一位发言人据CNBC报道表示，公司对判决结果不满，并正在考虑所有选项，包括进一步的法律审查。加利福尼亚州的另一家联邦法院在8月曾裁定类似的分类为非法。
由于美国政府使用了两种不同的法律依据进行分类，因此需要两个法院分别裁决。目前如何继续尚不明确：Anthropic可以申请重新审理，或将案件提交至最高法院。
为什么这很重要
此案显示，政府可能会试图迫使AI公司无条件交出其技术，即使这可能带来监控和自主武器系统的风险。
你现在可以做什么
- 关注政府AI使用政策 关注可靠新闻来源，了解政府在AI使用方面的决策。这样你可以及早发现监控或武器系统规则的变化。
- 质疑政府部门的AI使用 当公共机构使用AI系统时，了解其具体用途和限制条件。公民权利组织通常会发布相关信息。
- 支持透明度要求 倡导制定明确的法律规则，规定AI在军事或监控领域的使用方式。这可以通过请愿或政治参与来实现。
- 检查使用的AI服务的数据保护 阅读你使用的AI应用的使用条款，特别是关于向政府部门传输数据的部分。这样你就知道哪些数据受到保护。