Anthropic、イエメンにおけるロケット開発のためのClaudeの悪用を報告
米国の企業Anthropicは脅威レポートで、イエメン北部のある行為者グループが、軍事用の制御ソフトウェアを開発するためにAIチャットボット「Claude」を利用しようとしたことを明らかにしました。
複数のメディア分析によると、このグループはイランが支援するフーシ反政府勢力である可能性が高いとされていますが、Anthropicは直接名前を挙げていません。
レポートによると、このグループは複数のClaudeインスタンスを並行して使用しました。1つはコードを書き、1つは調査を行い、3つ目は結果を検証するという、実際の開発チームのような分業体制でした。目標は、2,000キロメートル以上の射程を持つ弾道ミサイルを含むロケットの制御ソフトウェアでした。
Anthropicのセキュリティ対策を回避するため、ユーザーは多数の個別セッションにリクエストを分散させ、全体的な目的がわからないようにしました。Anthropicは、多くのリクエストは阻止できたものの、すべてを防ぐことはできなかったと説明しています。
実際のロケット発射テストでは失敗に終わりました。その数時間後、ユーザーは墜落データを再びClaudeにアップロードし、原因を特定しようとしました。
Anthropicは関連するアカウントを凍結し、当局に通報しました。フーシ側の代表者はレポートによると、武器開発に関しては公開情報に依存していると否定しています。また、ある武器専門家は、このグループがAIの支援を受けていても、機能する極超音速兵器を実際に製造できるかどうか疑問視しています。
Anthropicは、ユーザーがアカウント凍結前に、Claudeにアクセスしなくても使用できるオフラインのプログラムパッケージを既に作成していたと警告しています。
なぜ重要なのか
この事件は、セキュリティ対策が施されたAIシステムであっても、危険な武器の開発に悪用される可能性があり、以前は大規模な専門家チームが必要だった能力を、少数の行為者に提供してしまうことを示しています。
今すぐできること
- AIの安全性に関する約束に対しては懐疑的でいる どのAIシステムも100%悪用を防げるわけではありません。メーカーがすべての悪用を防げると盲目的に信じないでください。
- 悪用に関する報告について情報を得る 大手AI企業は定期的に、システムの悪用が発見された際のレポートを公開しています。信頼できるニュースソースを確認することで、現在のリスクをより正確に評価できます。
- 紛争に関するニュースの出典を厳しく精査する 武器開発や紛争に関する報告は、しばしば複雑で、時には矛盾する内容を含んでいます。複数の独立したメディアが同じ事実を確認しているかどうかを確認してください。
- 疑わしいAIの使用を報告する AIサービスの悪用の可能性を知った場合は、各サービスの通報機能を通じて提供者に報告できます。これにより、ユーザーは企業がセキュリティの脆弱性を修正するのを支援できます。