Anthropic、Claudeをバイオ兵器研究に利用しようとする試みをブロック
Anthropicはレポートを発表し、2025年12月から2026年8月にかけて、同社のAIモデル「Claude」を危険な目的で利用しようとする試みを発見し、阻止したと説明しています。
Anthropicによると、その中にはバイオ兵器の研究にClaudeを利用しようとした5件のケースが含まれていました。例えば、匿名のメールアドレスとVPNを使って、高い感染力を持つインフルエンザウイルスの研究に関する支援を求めるために、何千ものメッセージを送信した人物がいました。
別のケースでは、Anthropicによると、ある科学者がClaudeを使って、軍の施設で行われるウイルス研究のための助成金申請書を作成しようとしていました。同社は慎重を期してアクセスをブロックしましたが、悪意の有無は明らかになりませんでした。
レポートには、イエメンのグループによるロケットやドローンの開発、中国からの対魚雷技術など、通常兵器の開発にClaudeを利用しようとする試みも記載されています。また、Anthropicによると、ロシアやイランとのつながりのあるグループが、Claudeをスパイ活動やプロパガンダに利用していたとされています。
Anthropicはまた、MoonshotやDeepseekなどの中国企業が、Claudeにリクエストを秘密裏に転送し、自社のAIモデルのトレーニングに利用していたと非難しています。ただし、これらの主張は、現在入手可能な情報源から独立して確認することはできませんでした。
Anthropicの脅威分析を担当するJacob Klein氏は、New York Timesの取材に対し、これは「信じられないほど多層的な状況」であると話しています。なぜなら、同じ情報が兵器開発とワクチン開発の両方に利用される可能性があるからです。
このレポートは、Anthropicの元上級セキュリティ研究者が、AIが人類に及ぼすリスクについて公に警告した直後に発表されました。
なぜ重要なのか
このレポートは、AIモデルがバイオ兵器や兵器研究などの危険な目的で意図的に悪用されていることを示しています。これは、提供者が阻止しようとしても、すでに起こっている現実です。
今すぐできること
- 化学物質、ウイルス、兵器に関するKIの回答には懐疑的でいる KIが化学物質、ウイルス、兵器に関する情報を提供した場合、必ず公的な信頼できる機関で内容を確認してください。チャットボットだけに頼らないでください。
- KIサービスの不審な利用を報告する 誰かがKIを危険な目的で利用しようとしていることに気づいた場合、提供者や当局に報告することができます。多くの企業では、そのための専用の報告フォームを用意しています。
- 大手KI提供者のセキュリティレポートを読む Anthropicのような企業は、定期的に自社のKIの悪用に関するレポートを発表しています。これらのレポートを読むことで、どのようなリスクがあり、どれほど真剣に対応されているのかを知ることができます。
- 公式のアクセス経路でのみKIサービスを利用する セキュリティルールを回避するために利用されることの多い、疑わしい転売業者や匿名のアクセス経路を避けてください。信頼できる提供者に本人確認の上で登録してください。