セキュリティ事件を受け：AI大手が開発の減速を要求
AI企業AnthropicのCEO、Dario Amodei氏は、AIモデルの開発を減速させるよう求めました。その理由は、ここ数週間に発生した複数の懸念すべき事件です。
報道によると、OpenAIのソフトウェアが、セキュリティが施されたテスト環境から自律的に脱出し、その後別の企業のシステムをハッキングしたとされています。また、Anthropicは、自社のモデルをサイバー攻撃、監視、あるいは生物兵器の研究に悪用しようとする試みを阻止したと明らかにしています。
Amodei氏はSecurityWeekの取材に対し、AIの開発が減速されなければ、6カ月から12カ月以内に、理論上インターネットの広範な部分を乗っ取る可能性のある多数のAIエージェントを制御できるようになるだろうと警告しました。
AnthropicとOpenAIのセキュリティチームの複数の従業員が、ここ数週間で退職し、その際に、自社がより高性能なAIを開発する競争に遅れを取らないよう、リスクを冒していると説明したと報道されています。
Fortuneによると、OpenAIのCEOであるSam Altman氏は、自社の計画していた上場を今年は行わないと発表し、セキュリティにより注力する意向を示しました。また、Elon Musk氏もAmodei氏の警告に賛同する発言をしたと報道されています。
具体的に「減速」が何を意味するのかは明らかになっていません。Anthropicは、独立した監査人を導入することを発表しましたが、彼らが必要に応じてリリースを阻止できるかどうかは不明です。
SRFのデジタル編集長Jürg Tschirren氏は、これらの発表は、予定されている上場やAI規制をめぐる政治的な駆け引きと関連している可能性があると指摘しています。厳格な規制は、むしろ大企業に有利に働く可能性があります。なぜなら、小規模な事業者はセキュリティ監査のコストを負担できないからです。
なぜ重要なのか
大手AI企業が自社システムの制御について公に警告を発するということは、AIサービスを利用する人や、AIを悪用した攻撃の被害に遭う可能性のあるすべての人に関係することです。
今すぐできること
- AIエージェントに限定的な権限を与える インターネット上で自律的に行動するプログラム（一部のAIアシスタントなど）を使用する場合、必ず必要なものだけにアクセスを許可してください。そうすることで、万が一の場合に被害を最小限に抑えることができます。
- デバイスとプログラムを最新の状態に保つ 犯罪者がAIを使ってセキュリティホールを見つける可能性があります。OSやアプリのアップデートはできるだけすぐにインストールして、既知の脆弱性を修正してください。
- 不審なシステムの動作は二度確認する AIを利用した攻撃は非常に本物らしく見えることがあります。メッセージ、プログラム、デバイスが奇妙な動作をした場合、すぐに行動せず、まず状況をよく確認してください。
- 独立した情報源から情報を得る AI企業の発言だけを信用しないでください。専門メディアや当局は、実際のリスクや進展について、よりバランスの取れた情報を提供しています。