チャールズ国王、テック業界のリーダーにAIの危険性を警告
2026年9月17日、スコットランドのエアシャーにあるダンフリーズ・ハウスで、チャールズ3世国王はAI業界の主要な関係者を招き、サミットを開催しました。
参加者には、イギリスのAI担当大臣カニシュカ・ナラヤン氏、ローマ教皇の顧問、Nvidia、OpenAI、Anthropic、Google DeepMindの代表者らが含まれていました。
国王は演説で、AI技術が悪意ある者の手に渡ったり、破滅的な方法で使用されたりした場合に生じる「存在的危機」について警告しました。
チャールズ国王によると、ますます多くの開発者が、AIが「暗い能力」を発達させる可能性があると警告しており、場合によっては命を奪うことさえあり得ると述べています。
この会合は、Anthropicの研究者がAIのリスクについて公に警告して辞任したことや、OpenAIがモデルの予期せぬ、あるいは懸念すべき行動について6件の事例を報告したことなど、注目を集めた事件を背景に開催されました。
出席した企業のトップの意見は分かれました。Nvidiaのジェンスン・フアンCEOは開発停止を求める声に批判的で、「企業は自ら製品の安全性を判断すべきだ」と述べました。一方、DeepMindの共同創業者デミス・ハサビス氏は、汎用AIが「あと数年で実現する」との見方を示し、「失敗のリスクは間違いなくゼロではない」と認めました。
この会合から具体的なルールや拘束力のある原則が生まれるかどうかは不明です。国王は、共通の原則を見つけるよう呼びかけたにとどまりました。
なぜ重要なのか
国家元首による警告は、制御不能なAIへの懸念がテック業界を超えて真剣に受け止められていることを示しています。
今すぐできること
- AIの結果を批判的に検証する AIプログラムが示す内容や発言を鵜呑みにしないでください。重要な情報は、必ず別の信頼できる情報源と照らし合わせて確認しましょう。
- AIチャットに機密情報を入力しない パスワード、銀行口座情報、個人秘密などをチャットボットと共有しないでください。これらのデータがどのように保存・利用されるか、正確にはわかりません。
- 新しいAIルールについて情報を得る 定期的に人工知能に関する法律や規制のニュースをチェックしましょう。そうすることで、利用者としてのあなたに影響する変更を早期に把握できます。
- AIツールを意識的に使う AIプログラムは、そのメリットをしっかり理解できる場面でのみ使用しましょう。お金や健康などの重要な決定については、必ず人間のアドバイスも併せて受けてください。