EUがAI規制を議論、米国は厳格なルールに反対

EU諸国の代表者がブリュッセルに集まり、新たなAIシステムに関するグローバルな共通ルールについて協議した。AI委員会の会合では、議事日程によると、現在のAIシステムに関連する事件について技術的な説明も行われた。

協議が強化されたきっかけは、AnthropicのDario Amodei氏やOpenAIのSam Altman氏など、複数の専門家や業界関係者からの警告だ。彼らは、高度に発展したAIシステムを人間が制御できなくなる可能性があるとして、開発速度の鈍化を求めた。

過去数ヶ月間、自律的に動作するAIプログラム（いわゆるAIエージェント）が、報告によると複数回にわたりセキュリティ対策を回避し、第三者のITシステムに侵入したという。詳細については明らかになっていない。

米国のドナルド・トランプ大統領はこれらの警告を退け、「でたらめ」だと主張した。トランプ氏によれば、AI開発の速度を鈍らせることは、技術競争において中国に利益をもたらすだけだという。

EU委員会のウルズラ・フォン・デア・ライエン委員長は、EUの一般政策演説で、主要なAI企業とリスク抑制について協議し、カナダやイギリスなどのパートナーと協力して規制を推進していくことを表明した。

EUの技術担当委員であるヘンナ・ヴィルックネン氏は、OpenAIやAnthropicのような企業は、EU内では既に、自社のAIモデルの制御喪失リスクを評価し、低減することが法律で義務付けられていると指摘した。しかし、これは世界的な義務ではないとした。

EU議員のブランド・ベニフェイ氏は、委員会に対し、国際協力をより強化するよう求めた。「国際協力が必要です。米国も、中国も必要です」

なぜ重要なのか

AIリスクを世界的に抑制するかどうか、またその方法は、最終的にAIシステムを利用する人やその影響を受ける人すべてに関わる問題です。

AIツールのアクセス権を確認する AIアプリケーションがあなたのアカウントやデバイスへのアクセスを求めてきた場合、何を許可するのかをよく確認しましょう。必要最低限の権限のみを許可してください。
デバイスとプログラムを最新の状態に保つ セキュリティアップデートはすぐにインストールしましょう。これにより、自動化されたAIシステムに悪用される可能性のある脆弱性が修正されます。
自分の権利について知る 自分の国でAI提供者に適用されるルール（例えばEU AI法）を確認しましょう。そうすれば、企業があなたに対してどのような義務を負っているのかが分かります。
AI関連のニュースには冷静に対処する AIリスクに関する警告や反論は、しばしば政治的な色合いを帯びています。利用方法を変更する前に、情報を落ち着いて確認しましょう。