Google、OpenAI、AnthropicがKIの安全性について協議
OpenAIは、同社が数週間にわたり、AnthropicやGoogle DeepMindとKI開発における安全性の問題について意見交換をしてきたことを明らかにしました。これは、TechCrunchによると、OpenAIの政策責任者クリス・リーハン氏が火曜日に発表した内容です。
雑誌The Informationのインサイダー情報によると、これらの協議は7月以来行われており、KIシステムの安全基準を監視する共同組織の設立について議論されているとされています。
この公開議論のきっかけとなったのは、AnthropicのCEOダリオ・アモデイ氏が土曜日に発表したエッセイです。アモデイ氏は、安全性リスクに対処できるようにKI開発のペースを落とすよう求めました。heiseによると、Anthropicの社員が同社を退職し、安全性が十分に考慮されていないと公に批判したことがあったとされています。
OpenAIのサム・アルトマン氏やGoogleのデミス・ハサビス氏など、複数のKI企業のCEOがアモデイ氏の呼びかけを支持しました。TechCrunchによると、アルトマン氏はOpenAIが安全性プロセスに独立した監査人を導入する予定であると発表しました。
これらの報道によると、このような協力が独占禁止法に違反する可能性があるかどうかはまだ明らかではありません。アモデイ氏はそのために政府による例外規定を提案しましたが、リーハン氏はその必要性はないとの見解を示しました。
TechCrunchによると、トランプ大統領の下の米国政府は、安全性に関する懸念に対して懐疑的な姿勢を示し、開発速度の低下が中国に利益をもたらす可能性があると警告しました。heiseによると、Metaも国家的な監督機関に対して批判的な姿勢をとっているとされています。
計画されている安全性組織が実際に設立されるかどうか、またいつ設立されるかは不明です。なぜなら、多くの情報が匿名の情報源に基づいており、関係する企業もこれまで部分的にしか公表していないためです。
なぜ重要なのか
最大手のKI企業が自社のテクノロジーのリスクにどのように対処し、独立した監視機関が設立される可能性があるのかを示しています。
今すぐできること
- KIに関するニュースには批判的でいよう 複数の信頼できる情報源でKIの安全性に関する報告を比較しましょう。そうすることで、その情報が本当に確認されているのか、それとも単なる噂なのかを判断できます。
- 独立した監査を確認しよう KIサービス提供者が独立した監査人や監査組織を導入しているかを確認しましょう。これにより、その企業が安全性をどれだけ真剣に考えているかがわかります。
- 実際の規制、発表だけでなく追跡しよう 当局や信頼できるメディアで、KIに関する実際に制定された法律や基準を確認しましょう。企業の発言だけに頼らないようにしましょう。
- KIサービスを意識的に控えめに利用しよう 安全対策について公開しているサービス提供者を選びましょう。利用前に、どのようなデータを入力するか、またその企業がデータをどのように扱うかを考慮しましょう。