Google、OpenAI与Anthropic就AI安全进行谈判
OpenAI确认，自数周前起，公司已与竞争对手Anthropic和Google DeepMind就AI开发中的安全问题展开交流。据TechCrunch报道，OpenAI政策主管Chris Lehane于周二透露了这一信息。
根据《The Information》杂志的内部消息，这些讨论自7月便已开始。据称，讨论的目的是建立一个共同的组织，负责监督AI系统的安全标准。
这场公开辩论的导火索是Anthropic首席执行官Dario Amodei在周六发表的一篇文章，他呼吁放慢AI开发的速度，以便更好地应对安全风险。此前，据heise报道，一名Anthropic员工离职并公开批评公司对安全问题重视不足。
多位AI高管，包括OpenAI的Sam Altman和Google的Demis Hassabis，都支持Amodei的呼吁。Altman据TechCrunch报道表示，OpenAI计划引入独立审查人员参与其安全流程。
据报道，目前尚不清楚这种合作是否会违反反垄断法。Amodei建议为此制定政府豁免规定，但Lehane表示，在他看来，这并非必要。
据TechCrunch报道，特朗普政府对安全担忧持怀疑态度，并警告称，放慢发展速度可能会给中国带来优势。据heise报道，Meta对国家监管机构也持批评态度。
目前仍不确定计划中的安全组织是否会真正成立，以及何时成立，因为多个信息来源于匿名消息，且相关公司迄今为止仅部分公开表态。
为什么这很重要
这展示了最大的AI公司如何应对自身技术的风险，以及是否可能形成独立的监管机制。
你现在可以做什么
- 对AI新闻保持批判态度 通过多个权威来源对比AI安全相关报道，判断消息是否确有其事，还是仅基于传闻。
- 关注独立审查 查看AI提供商是否引入独立审查人员或审查机构，这能体现公司对安全的重视程度。
- 关注真正的监管，而非仅停留在声明上 通过政府或权威媒体了解AI领域真正通过的法律或标准，而非仅依赖公司的说法。
- 谨慎且节制地使用AI服务 选择公开披露安全措施的提供商。在使用前思考输入的数据类型，以及公司如何处理这些数据。