查尔斯国王警告科技巨头人工智能的风险
2026年9月17日，查尔斯三世国王在苏格兰艾尔郡的达姆弗里斯庄园邀请了人工智能行业的领军人物参加峰会。
参会者包括英国人工智能部长卡尼什卡·纳拉扬、教皇的一名顾问，以及来自英伟达、OpenAI、Anthropic 和 Google DeepMind 的代表。
在讲话中，国王警告称，如果人工智能技术落入坏人之手或被灾难性地使用，可能会带来“存在性威胁”。
查尔斯表示，越来越多的开发者自己也在警告，人工智能可能会发展出“更黑暗的能力”——甚至可能威胁生命。
此次会议是在多起引发轰动的事件背景下召开的：Anthropic的一名研究人员最近因公开警告人工智能风险而辞职，而OpenAI则报告了其模型出现六起意外或令人担忧的行为。
与会的公司高管意见不一：英伟达首席执行官黄仁勋批评了暂停开发的呼声，并表示企业应自行决定产品何时足够安全。DeepMind联合创始人德米斯·哈萨比斯则认为通用人工智能“可能只需几年时间”就能实现，并承认失败的风险“绝对不为零”。
目前尚不清楚此次会议是否会产生具体的规则或具有约束力的原则——国王仅呼吁寻找共同的原则。
为什么这很重要
一国元首的警告表明，对失控人工智能的担忧已不仅仅局限于科技行业，也引起了更广泛的重视。
你现在可以做什么
- 审视 KI 结果 不要盲目相信人工智能程序向你展示或告诉你的内容。请始终用第二个可信来源核对重要信息。
- 不要在 KI 聊天中输入敏感数据 不要与聊天机器人分享密码、银行信息或个人隐私。你永远不知道这些数据会如何被存储或进一步使用。
- 了解最新的 KI 规则 定期关注关于人工智能的法律和法规新闻。这样你能及早发现作为用户的相关变化。
- 有意识地使用 KI 工具 只在真正理解其用途的地方使用人工智能程序。在涉及金钱或健康等重要决策时，还需另外咨询人类的建议。