찰스 왕, 테크 CEO들에게 AI의 위험 경고
찰스 3세 왕은 2026년 9월 17일 스코틀랜드 에어셔의 덤프리스 하우스에서 AI 업계의 주요 인사들을 초청해 정상회담을 열었습니다.
이날 참석자로는 영국 AI 장관 카니슈카 나라얀, 교황의 자문위원, 그리고 Nvidia, OpenAI, Anthropic, Google DeepMind의 대표들이 포함되었습니다.
왕은 연설에서 AI 기술이 잘못된 손에 넘어가거나 재앙적으로 사용될 경우 ‘존재적 위협’이 발생할 수 있다고 경고했습니다.
찰스 왕에 따르면, 점점 더 많은 개발자들이 AI가 ‘어두운 능력’을 개발할 수 있으며, 심지어 생명을 위협할 수도 있다고 스스로 경고하고 있다고 합니다.
이 회의는 여러 주목할 만한 사건들 가운데 열렸습니다. Anthropic의 한 연구원이 최근 AI 위험성에 대해 공개적으로 경고한 후 사임했으며, OpenAI는 모델에서 예기치 못한 또는 우려스러운 행동이 6건 발생했다고 보고했습니다.
참석한 CEO들의 의견은 엇갈렸습니다. Nvidia의 젠슨 황 CEO는 개발 중단 요구에 대해 비판하며, 기업이 스스로 제품의 안전성을 판단해야 한다고 말했습니다. DeepMind의 공동 설립자 데미스 하사비스는 ‘일반 AI’가 ‘몇 년 내로 실현될 것’이라고 말하며, 실패의 위험은 ‘분명히 제로가 아니다’라고 인정했습니다.
회의를 통해 구체적인 규칙이나 AI 개발을 위한 구속력 있는 원칙이 도출될지는 아직 미지수입니다. 왕은 단지 공통 원칙을 찾자고 호소했을 뿐입니다.
왜 중요한가
한 나라의 수장이 AI의 통제 불능에 대해 경고한 것은, 이제 AI에 대한 우려가 테크 업계를 넘어 사회 전반에서 진지하게 받아들여지고 있음을 보여줍니다.
지금 할 수 있는 일
- AI 결과물은 비판적으로 검토하세요 AI가 보여주거나 말하는 내용을 무조건 믿지 마세요. 중요한 정보는 항상 다른 신뢰할 수 있는 출처와 비교하세요.
- AI 채팅에 민감한 정보 입력하지 마세요 비밀번호, 은행 정보, 개인 비밀 등 민감한 정보를 채팅봇과 공유하지 마세요. 이러한 데이터가 어떻게 저장되거나 활용될지 알 수 없습니다.
- 새로운 AI 규정을 주시하세요 가끔씩 AI 관련 법과 규정을 확인하세요. 그러면 사용자 입장에서 변화가 생겼을 때 빠르게 알아차릴 수 있습니다.
- AI 도구를 의식적으로 사용하세요 AI 프로그램을 정말 필요하고 이해하는 경우에만 사용하세요. 돈이나 건강과 같은 중요한 결정에서는 추가로 인간의 조언을 구하세요.