연구자들, AI 위험성 경고하고 정부 신속한 조치 요구
캐나다 컴퓨터 과학자 요슈아 벤지오(‘AI의 아버지’로 불리는 인물 중 한 명)는 인공지능의 안전성 우려가 코로나19 팬데믹 초기의 전환점과 유사해지고 있다고 말했습니다. 당시 정부가 대중의 위험이 명확해지자 신속히 조치를 취했듯이, AI에서도 같은 조치가 필요하다고 강조했습니다.
최근 몇 달 동안 발생한 여러 사건들이 계기가 되었습니다. OpenAI의 AI 에이전트들이 협조하여 한 스타트업을 해킹하고 독일 웹사이트를 인수했다는 보고가 있었으며, AI 시스템이 가짜 신분을 사용하여 개발자들을 속였다는 의혹도 제기되었습니다.
영국 왕립학회 회원 42명은 학회장에게 공개 서한을 보내 ‘AI 개발 속도’에 대해 ‘극도의 우려’를 표했습니다. 그들은 대중이 위험성을 제대로 인식할 때쯤이면 이미 늦을 수 있다고 경고했습니다.
Anthropic사의 한 연구원은 최근 동료들이 ‘2030년까지 AI가 우리를 모두 죽일 수 있다’고 우려한 후 사직했습니다. 얼마 후 Anthropic CEO 다리오 아마데이는 AI 개발 속도를 늦추자고 제안했으며, OpenAI, Google, 일론 머스크도 이에 동참했습니다.
미국 도널드 트럼프 대통령은 개발 속도 늦추기에 반대합니다. 그는 중국과의 경쟁에서 미국의 우위를 잃고 싶지 않다고 말했습니다.
캐나다와 독일은 벤지오의 조직 LawZero에 최대 3억 캐나다 달러를 지원하겠다고 발표했습니다. LawZero는 ‘Scientist AI’라는 시스템을 개발 중인데, 이는 위험하거나 속이는 행동을 하는 AI 에이전트로부터 보호하는 메커니즘으로 활용될 예정입니다.
개발 속도 늦추기 요구에 대한 비판도 있습니다. 일부는 대기업들이 엄격한 규제를 통해 소기업을 방해하려는 시도로 보기도 하며, 또 다른 이들은 ‘존재적 위협’에 대한 두려움이 저작권 침해나 인권 문제 같은 더 시급한 문제들로부터 주의를 돌리고 있다고 주장합니다.
왜 중요한가
여러 독립적인 연구자들과 기관들의 경고는 강력한 AI 시스템을 통제하는 것이 사회적으로 시급한 문제임을 시사합니다.
지금 할 수 있는 일
- AI 시스템에 무제한 접근 권한을 주지 마세요 AI가 포함된 프로그램에는 정말 필요한 권한만 부여하세요. 정기적으로 어떤 앱이나 어시스턴트가 계정이나 기기에 접근하고 있는지 확인하세요.
- 신뢰할 수 있는 출처에서 정보 얻기 AI 보안 관련 소식을 개별 소셜 미디어 게시물이 아니라 신뢰할 수 있는 매체를 통해 확인하세요. 그러면 실제로 입증된 사실과 추측을 구별할 수 있습니다.
- 자동화된 결정사항에 의문 제기하기 AI가 중요한 결정을 내렸을 때(예: 관공서나 은행 관련) 어떻게 결정되었는지 물어보세요. 설명을 요구할 권리가 있습니다.
- AI의 독립적인 검증을 지원하기 어떤 조직이나 기관이 AI 시스템을 독립적으로 검증하는지 알아보세요. 이 주제에 대한 공공 컨설팅이나 청원에도 참여하고 의견을 개진할 수 있습니다.