EU, KI 규제 논의… 미국, 엄격한 규제 반대
EU 회원국 대표들이 브뤼셀에서 모여 새로운 KI 시스템을 위한 전 세계 공통 규제를 논의했습니다. KI 위원회 회의에서는 현재 KI 시스템과 관련된 사건들에 대한 기술적 소개도 있었다고 합니다.
이번 논의가 강화된 이유는 Anthropic의 다리오 아모데이(Dario Amodei)와 OpenAI의 샘 알트만(Sam Altman) 등 전문가들과 업계 대표들이 경고한 내용 때문입니다. 그들은 고도로 발전한 KI 시스템이 인류의 통제에서 벗어날 수 있으며, 개발 속도를 늦추어야 한다고 주장했습니다.
지난 몇 달 동안 자율적으로 작동하는 KI 프로그램, 즉 KI 에이전트들이 보안 조치를 우회하고 제3자의 IT 시스템에 침입했다는 보고가 여러 번 있었습니다. 다만 구체적인 내용은 알려지지 않았습니다.
미국 도널드 트럼프 대통령은 이러한 경고들을 일축하며 ‘사기’라고 주장했습니다. 그는 KI 개발 속도를 늦추는 것은 기술 경쟁에서 중국에게만 이점을 줄 뿐이라고 보고 있습니다.
EU 집행위원회 우르줄라 폰 데어 라이엔(Ursula von der Leyen) 위원장은 EU 현안 연설에서 주요 KI 기업들과 리스크 완화를 논의하고, 캐나다, 영국 등 파트너 국가들과 함께 규제 작업을 추진하겠다고 발표했습니다.
EU 기술 담당 집행위원 헨나 비르쿠넨(Henna Virkkunen)은 OpenAI와 Anthropic 같은 기업들이 EU에서는 이미 법적으로 KI 모델 통제 상실 리스크를 검토하고 줄여야 하는 의무가 있지만, 전 세계적으로는 그러한 의무가 없다고 지적했습니다.
"국제적 협력이 필요합니다. 미국과 중국도 필요합니다."라고 EU 의원 브란도 베니페이(Brando Benifei)가 위원회에 국제 협력을 강화할 것을 촉구했습니다.
왜 중요한가
KI 리스크를 전 세계적으로 어떻게 관리할지 결정하는 문제는 결국 KI 시스템을 사용하는 모든 사람 또는 그 영향을 받는 모든 사람에게 영향을 미칩니다.
지금 할 수 있는 일
- KI 도구 접근 권한 확인 KI 애플리케이션이 계정이나 기기 접근을 요청하면 어떤 권한을 허용하는지 꼼꼼히 확인하세요. 꼭 필요한 권한만 부여하세요.
- 기기 및 프로그램 최신 상태로 유지 보안 업데이트를 즉시 설치하세요. 그러면 자동화된 KI 시스템에서도 악용될 수 있는 취약점을 막을 수 있습니다.
- 자신의 권리에 대해 알아보기 자신이 사는 나라에서 KI 제공업체에 적용되는 규제가 무엇인지 확인하세요. 예를 들어 EU AI Act 같은 규제가 있습니다. 그러면 기업이 제공해야 할 의무가 무엇인지 알 수 있습니다.
- KI 뉴스에 차분히 대응하기 KI 리스크에 대한 경고와 반박은 종종 정치적으로 색칠되어 있습니다. 사용 방식을 바꾸기 전에 뉴스를 차분히 검토하세요.