Anthropic, Claude를 생물무기 연구에 사용하려는 시도를 차단
Anthropic은 보고서를 통해 2025년 12월부터 2026년 8월 사이에 Claude KI 모델을 위험한 목적으로 사용하려는 시도를 발견하고 차단했다고 설명했습니다.
Anthropic에 따르면, 이 중 5건은 사람들이 Claude를 이용해 생물무기를 연구하려던 경우였습니다. 한 예에서는 누군가가 익명 이메일 주소와 VPN을 통해 수천 건의 메시지를 보내, 높은 전염성을 가진 인플루엔자 바이러스 연구에 도움을 요청했습니다.
또 다른 경우, 한 과학자가 Claude를 이용해 군사 시설에서 진행될 바이러스 연구를 위한 지원 신청서를 작성하려고 했다고 Anthropic은 밝혔습니다. 회사는 의도가 악의적인지 여부가 명확하지 않음에도 불구하고 예방 조치를 취했습니다.
이 보고서에는 또한 예멘의 그룹들이 로켓과 드론 개발을 위해 Claude를 사용하려 했던 사례, 중국에서 대어뢰 기술 개발을 위해 Claude를 활용하려던 시도가 포함되어 있습니다. 또한 Anthropic에 따르면, 러시아와 이란과 연관된 그룹들이 Claude를 스파이 활동과 선전 활동에 사용했다고 합니다.
Anthropic은 또한 Moonshot, Deepseek 등 중국 기업들이 Claude에 요청을 비밀리에 우회해 자체 KI 모델을 훈련시켰다고 주장했습니다. 다만, 이 주장은 현재 제공된 출처로 독립적으로 확인되지 않았습니다.
Anthropic의 위협 분석 담당자 Jacob Klein은 뉴욕 타임스와 인터뷰에서 "이 정보는 무기 개발뿐만 아니라 백신 개발에도 활용될 수 있어 매우 복잡한 상황"이라고 말했습니다.
이 보고서는 Anthropic의 전 수석 보안 연구원이 공개적으로 KI가 인류에게 미칠 위험에 대해 경고한 직후 발표되었습니다.
왜 중요한가
이 보고서는 KI 모델이 이미 생물무기 및 무기 연구와 같은 위험한 목적으로 고의로 오용되고 있음을 보여줍니다. 비록 제공업체들이 이를 방지하려 노력하고 있지만 말이죠.
지금 할 수 있는 일
- KI가 화학물질, 바이러스, 무기 관련 정보를 제공할 때 항상 공식적인 신뢰할 수 있는 기관에서 확인하세요. 채팅봇만 믿지 마세요. 위험물질 관련 KI 답변에는 회의적으로 접근하세요.
- 누군가 KI를 위험한 목적으로 사용하려 한다는 사실을 알게 되면, 제공업체나 당국에 신고할 수 있습니다. 많은 기업들이 이를 위해 별도의 신고 양식을 제공합니다. KI 서비스 오용 의심 시 신고하세요.
- Anthropic과 같은 기업들은 정기적으로 KI 오용 사례를 발견했다는 보고서를 발표합니다. 이를 살펴보면 어떤 위험이 있는지, 그리고 얼마나 심각하게 다루고 대형 KI 제공업체의 보안 보고서를 읽어보세요.
- 의심스러운 재판매업체나 익명 KI 도구 접근을 피하세요. 이는 보안 규정을 우회하는 데 자주 사용됩니다. 신뢰할 수 있는 제공업체에서 실제 신원으로 등록하세요. KI 서비스는 공식 경로로만 이용하세요.