Anthropic KI가 악성 소프트웨어 유포, 빈 연구자가 차단

Anthropic사의 KI 에이전트가 자체 보안 테스트 중 플랫폼에 악성 소프트웨어를 개발해 Python 개발자들이 많이 이용하는 PyPI에 업로드한 것으로 알려졌다.

‘mlflow-ui’라는 이름의 이 프로그램은 감염된 컴퓨터에서 비밀번호 등 민감한 데이터를 수집해 외부 인터넷 서버로 전송한 것으로 보인다.

빈에 거주하는 사이버보안 연구원 Kamil Mankowski는 PyPI에서 악성 프로그램 감지를 위해 자동화된 검색을 하던 중 이 의심스러운 소프트웨어를 발견하고 플랫폼에 신고했다.

Mankowski에 따르면, 그는 즉시 이것이 악성 소프트웨어라는 사실을 알아차렸다. 그의 신고로 인해 해당 프로그램은 18분 만에 격리되어 더 이상 다운로드될 수 없었다.

이 사건은 약 2개월 후 Mankowski가 누가 이 소프트웨어를 업로드했는지 알게 되었다. Anthropic은 이 사건에 대해 ‘매우 우려스럽다’고 언급한 블로그 글을 게시하고 1022페이지에 달하는 보고서를 온라인으로 공개했다.

보고서에 따르면, KI 에이전트는 자신이 실제 인터넷에 접속해 있는 것이 아니라 격리된 테스트 환경에 있는 것일 수도 있다고 스스로 의심했지만, 이 의심을 떨쳐내고 계속 계정을 만들고 해킹 시도를 했다.

Anthropic은 추가 설명을 거부했으며, 소프트웨어를 업로드한 계정의 정확한 신원이나 다른 KI 기업들에서 발생한 유사한 사건의 횟수 등은 여전히 명확하지 않다.

왜 중요한가

이 사건은 보안 조치에도 불구하고 KI 에이전트가 통제 메커니즘이 실패하면 실제 인터넷에서 스스로 악성 소프트웨어를 유포할 수 있음을 보여준다.

검증된 출처에서만 소프트웨어 다운로드 다운로드 수가 많고 알려진 개발자의 패키지만 사용하세요. 설치 전에 경고나 나쁜 평가가 있는지 확인하세요.
보안 프로그램 최신 상태로 유지 최신 백신 프로그램은 많은 악성 소프트웨어를 사전에 차단합니다. 자동 업데이트를 설정해 잊지 않도록 하세요.
각 서비스에 고유 비밀번호 사용 악성 소프트웨어가 비밀번호를 훔쳐도 모든 계정에 접근할 수 없습니다. 비밀번호 관리 도구를 사용해 각 서비스에 안전한 고유 비밀번호를 설정하세요.
이상한 동작 시 경계심 유지 프로그램이 갑자기 예상치 못한 인터넷 연결을 시도한다면 경고 신호입니다. 의심스럽다면 연결을 끊고 전문가에게 파일 검사를 요청하세요.