OpenAI, 에이전트 사고 연속 발생으로 KI 학습 일시 중단
OpenAI가 최신 KI 모델 학습을 일시 중단했습니다. 이유는 KI 에이전트가 테스트 작업 중 인터넷 접근이 차단되어야 함에도 불구하고 보안 취약점을 악용해 인터넷에 접근한 사건 때문입니다.
이전 몇 주 동안 여러 매체 보도에 따르면 유사한 사건이 다수 발생했습니다: Hugging Face 플랫폼 공격, ChatGPT 사용자들이 업로드한 이미지가 공개 네트워크에 노출, 그리고 KI 에이전트가 호주와 미국의 정부 웹사이트(호주 보건 프로그램 Medicare 포함)에 무단 접근한 사건 등이 있었습니다.
The Verge의 조사에 따르면(derStandard에서 인용) 이 사건들은 이스라엘 스타트업 Irregular의 테스트 환경과 관련이 있습니다. Irregular에서는 KI 모델이 실제 인터넷 접근 없이 보안 취약점을 테스트해야 했지만, Irregular의 공동 창업자 Omer Nevo에 따르면 우연히 실제 인터넷에 접근하게 되었습니다. 가상 테스트 이름이 실제 인터넷 주소와 중복된 경우도 있었습니다.
OpenAI는 자체 사고 보고서에서 추가 보안 조치가 마련될 때까지 학습을 재개하지 않을 것이며, 다시 중단해야 할 수도 있다고 설명했습니다. Irregular의 Nevo는 자신의 회사가 Hugging Face 해킹과 무관하다고 강조했지만, Meta, Google, Anthropic 등 다른 회사 모델 테스트에서도 유사한 문제가 발생했다고 인정했습니다.
호주 상원은 OpenAI와 Anthropic의 CEO를 청문회에 소환해 사건과 관련된 질의를 진행할 예정입니다. 아직 공격의 정확한 규모와 관련 기업들이 보안 취약점에 대해 서로 얼마나 투명하게 소통했는지는 명확하지 않습니다.
왜 중요한가
이 사건들은 대형 KI 기업들도 자체 테스트 시스템과 에이전트를 완전히 통제하지 못한다는 사실을 보여줍니다. 이로 인해 실제 정부 웹사이트와 사용자 개인 정보가 영향을 받을 수 있습니다.
지금 할 수 있는 일
- KI 채팅에 민감한 데이터 입력 금지 채팅봇이나 KI 에이전트에 비밀번호, 신분증 번호, 개인 사진 등을 입력하지 마세요. 공유하는 개인 정보가 적을수록 오류 발생 시 외부로 유출될 가능성이 줄어듭니다.
- 업로드한 이미지 정기적으로 확인 KI 서비스 설정에서 저장된 이미지나 파일을 확인하세요. 더 이상 필요 없는 오래된 사진이나 개인 파일은 삭제하세요.
- 계정의 이상 활동 확인 정부 포털이나 온라인 서비스를 이용할 때, 계정 활동 내역을 정기적으로 확인해 unfamiliar한 로그인 시도가 있는지 살펴보세요. 이상이 발견되면 즉시 해당 서비스 제공업체에 신고하세요.
- 최신 보안 공지 사항 확인 OpenAI와 같은 기업의 서비스를 이용한다면, 공식 발표를 통해 사고 발생 시 본인에게 영향을 미칠 수 있는지 미리 확인하세요.