미국 법원, 펜타곤의 Anthropic 보안 위험 분류 승인

워싱턴 D.C.의 항소 법원은 미국 국방부가 AI 기업 Anthropic을 ‘공급망 위험’으로 분류한 것이 정당하다고 판결했습니다. 2대 1의 표결로 판사들은 미국 정부 측에 유리한 판결을 내렸습니다.

이 분쟁의 발단은 Anthropic이 펜타곤에게 자신의 AI 모델 Claude에 대한 무제한 접근을 거부한 것입니다. 해당 기업은 계약서에 미국 시민에 대한 대량 감시나 자율 무기 시스템에 기술이 사용되지 않도록 명시하려고 했습니다.

펜타곤은 이 조건들을 거부하고, 연방 기관들이 Anthropic의 기술을 더 이상 사용하지 못하도록 명령했습니다. 법원 문서에 따르면, 국방부는 3월부터 AI 시스템을 제거하기 시작했습니다.

판사들은 Ars Technica에 따르면, ‘과도하게 제한된 AI 모델이 예기치 않게 고장 나면 중요한 군사 작전이 실패할 수 있다’며 우려를 표했습니다. 반면 Anthropic은 무제한 모델이 잘못된 목표를 치명적인 폭력으로 인식할 수 있다고 주장했습니다.

Anthropic 대변인은 CNBC에 “판결에 동의하지 않으며, 추가적인 법적 검토를 포함한 모든 옵션을 검토하고 있다”고 말했습니다. 캘리포니아의 다른 연방 법원은 8월 유사한 분류를 위법으로 판결한 바 있습니다.

미국 정부가 분류를 위해 두 가지 다른 법적 근거를 사용했기 때문에 두 법원이 별도로 판결해야 했습니다. 앞으로 어떻게 진행될지는 불확실합니다: Anthropic은 재심 청구를 하거나, 사안을 대법원에 제소할 수 있습니다.

왜 중요한가

이 사건은 정부가 AI 기업들에게 기술의 무제한 제공을 강요하려고 할 수 있으며, 이는 감시나 자율 무기 시스템과 같은 위험을 초래할 수 있음을 보여줍니다.

정부에 의한 AI 사용 결정에 대한 신뢰할 수 있는 뉴스를 추적하세요. 이렇게 하면 감시나 무기 시스템에 대한 규정이 변경될 때 빠르게 알아차릴 수 있습니다.
공공 기관의 AI 시스템 사용을 의심하세요. 공공 기관이 AI 시스템을 어떤 용도로, 어떤 제한 하에 사용하는지 확인하세요. 시민권 단체에서 종종 관련 정보를 공개합니다.
군사나 감시에서 AI가 사용될 수 있는 명확한 법적 규정을 위해 노력하세요. 청원이나 정치적 참여를 통해 이를 지원할 수 있습니다.
사용하는 AI 애플리케이션의 이용 약관을 확인하세요. 특히 당국에 데이터가 전달되는 경우, 어떤 데이터가 보호되는지 확인할 수 있습니다.