Google, OpenAI, Anthropic, AI 보안 협의 중
OpenAI는 TechCrunch에 따르면 화요일에 OpenAI 정책 책임자 크리스 리한이 발표한 바에 따르면, 몇 주 동안 경쟁사인 Anthropic과 Google DeepMind와 AI 개발의 보안 문제에 대해 논의해 왔다고 확인했습니다.
The Information 매거진의 내부 정보에 따르면, 이 논의는 7월부터 진행되어 왔으며, AI 시스템의 보안 기준을 감독할 공동 조직을 설립하는 것에 대해 논의되고 있다고 합니다.
이 논의는 Anthropic의 Dario Amodei CEO가 토요일에 발표한 에세이로 공공 토론이 촉발되었습니다. 그는 AI 개발 속도를 늦추어 보안 위험을 더 잘 관리할 수 있도록 해야 한다고 주장했습니다. heise에 따르면, 이전에 한 Anthropic 직원이 회사를 떠나 공공적으로 보안 측면이 충분히 고려되지 않고 있다고 비판했습니다.
Sam Altman(OpenAI)과 Demis Hassabis(Google) 등 여러 AI CEO들이 Amodei의 호소에 동조했습니다. Altman은 TechCrunch에 따르면 OpenAI가 보안 프로세스에 독립적인 검증자를 참여시킬 계획이라고 발표했습니다.
보도에 따르면, 이러한 협력이 경쟁법에 위배될 수 있는지에 대한 의문도 제기되고 있습니다. Amodei는 이를 위해 정부 예외 규정을 제안했지만, Lehane은 그러한 규정이 필요하지 않다고 설명했습니다.
TechCrunch에 따르면, Trump 행정부는 보안 우려에 대해 회의적이며, 속도 늦추기가 중국에게 이점을 줄 수 있다고 경고했습니다. heise에 따르면 Meta 또한 국가 통제 기관에 대해 비판적인 입장을 보이고 있습니다.
계획된 보안 조직이 실제로 설립될지, 그리고 언제 설립될지는 아직 불분명합니다. 왜냐하면 여러 정보들이 익명의 출처에 기반하고 있으며, 참여한 회사들이 아직 완전히 공개적으로 입장을 밝히지 않았기 때문입니다.
왜 중요한가
가장 큰 AI 기업들이 자신들의 기술로 인한 위험을 어떻게 다루고 있는지, 그리고 독립적인 통제가 가능할지 보여줍니다.
지금 할 수 있는 일
- AI 보안 뉴스에 대해 비판적으로 접근하세요 여러 신뢰할 수 있는 출처에서 AI 보안 관련 보도를 비교해 보세요. 그러면 해당 뉴스가 실제로 확인된 것인지, 아니면 소문에 불과한지 알 수 있습니다.
- 독립적인 검증을 확인하세요 AI 제공업체가 독립적인 감시 기관이나 검증 조직을 활용하는지 확인해 보세요. 그러면 해당 기업이 보안을 얼마나 진지하게 생각하는지 알 수 있습니다.
- 실제 규제, 발표가 아닌 것을 추적하세요 정부나 신뢰할 수 있는 미디어에서 어떤 AI 관련 법률이나 기준이 실제로 제정되는지 확인해 보세요. 기업의 발언만 믿지 마세요.
- AI 서비스를 의식적으로 그리고 절제하여 사용하세요 자신의 보안 조치를 공개하는 제공업체를 선택하세요. 사용 전에 어떤 데이터를 입력하는지, 그리고 기업이 그 데이터를 어떻게 다루는지 생각해 보세요.