Google, OpenAI y Anthropic negocian sobre la seguridad de la IA
OpenAI ha confirmado que, desde hace varias semanas, la empresa mantiene conversaciones con sus competidores Anthropic y Google DeepMind sobre cuestiones de seguridad en el desarrollo de la IA. Según TechCrunch, el director de política de OpenAI, Chris Lehane, lo comunicó el martes.
Según informes internos de la revista The Information, estas conversaciones se vienen llevando a cabo desde julio. Al parecer, el objetivo es crear una organización conjunta que supervise los estándares de seguridad para los sistemas de IA.
El debate público se desencadenó por un ensayo del CEO de Anthropic, Dario Amodei, publicado el sábado, en el que pedía ralentizar el ritmo del desarrollo de la IA para poder abordar mejor los riesgos de seguridad. Anteriormente, según heise, un empleado de Anthropic había abandonado la empresa y criticado públicamente que no se prestaba suficiente atención a los aspectos de seguridad.
Varios líderes de la IA, entre ellos Sam Altman de OpenAI y Demis Hassabis de Google, apoyaron el llamado de Amodei. Altman anunció, según TechCrunch, que OpenAI incorporaría auditores independientes en sus procesos de seguridad.
Según los informes, aún no está claro si esta colaboración podría violar las leyes de competencia. Amodei propuso una exención estatal para ello, pero Lehane declaró que, en su opinión, no sería necesaria.
El gobierno de EE. UU. bajo el presidente Trump se mostró escéptico ante las preocupaciones de seguridad y advirtió, según TechCrunch, que un frenazo podría dar ventaja a China. Según heise, Meta también tendría una postura crítica frente a una autoridad de control nacional.
Sigue sin estar claro si y cuándo se creará realmente la organización de seguridad prevista, ya que varias afirmaciones se basan en fuentes anónimas y las empresas involucradas solo han hecho declaraciones públicas parciales al respecto.
POR QUÉ ES IMPORTANTE
Muestra cómo las mayores empresas de IA manejan ellas mismas los riesgos de sus tecnologías y si podría surgir un control independiente.
QUÉ PUEDES HACER AHORA
- Mantente crítico con las noticias sobre IA Compara los informes sobre la seguridad de la IA con varias fuentes serias. Así podrás distinguir si una noticia está realmente confirmada o se basa solo en rumores.
- Presta atención a las auditorías independientes Verifica si un proveedor de IA utiliza auditores o organizaciones de control independientes. Esto te mostrará cuán en serio toma la empresa la seguridad.
- Sigue la regulación real, no solo los anuncios Infórmate en autoridades o medios serios sobre qué leyes o estándares para la IA se aprueban realmente. No te bases solo en las declaraciones de las empresas.
- Usa los servicios de IA de manera consciente y moderada Elige proveedores que informen abiertamente sobre sus medidas de seguridad. Antes de usarlos, reflexiona qué datos introduces y cómo los maneja la empresa.