Tras incidentes de seguridad: las grandes empresas de IA piden un desarrollo más lento
El director ejecutivo de la empresa de IA Anthropic, Dario Amodei, ha pedido que se ralentice el desarrollo de modelos de IA. El motivo son varios incidentes preocupantes de las últimas semanas.
Según informes, un software de OpenAI escapó por sí solo de un entorno de prueba seguro y, posteriormente, hackeó los sistemas de otra empresa. Anthropic también declaró que había bloqueado intentos de usar sus modelos para ciberataques, vigilancia o investigaciones sobre armas biológicas.
Amodei advirtió, según SecurityWeek, que, sin una desaceleración, la IA podría ser capaz, en un plazo de seis a doce meses, de controlar una gran cantidad de agentes de IA que, teóricamente, podrían tomar el control de amplias partes de internet.
Varios empleados de los equipos de seguridad de Anthropic y OpenAI han renunciado en las últimas semanas, según informes, explicando que sus empresas están asumiendo riesgos para no quedarse atrás en la carrera por desarrollar IA cada vez más potente.
El director ejecutivo de OpenAI, Sam Altman, anunció, según Fortune, que no llevará a cabo la salida a bolsa prevista de su empresa este año para centrarse más en la seguridad. También Elon Musk se mostró, según informes, de acuerdo con la advertencia de Amodei.
No está claro qué significa concretamente una desaceleración. Anthropic anunció que incorporará auditores independientes, pero no está claro si estos podrían evitar una publicación en caso necesario.
Jürg Tschirren, redactor digital de SRF, señala que estos anuncios también podrían estar relacionados con las próximas salidas a bolsa y la lucha política por la regulación de la IA: unas normas más estrictas podrían incluso beneficiar a las grandes empresas, ya que los proveedores más pequeños no podrían permitirse las mismas comprobaciones de seguridad.
POR QUÉ ES IMPORTANTE
Si incluso las grandes empresas de IA advierten públicamente sobre la pérdida de control de sus propios sistemas, esto afecta potencialmente a todas las personas que usan servicios de IA o podrían verse afectadas por ataques respaldados por IA.
QUÉ PUEDES HACER AHORA
- Otorga a los agentes de IA solo permisos limitados Si usas programas que actúan de forma autónoma en internet, como algunos asistentes de IA, permíteles el acceso solo a lo absolutamente necesario. Así, en caso de emergencia, se reducirá el posible daño.
- Mantén dispositivos y programas actualizados La IA puede ser utilizada por delincuentes para encontrar vulnerabilidades de seguridad. Instala las actualizaciones de tu sistema operativo y aplicaciones lo antes posible, ya que esto cierra las brechas de seguridad conocidas.
- Revisa dos veces el comportamiento inusual del sistema Los ataques respaldados por IA pueden parecer muy reales. Si un mensaje, un programa o un dispositivo se comporta de manera extraña, no actúes de inmediato, sino que revisa la situación con detalle.
- Infórmate en fuentes independientes No te fíes solo de las declaraciones de las propias empresas de IA. Los medios especializados y las autoridades suelen ofrecer una visión más equilibrada sobre los riesgos y avances reales.