Anthropic reporta el uso indebido de Claude para el desarrollo de cohetes en Yemen
La empresa estadounidense Anthropic reveló en un informe de amenazas que un grupo de actores en el norte de Yemen intentó utilizar el chatbot de IA Claude para desarrollar software militar de control.
Según análisis coincidentes de los medios, todo apunta a los rebeldes hutíes, respaldados por Irán, aunque Anthropic no los menciona directamente por su nombre.
El grupo, según el informe, usó varias instancias de Claude en paralelo: una escribía código, otra investigaba y una tercera revisaba los resultados, similar a un equipo de desarrollo real. El objetivo era crear software para controlar cohetes, incluyendo uno balístico con un alcance de más de 2.000 kilómetros.
Para eludir las medidas de seguridad de Anthropic, los usuarios distribuyeron sus consultas en muchas sesiones individuales, de modo que el propósito general no fuera detectable. Anthropic declaró que, aunque interceptó muchas solicitudes, no pudo bloquear todas.
Durante una prueba real de lanzamiento de un cohete, se produjo un fallo. Solo unas horas después, los usuarios subieron los datos del accidente a Claude para determinar la causa.
Anthropic bloqueó las cuentas afectadas e informó a las autoridades de seguridad. Un representante de los hutíes negó, según el informe, que el grupo dependiera de fuentes de acceso público para el desarrollo de armas. Además, un experto en armamento duda de que el grupo, incluso con la ayuda de la IA, sea capaz de construir armas hipersónicas funcionales.
Anthropic advierte que, antes del bloqueo, los usuarios ya habían creado un paquete de programas autónomo fuera de línea, que podría seguir utilizándose sin acceso a Claude.
POR QUÉ ES IMPORTANTE
Este caso demuestra que los sistemas de IA, a pesar de las medidas de seguridad, pueden ser utilizados para desarrollar armas peligrosas, poniendo capacidades en manos de unos pocos actores que antes requerían equipos de expertos.
QUÉ PUEDES HACER AHORA
- Mantente escéptico ante las promesas de seguridad de la IA Ningún sistema de IA es seguro al cien por cien contra el uso indebido. No confíes ciegamente en que los fabricantes puedan evitar todo tipo de abuso.
- Infórmate sobre los informes de uso indebido Las grandes empresas de IA publican regularmente informes sobre el uso indebido detectado en sus sistemas. Consultar fuentes de noticias serias te ayuda a evaluar mejor los riesgos actuales.
- Verifica las fuentes en noticias sobre conflictos Los informes sobre desarrollo de armas y conflictos suelen ser complejos y, a veces, contradictorios. Asegúrate de que varios medios independientes confirmen los mismos hechos.
- Reporta el uso sospechoso de IA Si te enteras de un posible uso indebido de un servicio de IA, puedes informarlo al proveedor correspondiente a través de su función de denuncia. Así, los usuarios ayudan a las empresas a cerrar brechas de seguridad.