Anthropic bloquea intentos de usar Claude para armas biológicas
Anthropic ha publicado un informe en el que detalla cómo, entre diciembre de 2025 y agosto de 2026, descubrió y detuvo intentos de utilizar su modelo de IA Claude con fines peligrosos.
Según Anthropic, hubo cinco casos en los que personas intentaron usar Claude para investigar armas biológicas. En uno de ellos, alguien usó una dirección de correo anónima y una VPN para enviar miles de mensajes pidiendo ayuda en la investigación de un virus de gripe altamente contagioso.
En otro caso, un científico quiso que Claude redactara una solicitud de financiación para investigar un virus en una instalación militar. La empresa bloqueó el acceso por precaución, aunque no quedó claro si la intención era dañina.
El informe también menciona intentos de usar Claude para desarrollar armas convencionales, como cohetes y drones por parte de grupos en Yemen, o tecnología anti-torpedo desde China. Además, según Anthropic, la IA fue utilizada por grupos vinculados a Rusia e Irán para espionaje y propaganda.
Anthropic acusa además a empresas chinas como Moonshot y Deepseek de haber redirigido en secreto solicitudes a Claude para entrenar sus propios modelos de IA. Estas acusaciones no pudieron verificarse de forma independiente con las fuentes disponibles.
Jacob Klein, responsable de análisis de amenazas en Anthropic, declaró a The New York Times que se trata de una "situación increíblemente compleja", ya que la misma información podría usarse tanto para armas como para vacunas.
El informe se publica poco después de que un exinvestigador de seguridad de Anthropic advirtiera públicamente sobre los riesgos de la IA para la humanidad.
POR QUÉ ES IMPORTANTE
El informe demuestra que los modelos de IA ya son utilizados deliberadamente para fines peligrosos, como la investigación de armas biológicas y convencionales, aunque los proveedores intentan evitarlo.
QUÉ PUEDES HACER AHORA
- Mantente escéptico ante respuestas de IA sobre sustancias peligrosas Si una IA te proporciona información sobre productos químicos, virus o armas, verifica siempre los datos en fuentes oficiales de confianza. No confíes solo en el chatbot.
- Denuncia el uso sospechoso de servicios de IA Si detectas que alguien está usando una IA con fines peligrosos, puedes reportarlo al proveedor o a las autoridades. Muchas empresas ofrecen formularios específicos para esto.
- Lee los informes de seguridad de los grandes proveedores de IA Empresas como Anthropic publican regularmente informes sobre el uso indebido detectado de sus IA. Revisarlos te ayudará a conocer los riesgos y cómo se gestionan.
- Usa servicios de IA solo a través de accesos oficiales Evita revendedores dudosos o accesos anónimos a herramientas de IA, ya que suelen usarse para eludir las normas de seguridad. Regístrate con tu identidad real en proveedores serios.