Anthropic bloque les tentatives d'utiliser Claude pour des armes biologiques
Anthropic a publié un rapport dans lequel l'entreprise décrit comment elle a découvert et stoppé, entre décembre 2025 et août 2026, des tentatives d'utiliser son modèle d'IA Claude à des fins dangereuses.
Selon Anthropic, cela comprenait cinq cas où des personnes ont tenté d'utiliser Claude pour des recherches sur des armes biologiques. Dans un exemple, une personne a utilisé une adresse e-mail anonyme et un VPN pour envoyer des milliers de messages afin d'obtenir de l'aide pour étudier un virus grippal hautement contagieux.
Dans un autre cas, un scientifique voulait, selon Anthropic, utiliser Claude pour rédiger une demande de financement pour une recherche sur un virus devant se dérouler dans un établissement militaire. L'entreprise a bloqué l'accès par précaution, bien qu'il ne soit pas clair si l'intention était malveillante.
Le rapport mentionne également des tentatives d'utiliser Claude pour le développement d'armes conventionnelles, comme des missiles et des drones par des groupes au Yémen, ainsi que des technologies anti-torpilles en provenance de Chine. De plus, l'IA a été utilisée, selon Anthropic, par des groupes liés à la Russie et à l'Iran pour de l'espionnage et de la propagande.
Anthropic accuse également des entreprises chinoises comme Moonshot et Deepseek d'avoir détourné secrètement des demandes vers Claude pour entraîner leurs propres modèles d'IA. Ces allégations n'ont pas pu être vérifiées de manière indépendante à partir des sources disponibles.
Jacob Klein, responsable des analyses de menaces chez Anthropic, a déclaré au New York Times qu'il s'agissait d'une « situation incroyablement complexe », car les mêmes informations pourraient être utilisées à la fois pour des armes et pour des vaccins.
Le rapport est publié peu après qu'un ancien chercheur en sécurité de haut niveau chez Anthropic a publiquement mis en garde contre les risques de l'IA pour l'humanité.
POURQUOI C'EST IMPORTANT
Le rapport montre que les modèles d'IA sont déjà ciblés pour des usages dangereux comme la recherche sur les armes biologiques et les armes conventionnelles, même si les fournisseurs tentent de l'empêcher.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Restez sceptique face aux réponses de l'IA concernant des substances dangereuses Si une IA vous fournit des informations sur des produits chimiques, des virus ou des armes, vérifiez toujours ces informations auprès de sources officielles fiables. Ne vous fiez pas uniquement au chatbot.
- Signalez toute utilisation suspecte des services d'IA Si vous remarquez que quelqu'un utilise une IA à des fins dangereuses, vous pouvez le signaler au fournisseur ou aux autorités. De nombreuses entreprises proposent des formulaires de signalement dédiés.
- Lisez les rapports de sécurité des grands fournisseurs d'IA Des entreprises comme Anthropic publient régulièrement des rapports sur les abus détectés de leurs IA. Les consulter vous montre quels sont les risques et à quel point ils sont pris au sérieux.
- Utilisez les services d'IA uniquement via des accès officiels Évitez les revendeurs douteux ou les accès anonymes aux outils d'IA, car ceux-ci sont souvent utilisés pour contourner les règles de sécurité. Inscrivez-vous avec votre identité réelle auprès de fournisseurs sérieux.