Anthropic signale l'utilisation abusive de Claude pour le développement de missiles au Yémen
L'entreprise américaine Anthropic a révélé dans un rapport sur les menaces qu'un groupe d'acteurs dans le nord du Yémen a tenté d'utiliser le chatbot IA Claude pour développer des logiciels militaires de guidage.
Selon des analyses médiatiques concordantes, tout porte à croire qu'il s'agit des rebelles Houthis, soutenus par l'Iran, bien qu'Anthropic ne les nomme pas directement.
D'après le rapport, le groupe a utilisé plusieurs instances de Claude en parallèle : l'une écrivait du code, une autre faisait des recherches et une troisième vérifiait les résultats, à l'image d'une véritable équipe de développement. L'objectif était de créer un logiciel pour contrôler des missiles, dont un missile balistique d'une portée de plus de 2 000 kilomètres.
Pour contourner les mesures de sécurité d'Anthropic, les utilisateurs ont réparti leurs demandes sur de nombreuses sessions individuelles, de sorte que l'objectif global n'était pas détectable. Anthropic a indiqué avoir intercepté de nombreuses, mais pas toutes les demandes.
Lors d'un essai réel de lancement de missile, un échec a eu lieu. Quelques heures plus tard, les utilisateurs ont de nouveau téléchargé les données de l'accident dans Claude pour en déterminer la cause.
Anthropic a bloqué les comptes concernés et informé les autorités de sécurité. Un représentant des Houthis a nié, selon le rapport, que le groupe dépende de sources publiques accessibles pour le développement d'armes. Un expert en armement doute par ailleurs que le groupe soit capable, même avec l'aide de l'IA, de construire des armes hypersoniques fonctionnelles.
Anthropic met en garde : les utilisateurs avaient déjà créé, avant le blocage, un package de programmes autonome hors ligne qui pourrait être utilisé à l'avenir sans accès à Claude.
POURQUOI C'EST IMPORTANT
Ce cas montre que les systèmes d'IA, malgré les mesures de sécurité, peuvent être détournés pour développer des armes dangereuses, plaçant ainsi des capacités entre les mains de quelques acteurs qui nécessitaient auparavant des équipes d'experts.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Restez sceptique face aux promesses de sécurité de l'IA Aucun système d'IA n'est sécurisé à 100 % contre les abus. Ne comptez pas aveuglément sur les fabricants pour empêcher tout détournement.
- Informe-toi sur les rapports d'abus Les grandes entreprises d'IA publient régulièrement des rapports sur les abus détectés de leurs systèmes. Consulter des sources d'information fiables t'aide à mieux évaluer les risques actuels.
- Vérifie soigneusement les sources des informations sur les conflits Les rapports sur le développement d'armes et les conflits sont souvent complexes et parfois contradictoires. Vérifie si plusieurs médias indépendants confirment les mêmes faits.
- Signale une utilisation suspecte de l'IA Si tu as connaissance d'un éventuel détournement d'un service d'IA, tu peux le signaler au fournisseur concerné via sa fonction de signalement. Ainsi, les utilisateurs aident les entreprises à combler les failles de sécurité.