Anthropic segnala l'abuso di Claude per lo sviluppo di missili in Yemen
L'azienda statunitense Anthropic ha rivelato in un rapporto sulle minacce che un gruppo di attori nel nord dello Yemen ha tentato di utilizzare il chatbot IA Claude per sviluppare software di controllo militare.
Secondo analisi dei media concordanti, molti indizi puntano ai ribelli Huthi sostenuti dall'Iran, anche se Anthropic non li ha nominati direttamente.
Il gruppo, secondo il rapporto, ha utilizzato più istanze di Claude in parallelo: una scriveva codice, un'altra faceva ricerche e una terza verificava i risultati, proprio come un vero team di sviluppatori. L'obiettivo era creare software per il controllo di missili, tra cui un missile balistico con una gittata superiore ai 2.000 chilometri.
Per eludere le misure di sicurezza di Anthropic, gli utenti hanno distribuito le loro richieste in numerose sessioni singole, in modo che lo scopo complessivo non fosse riconoscibile. Anthropic ha dichiarato di aver intercettato molte, ma non tutte, le richieste.
Durante un vero test di lancio di un missile, si è verificato un fallimento. Poche ore dopo, gli utenti hanno caricato i dati dell'incidente su Claude per scoprirne la causa.
Anthropic ha bloccato gli account interessati e informato le autorità di sicurezza. Un rappresentante degli Huthi ha negato, secondo il rapporto, che il gruppo dipenda da fonti pubblicamente accessibili per lo sviluppo di armi. Un esperto di armi ha inoltre dubitato che il gruppo, nonostante l'aiuto dell'IA, sia effettivamente in grado di costruire armi ipersoniche funzionanti.
Anthropic avverte che gli utenti, già prima del blocco, avevano creato un pacchetto di programmi offline autonomo che potrebbe essere riutilizzato in futuro senza accesso a Claude.
PERCHÉ È IMPORTANTE
Questo caso dimostra che i sistemi di IA, nonostante le misure di sicurezza, possono essere utilizzati per sviluppare armi pericolose, mettendo in mano a pochi attori capacità che in passato richiedevano team di esperti.
COSA PUOI FARE ORA
- Rimani scettico sulle promesse di sicurezza dell'IA Nessun sistema di IA è sicuro al 100% contro gli abusi. Non fidarti ciecamente della capacità dei produttori di prevenire ogni abuso.
- Informati sui rapporti di abuso Le grandi aziende di IA pubblicano regolarmente rapporti sugli abusi scoperti dei loro sistemi. Dare un'occhiata a fonti di notizie affidabili ti aiuta a valutare meglio i rischi attuali.
- Verifica attentamente le fonti nelle notizie sui conflitti Le notizie sullo sviluppo di armi e sui conflitti sono spesso complesse e a volte contraddittorie. Assicurati che più media indipendenti confermino gli stessi fatti.
- Segnala un uso sospetto dell'IA Se vieni a conoscenza di un possibile abuso di un servizio di IA, puoi segnalarlo al fornitore tramite la sua funzione di segnalazione. In questo modo, gli utenti aiutano le aziende a chiudere le vulnerabilità di sicurezza.