Anthropic blocca i tentativi di usare Claude per armi biologiche
Anthropic ha pubblicato un rapporto in cui descrive come, tra dicembre 2025 e agosto 2026, abbia individuato e bloccato tentativi di utilizzare il suo modello di IA Claude per scopi pericolosi.
Secondo Anthropic, tra questi casi ce ne sono cinque in cui alcune persone hanno cercato di usare Claude per ricerche su armi biologiche. In un esempio, qualcuno ha utilizzato un indirizzo email anonimizzato e una VPN per inviare migliaia di messaggi e ottenere aiuto nella ricerca su un virus influenzale altamente contagioso.
In un altro caso, uno scienziato avrebbe voluto usare Claude per redigere una domanda di finanziamento per una ricerca su un virus da svolgere in una struttura militare. L’azienda ha bloccato l’accesso per precauzione, anche se non era chiaro se l’intenzione fosse dannosa.
Il rapporto menziona anche tentativi di usare Claude per lo sviluppo di armi convenzionali, come missili e droni da parte di gruppi in Yemen, o tecnologie anti-siluro da parte di gruppi cinesi. Inoltre, secondo Anthropic, l’IA è stata utilizzata da gruppi collegati a Russia e Iran per spionaggio e propaganda.
Anthropic accusa anche aziende cinesi come Moonshot e Deepseek di aver deviato segretamente richieste a Claude per addestrare i propri modelli di IA. Queste accuse non sono state verificate in modo indipendente dalle fonti disponibili.
Jacob Klein, responsabile delle analisi delle minacce presso Anthropic, ha dichiarato al New York Times che si tratta di una "situazione incredibilmente complessa", poiché le stesse informazioni potrebbero essere utilizzate sia per armi che per vaccini.
Il rapporto è stato pubblicato poco dopo che un ex ricercatore di sicurezza di Anthropic aveva pubblicamente avvertito dei rischi dell’IA per l’umanità.
PERCHÉ È IMPORTANTE
Il rapporto dimostra che i modelli di IA vengono già utilizzati in modo mirato per scopi pericolosi come la ricerca su armi biologiche e armi convenzionali, anche se i fornitori cercano di impedire questo abuso.
COSA PUOI FARE ORA
- Mantieni uno spirito critico sulle risposte dell’IA su sostanze pericolose Se un’IA ti fornisce informazioni su sostanze chimiche, virus o armi, verifica sempre le informazioni con fonti ufficiali affidabili. Non basarti solo sul chatbot.
- Segnala l’uso sospetto dei servizi di IA Se noti che qualcuno sta cercando di usare un’IA per scopi pericolosi, puoi segnalarlo al fornitore o alle autorità. Molte aziende offrono moduli di segnalazione appositi.
- Leggi i rapporti sulla sicurezza dei principali fornitori di IA Aziende come Anthropic pubblicano regolarmente rapporti sugli abusi rilevati delle loro IA. Darci un’occhiata ti aiuta a capire quali sono i rischi e quanto vengono presi sul serio.
- Utilizza i servizi di IA solo tramite accessi ufficiali Evita rivenditori dubbi o accessi anonimi agli strumenti di IA, poiché spesso vengono utilizzati per aggirare le regole di sicurezza. Registrati con la tua identità reale presso fornitori seri come AI AMNESTY o PRO.