Anthropic rapporterar om missbruk av Claude för raketutveckling i Jemen
Det amerikanska företaget Anthropic har i en hotrapport avslöjat att en aktörsgrupp i norra Jemen försökt använda KI-chatboten Claude för att utveckla militär styrprogramvara.
Enligt samstämmiga medieanalyser tyder mycket på de iranskstödda Huthi-rebellerna, även om Anthropic inte nämner dem direkt vid namn.
Gruppen använde enligt rapporten flera Claude-instanser parallellt: en skrev kod, en forskade och en tredje granskade resultaten – likt ett riktigt utvecklarteam. Målet var programvara för att styra raketer, däribland en ballistisk raket med över 2 000 kilometers räckvidd.
För att kringgå Anthropics säkerhetsåtgärder fördelade användarna sina förfrågningar på många enskilda sessioner, så att det övergripande syftet inte gick att upptäcka. Anthropic förklarade att man lyckats stoppa många, men inte alla, förfrågningar.
Vid ett riktigt testskott av en raket inträffade ett misslyckande. Endast några timmar senare laddade användarna upp kraschdata i Claude igen för att ta reda på orsaken.
Anthropic spärrade de berörda kontona och informerade säkerhetsmyndigheter. En representant för Huthi avvisade enligt rapporten att gruppen är beroende av offentligt tillgängliga källor för vapenutveckling. En vapenexpert ifrågasätter dessutom om gruppen, trots KI-hjälp, verkligen kan bygga funktionella hypersoniska vapen.
Anthropic varnar för att användarna redan före spärren hade skapat ett självständigt offline-programpaket som i framtiden kan användas utan tillgång till Claude.
VARFÖR DET ÄR VIKTIGT
Fallet visar att KI-system, trots säkerhetsåtgärder, kan missbrukas för att utveckla farliga vapen och därigenom ge få aktörer förmågor som tidigare krävde stora expertteam.
VAD DU KAN GÖRA NU
- Var skeptisk till KI-säkerhetslöften Ingen KI-tjänst är hundra procent säker mot missbruk. Lita inte blint på att tillverkare kan förhindra all missbruk.
- Informer dig om missbruksrapporter Stora KI-företag publicerar regelbundet rapporter om upptäckt missbruk av sina system. Att läsa seriösa nyhetskällor hjälper dig att bättre bedöma aktuella risker.
- Kontrollera källor noggrant vid konfliktnedräkningar Rapporter om vapenutveckling och konflikter är ofta komplexa och ibland motsägelsefulla. Se till att flera oberoende medier bekräftar samma fakta.
- Anmäl misstänkt KI-användning Om du får reda på ett möjligt missbruk av en KI-tjänst kan du rapportera det till den aktuella leverantören via dess anmälningsfunktion. Så hjälper användare företagen att stänga säkerhetsluckor.