Anthropic rapporterer om misbruk av Claude til rakettutvikling i Jemen
Det amerikanske selskapet Anthropic har i en trusselrapport avslørt at en aktørgruppe i det nordlige Jemen forsøkte å bruke KI-chatboten Claude til å utvikle militær styringsprogramvare.
Ifølge enstemmige medieanalyser tyder mye på at det dreier seg om de iran-støttede Huthi-rebellene, selv om Anthropic ikke nevner dem direkte ved navn.
Gruppen skal ifølge rapporten ha brukt flere Claude-instanser parallelt: én skrev kode, én forsket, og en tredje sjekket resultatene – på liknende måte som et ekte utviklerteam. Målet var programvare for å styre raketter, inkludert en ballistisk rakett med en rekkevidde på over 2 000 kilometer.
For å unngå sikkerhetstiltakene til Anthropic, fordelte brukerne forespørslene sine på mange enkeltøkter, slik at det totale formålet ikke ble synlig. Anthropic forklarte at de hadde klart å stoppe mange, men ikke alle forespørsler.
Under en ekte testoppskyting av en rakett oppstod det en feil. Bare noen timer senere lastet brukerne opp nedsturtsdataene i Claude igjen for å finne årsaken.
Anthropic stengte de berørte kontoene og informerte sikkerhetsmyndigheter. En representant for Huthi-gruppen avviser ifølge rapporten at gruppen er avhengig av offentlig tilgjengelige kilder for våpenutvikling. En våpenekspert tviler dessuten på at gruppen, til tross for KI-hjelp, faktisk er i stand til å bygge funksjonelle hypersoniske våpen.
Anthropic advarer om at brukerne allerede før sperringen hadde opprettet et selvstendig offline-programpakke som kan brukes videre uten tilgang til Claude.
HVORFOR DETTE ER VIKTIG
Saken viser at KI-systemer, til tross for sikkerhetstiltak, kan misbrukes til utvikling av farlige våpen, og dermed gi ferdigheter til få aktører som tidligere krevde store ekspertteam.
HVA DU KAN GJØRE NÅ
- Vær skeptisk til KI-sikkerhetsløfter Ingen KI-system er hundre prosent sikkert mot misbruk. Stol ikke blindt på at produsenter kan forhindre all misbruk.
- Hold deg oppdatert om misbruksrapporter Store KI-selskaper publiserer jevnlig rapporter om oppdaget misbruk av systemene sine. Et blikk i seriøse nyhetskilder hjelper deg med å vurdere aktuelle risikoer bedre.
- Sjekk kilder nøye ved konfliktnyheter Rapporter om våpenutvikling og konflikter er ofte komplekse og delvis motstridende. Pass på om flere uavhengige medier bekrefter de samme fakta.
- Meld mistenkelig KI-bruk Hvis du får kjennskap til mulig misbruk av en KI-tjeneste, kan du rapportere dette til tilbyderen via deres meldingsfunksjon. På denne måten hjelper brukere selskapene med å lukke sikkerhetshull.