Anthropic rapporterer om misbrug af Claude til raketudvikling i Yemen
Det amerikanske selskab Anthropic har i en trusselsrapport afsløret, at en aktørgruppe i det nordlige Yemen har forsøgt at bruge KI-chatbotten Claude til at udvikle militær styresoftware.
Ifølge fælles medieanalyser peger meget på de iransk-støttede Huthi-rebeller, selvom Anthropic ikke direkte nævner dem ved navn.
Gruppen brugte ifølge rapporten flere Claude-instanser parallelt: én skrev kode, én foretog research, og en tredje kontrollerede resultaterne – på samme måde som et rigtigt udviklerteam. Målet var software til styring af raketter, herunder en ballistisk raket med en rækkevidde på over 2.000 kilometer.
For at omgå Anthropics sikkerhedsforanstaltninger fordelte brugerne deres forespørgsler på mange enkelte sessioner, så det samlede formål ikke var gennemsigtigt. Anthropic forklarer, at de har fanget mange, men ikke alle forespørgsler.
Ved en reel testaffyring af en raket opstod der en fejl. Kun få timer senere uploadede brugerne styrtdataene til Claude igen for at finde årsagen.
Anthropic blokerede de berørte konti og informerede sikkerhedsmyndighederne. En repræsentant for Huthi'erne afviste ifølge rapporten, at gruppen var afhængig af offentligt tilgængelige kilder til våbenudvikling. En våbenekspert tvivler desuden på, at gruppen – på trods af KI-hjælp – faktisk er i stand til at bygge funktionelle hypersoniske våben.
Anthropic advarer om, at brugerne allerede inden blokeringen havde oprettet et selvstændigt offline-programpakke, som fremover kan bruges uden adgang til Claude.
HVORFOR DET ER VIGTIGT
Sagen viser, at KI-systemer på trods af sikkerhedsforanstaltninger kan misbruges til udvikling af farlige våben, og at de dermed kan give færdigheder i hænderne på få aktører, som tidligere krævede store ekspertteams.
HVAD DU KAN GØRE NU
- Bliv skeptisk over for KI-sikkerhedsløfter Ingen KI-system er hundrede procent sikkert mod misbrug. Stol ikke blindt på, at producenterne kan forhindre al misbrug.
- Hold dig opdateret om misbrugsrapporter Store KI-virksomheder udgiver regelmæssigt rapporter om opdaget misbrug af deres systemer. Et kig i seriøse nyhedskilder hjælper dig med bedre at vurdere aktuelle risici.
- Tjek kilderne grundigt ved konfliktnyheder Rapporter om våbenudvikling og konflikter er ofte komplekse og delvist modstridende. Vær opmærksom på, om flere uafhængige medier bekræfter de samme fakta.
- Rapporter mistænkelig KI-brug Hvis du hører om muligt misbrug af en KI-tjeneste, kan du rapportere det til den pågældende udbyder via deres anmeldelsesfunktion. Sådan hjælper brugere virksomhederne med at lukke sikkerhedshuller.