Anthropic blokkerer forsøg på at bruge Claude til bio- og våbenforskning
Anthropic har udgivet en rapport, hvor firmaet beskriver, hvordan de mellem december 2025 og august 2026 opdagede og stoppede forsøg på at bruge deres KI-model, Claude, til farlige formål.
Ifølge Anthropic inkluderede dette fem tilfælde, hvor personer forsøgte at bruge Claude til forskning i biologiske våben. I ét eksempel brugte en person en anonym e-mail-adresse og et VPN til at sende tusindvis af beskeder for at få hjælp til forskning i en højtsmittende influenzavirus.
I et andet tilfælde ville en forsker ifølge Anthropic bruge Claude til at formulere en ansøgning om støtte til forskning i en virus, der skulle foregå på en militær institution. Firmaet blokerede adgangen af forsigtighed, selvom det var uklart, om intentionen var skadelig.
Rapporten nævner også forsøg på at bruge Claude til udvikling af konventionelle våben, fx raketter og droner af grupper i Yemen samt anti-torpedo-teknologi fra Kina. Derudover blev KI’en ifølge Anthropic brugt af grupper med forbindelser til Rusland og Iran til spionage og propaganda.
Anthropic beskylder desuden kinesiske firmaer som Moonshot og Deepseek for hemmeligt at have omdirigeret forespørgsler til Claude for at træne deres egne KI-modeller. Disse anklager kunne ikke uafhængigt verificeres ud fra de foreliggende kilder.
Jacob Klein, der hos Anthropic er ansvarlig for trusselsanalyser, sagde ifølge New York Times, at det drejede sig om en „utrolig mangfoldig situation“, da de samme oplysninger både kunne bruges til våben og til vaccineudvikling.
Rapporten udkommer kort tid efter, at en tidligere ledende sikkerhedsforsker hos Anthropic offentligt advarede mod risiciene ved KI for menneskeheden.
HVORFOR DET ER VIGTIGT
Rapporten viser, at KI-modeller allerede bevidst misbruges til farlige formål som bio- og våbenforskning, selvom udbydere forsøger at forhindre det.
HVAD DU KAN GØRE NU
- Vær skeptisk over for KI-svar om farlige stoffer Hvis en KI giver dig oplysninger om kemikalier, vira eller våben, skal du altid tjekke oplysningerne hos pålidelige officielle kilder. Stol ikke udelukkende på chatbotten.
- Anmeld mistænkelig brug af KI-tjenester Hvis du opdager, at nogen bruger en KI til farlige formål, kan du rapportere det til udbyderen eller myndighederne. Mange firmaer tilbyder specielle anmeldelsesskemaer til dette formål.
- Læs sikkerhedsrapporter fra store KI-udbydere Firmaer som Anthropic udgiver regelmæssigt rapporter om opdaget misbrug af deres KI. Et kig på disse viser dig, hvilke risici der findes, og hvordan de bliver taget alvorligt.
- Brug KI-tjenester kun via officielle adgange Undgå tvivlsomme genforhandlere eller anonyme adgange til KI-værktøjer, da disse ofte bruges til at omgå sikkerhedsregler. Registrer dig med din rigtige identitet hos seriøse udbydere.