Anthropic blokkerer forsøk på å bruke Claude til bio- og våpenforskning
Anthropic har publisert en rapport der selskapet beskriver hvordan de mellom desember 2025 og august 2026 oppdaget og stoppet forsøk på å bruke KI-modellen Claude til farlige formål.
Ifølge Anthropic inkluderte dette fem tilfeller der personer forsøkte å bruke Claude til forskning på biologiske våpen. I ett eksempel brukte noen en anonym e-postadresse og et VPN til å sende tusenvis av meldinger for å få hjelp til å forske på et svært smittsomt influensavirus.
I et annet tilfelle ville ifølge Anthropic en forsker bruke Claude til å formulere en søknad om finansiering for forskning på et virus, som skulle gjennomføres ved en militær institusjon. Selskapet blokkerte tilgangen av forsiktighetshensyn, selv om det var uklart om hensikten var skadelig.
Rapporten nevner også forsøk på å bruke Claude til utvikling av konvensjonelle våpen, for eksempel raketter og droner av grupper i Jemen, samt anti-torpedo-teknologi fra Kina. I tillegg ble KI-en ifølge Anthropic brukt av grupper med tilknytning til Russland og Iran for spionasje og propaganda.
Anthropic beskylder dessuten kinesiske selskaper som Moonshot og Deepseek for hemmelig å ha omdirigert forespørsler til Claude for å trene egne KI-modeller. Disse påstandene kunne ikke uavhengig verifiseres ut fra tilgjengelige kilder.
Jacob Klein, som jobber med trusselanalyse i Anthropic, sa ifølge New York Times at dette dreier seg om en «utrolig flerdimensjonal situasjon», ettersom den samme informasjonen kan brukes både til våpen og til vaksiner.
Rapporten kommer kort tid etter at en tidligere ledende sikkerhetsforsker i Anthropic offentlig advarte mot risikoen KI utgjør for menneskeheten.
HVORFOR DETTE ER VIKTIG
Rapporten viser at KI-modeller allerede bevisst misbrukes til farlige formål som bio- og våpenforskning, selv om leverandørene forsøker å hindre dette.
HVA DU KAN GJØRE NÅ
- Vær skeptisk til KI-svar om farlige stoffer Hvis en KI gir deg informasjon om kjemikalier, virus eller våpen, må du alltid sjekke opplysningene hos pålitelige, offisielle kilder. Stol ikke bare på chatboten.
- Rapporter mistenkelig bruk av KI-tjenester Hvis du merker at noen prøver å bruke en KI til farlige formål, kan du melde dette til leverandøren eller myndighetene. Mange selskaper tilbyr egne meldeskjemaer for dette.
- Les sikkerhetsrapporter fra store KI-leverandører Selskaper som Anthropic publiserer regelmessig rapporter om oppdaget misbruk av KI-en sin. Et blikk på disse viser hvilke risikoer som finnes og hvordan de blir tatt på alvor.
- Bruk KI-tjenester bare gjennom offisielle kanaler Unngå tvilsomme mellommenn eller anonyme tilganger til KI-verktøy, da disse ofte brukes til å omgå sikkerhetsregler. Registrer deg med din ekte identitet hos seriøse leverandører.