Anthropic blockerar försök att använda Claude för bio- och vapenforskning
Anthropic har publicerat en rapport där företaget beskriver hur de mellan december 2025 och augusti 2026 upptäckte och stoppade försök att använda sin KI-modell Claude för farliga ändamål.
Enligt Anthropic ingick fem fall där personer försökte använda Claude för forskning om biologiska vapen. I ett exempel använde någon en anonym e-postadress och en VPN för att skicka tusentals meddelanden för att få hjälp med forskning om ett mycket smittsamt influensavirus.
I ett annat fall ville enligt Anthropic en forskare använda Claude för att formulera en ansökan om forskningsbidrag för ett virus som skulle studeras vid en militär anläggning. Företaget blockerade tillgången av försiktighet, trots att det var oklart om avsikten var skadlig.
Rapporten nämner också försök att använda Claude för utveckling av konventionella vapen, till exempel raketer och drönare av grupper i Jemen, samt anti-torpedteknik från Kina. Dessutom användes KI:n enligt Anthropic av grupper med kopplingar till Ryssland och Iran för spionage och propaganda.
Anthropic anklagar dessutom kinesiska företag som Moonshot och Deepseek för att i hemlighet ha omdirigerat förfrågningar till Claude för att träna egna KI-modeller. Dessa anklagelser kunde inte oberoende verifieras utifrån tillgängliga källor.
Jacob Klein, som ansvarar för hotanalyser på Anthropic, sade enligt New York Times att det rör sig om en "otroligt mångfacetterad situation", eftersom samma information kan användas både för vapen och för vacciner.
Rapporten publiceras kort efter att en tidigare ledande säkerhetsforskare på Anthropic offentligt varnat för riskerna med KI för mänskligheten.
VARFÖR DET ÄR VIKTIGT
Rapporten visar att KI-modeller redan medvetet missbrukas för farliga ändamål som forskning om bio- och vapen, även om leverantörer försöker förhindra det.
VAD DU KAN GÖRA NU
- Var skeptisk till KI-svar om farliga ämnen Om en KI ger dig information om kemikalier, virus eller vapen, kontrollera alltid uppgifterna hos pålitliga officiella källor. Lita inte enbart på chatboten.
- Rapportera misstänkt användning av KI-tjänster Om du märker att någon använder en KI för farliga ändamål kan du rapportera det till leverantören eller myndigheterna. Många företag erbjuder särskilda rapporteringsformulär för detta.
- Läs säkerhetsrapporter från stora KI-leverantörer Företag som Anthropic publicerar regelbundet rapporter om upptäckt missbruk av sin KI. En titt på dem visar vilka risker som finns och hur allvarligt de tas på.
- Använd KI-tjänster endast via officiella åtkomster Undvik tvivelaktiga återförsäljare eller anonyma åtkomster till KI-verktyg, eftersom dessa ofta används för att kringgå säkerhetsregler. Registrera dig med din riktiga identitet hos seriösa leverantörer.