Anthropic blokuje pokusy zneužiť Claude na biozbrane
Spoločnosť Anthropic zverejnila správu, v ktorej popisuje, ako medzi decembrom 2025 a augustom 2026 odhalila a zastavila pokusy zneužiť svoj model KI Claude na nebezpečné účely.
Podľa Anthropic sa medzi ne patrilo päť prípadov, v ktorých ľudia sa pokúšali s pomocou Claude skúmať biologické zbrane. V jednom prípade niekto cez anonymnú e-mailovú adresu a VPN posielal tisíce správ s prosbou o pomoc pri výskume vysoce nákazlivého chřipkového vírusu.
V inej situácii chcel podľa Anthropic jeden vedec s pomocou Claude napísať žiadosť o grant na výskum vírusu, ktorý sa mal uskutočniť v vojenskom zariadení. Spoločnosť zablokovala prístup z opatrnosti, aj keď nebolo jasné, či bol úmysel škodlivý.
Správa spomína aj pokusy zneužiť Claude na vývoj konvenčných zbraní, napríklad rakiet a dronov skupinami v Jemene alebo protitorpédovej technológie z Číny. Okrem toho sa podľa Anthropic KI využívala aj skupinami s väzbami na Rusko a Irán pre špionáž a propagandu.
Anthropic tiež obviňuje čínske spoločnosti ako Moonshot a Deepseek, že tajne presmerovali požiadavky na Claude, aby trénovali vlastné modely KI. Tieto obvinenia sa z dostupných zdrojov nedali nezávisle overiť.
Jacob Klein, ktorý sa v Anthropic venuje analýze hrozieb, povedal podľa New York Times, že ide o „neuvieriteľne zložité situácie“, pretože tie isté informácie sa dajú využiť nielen na zbrane, ale aj na vakcíny.
Správa sa objavila krátko potom, čo bývalý vedúci výskumník bezpečnosti v Anthropic verejne varoval pred rizikami KI pre ľudstvo.
PREČO JE TO DÔLEŽITÉ
Správa ukazuje, že modely KI sa už cielene zneužívajú na nebezpečné účely, ako je výskum biologických zbraní a zbraní všeobecne, aj keď poskytovatelia sa to snažia zabrániť.
ČO MÔŽEŠ TERAZ UROBIŤ
- Buď skeptický k odpovediam KI o nebezpečných látkach Ak ti KI poskytuje informácie o chemikáliách, vírusoch alebo zbraniach, vždy si ich over u dôveryhodných oficiálnych zdrojoch. Nespoliehaj sa len na chatbota.
- Nahlás podozrivé využívanie KI služieb Ak zistíš, že niekto chce KI využiť na nebezpečné účely, môžeš to nahlásiť poskytovateľovi alebo úradom. Mnohé spoločnosti majú na to špeciálne formuláre.
- Čítaj bezpečnostné správy veľkých poskytovateľov KI Spoločnosti ako Anthropic pravidelne zverejňujú správy o odhalenom zneužívaní svojej KI. Pohľad na ne ti ukáže, aké riziká existujú a ako sa s nimi zachádza.
- Používaj KI služby len cez oficiálne prístupy Vyhýba sa pochybným predajcom alebo anonymným prístupom k nástrojom KI, pretože sa často využívajú na obchádzanie bezpečnostných pravidiel. Registruj sa svojou skutočnou identitou u dôveryhodných poskytovateľov.