Anthropic blokira pokušaje korištenja Claude za razvoj biološkog oružja
Anthropic je objavio izvješće u kojem opisuje kako je između prosinca 2025. i kolovoza 2026. otkrio i zaustavio pokušaje zlouporabe svog KI modela Claude za opasne svrhe.
Prema Anthropicu, među tim slučajevima bilo je pet pokušaja u kojima su ljudi pokušali koristiti Claude za istraživanje biološkog oružja. U jednom primjeru, netko je preko anonimne e-mail adrese i VPN-a poslao tisuće poruka tražeći pomoć pri istraživanju visoko zaraznog virusa gripe.
U drugom slučaju, prema Anthropicu, jedan znanstvenik je htio koristiti Claude da napiše zahtjev za financiranje istraživanja virusa koji bi se trebao provoditi u vojnom objektu. Tvrtka je blokirala pristup iz opreza, iako nije bilo jasno da li je namjera bila štetna.
Izvješće također spominje pokušaje korištenja Claude za razvoj konvencionalnog oružja, kao što su rakete i dronovi od strane skupina u Jemenu, te anti-torpedna tehnologija iz Kine. Osim toga, KI je prema Anthropicu korištena od strane skupina povezanih s Rusijom i Iranom za špijunažu i propagandu.
Anthropic također optužuje kineske tvrtke poput Moonshot i Deepseek da su tajno preusmjeravale upite na Claude kako bi trenirale vlastite KI modele. Ove optužbe nije bilo moguće neovisno provjeriti iz dostupnih izvora.
Jacob Klein, odgovoran za analizu prijetnji u Anthropicu, rekao je za New York Times da se radi o „nevjerojatno složenoj situaciji“, jer se iste informacije mogu koristiti i za razvoj oružja i za razvoj cjepiva.
Izvješće je objavljeno nedugo nakon što je bivši vodeći istraživač sigurnosti u Anthropicu javno upozorio na rizike KI za čovječanstvo.
ZAŠTO JE TO VAŽNO
Izvješće pokazuje da se KI modeli već namjerno zlouporabljuju za opasne svrhe poput istraživanja biološkog oružja i oružja, iako pružatelji pokušavaju to spriječiti.
ŠTO MOŽEŠ SAD UČINITI
- Budi skeptičan prema KI odgovorima o opasnim tvarima Ako vam KI pruži informacije o kemikalijama, virusima ili oružju, uvijek provjerite podatke kod pouzdanih službenih izvora. Ne oslanjajte se isključivo na chatbot.
- Prijavi sumnjivu uporabu KI usluga Ako primijetite da netko KI koristi za opasne svrhe, to možete prijaviti pružatelju usluge ili nadležnim tijelima. Mnoge tvrtke nude posebne obrasce za prijavu.
- Čitaj sigurnosna izvješća velikih pružatelja KI usluga Tvrtke poput Anthropica redovito objavljuju izvješća o otkrivenoj zlouporabi svoje KI. Pogled na ta izvješća pokazat će vam koje rizike postoje i koliko se ozbiljno shvaćaju.
- Koristi KI usluge samo preko službenih pristupa Izbjegavajte sumnjive posrednike ili anonimne pristupe KI alatom, jer se oni često koriste za zaobilazak sigurnosnih pravila. Registrirajte se svojim pravim identitetom kod pouzdanih pružatelja.