Anthropic blokkib katseid kasutada Claude’i biorelvade jaoks
Anthropic on avaldanud aruande, kus firma kirjeldab, kuidas ta avastas ja peatatas detsembrist 2025 kuni augustini 2026 katseid kasutada oma KI-mudelit Claude ohtlikeks eesmärkideks.
Anthropic’i sõnul kuulusid sinna viis juhtumit, kus inimesed püüdsid Claude’iga tegeleda bioloogiliste relvade uuringutega. Ühes näites kasutati anonoomset e-posti aadressi ja VPN-i, et saada tuhandete sõnumite kaudu abi gripiviiruse uuringute jaoks, mis oleks väga nakkav.
Teises juhtumis soovis Anthropic’i sõnul teadlane Claude’i abil koosta taotlust viiruse uuringute rahalise toetuse saamiseks, mis pidi toimuma sõjaväelises asutuses. Firma blokkis juurdepääsu ettevaatusest, kuigi ei selgunud, kas tahtis teha midagi kahjulikku.
Aruandes mainitakse ka katseid kasutada Claude’i tavaliste relvade, näiteks rakettide ja droonide arendamiseks Jeemeni rühmituste poolt ning Hiinast pärineva torpeedovastase tehnoloogia jaoks. Lisaks kasutati KI-d Anthropic’i sõnul rühmituste poolt, kel olid sidemed Venemaaga ja Iraaniga, luure ja propagandaks.
Anthropic süüdistab ka Hiina ettevõtteid nagu Moonshot ja Deepseek selles, et nad on salaja suunanud päringud Claude’ile, et treenida oma KI-mudleid. Need süüdistused ei ole olnud võimalik iseseisvalt kontrollida olevaid allikaid põhjendades.
Jacob Klein, kes vastutab Anthropic’is ohuanalüüsi eest, ütles New York Timesile, et tegemist on „usutamatult mitmekülgse olukorraga“, kuna samu teavet võiks kasutada nii relvade kui ka vaktsiinide arendamiseks.
Aruanne ilmus peagi pärast seda, kui endine Anthropic’i juhiv ohuteadlane hoiatas avalikult KI ohtude eest inimkonnale.
MIKS SE ON OLULINE
Aruanne näitab, et KI-mudleid kasutatakse juba sihipäraselt ohtlikeks eesmärkideks nagu biorelvade ja relvauuringute jaoks, kuigi pakkujad püüavad seda takistada.
MIDA SA NÜÜD TEHA VÕID
- Ole skeptiline KI-vastustes ohtlike ainete kohta Kui KI annab sulle teavet keemikute, viiruste või relvade kohta, kontrolli alati seda usaldusväärsete ametlike allikate juures. Ära toetu ainult chatboti vastustele.
- Teata kahtlast KI-teenuse kasutamist Kui märgad, et keegi tahab kasutada KI-d ohtlikeks eesmärkideks, võid sellest teha teate pakkujale või asutustele. Paljud ettevõtted pakuvad selleks eraldi teatevorme.
- Loe suuremate KI-pakkujate turvaaruandeid Ettevõtted nagu Anthropic avaldavad regulaarselt aruandeid avastatud KI väärkasutuse kohta. Pilk nendele näitab, milliseid ohte on ja kuidas neid peetakse tõsiselt.
- Kasuta KI-teenuseid ainult ametlike juurdepääsude kaudu Väldi kahtlased vahetegevad või anonoomsed juurdepääsud KI-tööriistadele, sest neid kasutatakse tihti turvanõuete ületamiseks. Registreeru oma tegeliku isikuga usaldusväärsete pakkujate juures.