Anthropic blokira poskuse uporabe Claude za bioorožje
Podjetje Anthropic je objavilo poročilo, v katerem opisuje, kako je med decembrom 2025 in avgustom 2026 odkrilo in ustavilo poskuse zlorabe svojega modela KI Claude za nevarne namene.
Po podatkih Anthropic je bilo med njimi pet primerov, v katerih so posamezniki poskušali z Claude raziskovati biološko orožje. V enem od primerov je neka oseba preko anonimnega e-poštnega naslova in VPN uporabila tisoče sporočil, da bi dobila pomoč pri raziskovanju zelo nalezljivega virusa gripe.
V drugem primeru je po podatkih Anthropic znanstvenik hotel z Claude sestaviti vlogo za financiranje raziskav virusa, ki bi potekale v vojaški ustanovi. Podjetje je blokiralo dostop iz predvidljivosti, čeprav ni bilo jasno, ali je bil namen škodljiv.
Poročilo omenja tudi poskuse uporabe Claude za razvoj konvencionalnega orožja, na primer raket in dronov s strani skupin v Jemnu ter protitorpedne tehnologije iz Kitajske. Poleg tega je bila KI po podatkih Anthropic uporabljena s strani skupin z vezmi na Rusijo in Iran za vohunjenje in propagando.
Anthropic obtožuje tudi kitajska podjetja, kot sta Moonshot in Deepseek, da so tajno preusmerjala zahteve na Claude, da bi usposabljala lastne modele KI. Te obtožbe ni bilo mogoče neodvisno preveriti iz razpoložljivih virov.
Jacob Klein, odgovorni za analizo groženj pri Anthropic, je po podatkih New York Times povedal, da gre za »neverjetno večplastno situacijo«, saj bi iste informacije lahko uporabili tako za orožje kot za cepiva.
Poročilo je izšlo kmalu potem, ko je nekdanji vodilni raziskovalec varnosti pri Anthropic javno opozoril na tveganja KI za človeštvo.
ZAKAJ JE TO POMEMBNO
Poročilo kaže, da se modeli KI že namerno zlorabljajo za nevarne namene, kot so raziskave bioorožja in orožja, čeprav ponudniki poskušajo to preprečiti.
KAJ LAHKO NARDIŠ ZDAJ
- Bodi skeptičen do odgovorov KI o nevarnih snoveh Če ti KI zagotavlja informacije o kemikalijah, virusih ali orožju, preveri podatke vedno pri zaupnih uradnih virih. Ne zanašaj se samo na klepetalca.
- Prijavi sumljivo uporabo storitev KI Če opaziš, da kdo želi KI uporabiti za nevarne namene, to lahko prijaviš ponudniku ali pristojnim organom. Veliko podjetij ponuja posebej obrazce za prijavitev.
- Preberi varnostna poročila velikih ponudnikov KI Podjetja, kot je Anthropic, redno objavljajo poročila o ugotovljenih zlorabah svoje KI. Pogled nanje ti pokaže, kakšna tveganja obstajajo in kako resno jih jemajo.
- Uporabljaj storitve KI samo preko uradnih dostopov Izogibaj se dvomljivim ponudnikom ali anonimnim dostopom do orodij KI, saj se ti pogosto uporabljajo za obhod varnostnih pravil. Registriraj se z resnično identiteto pri zanesljivih ponudnikih.