Anthropic blokavo bandymus naudoti „Claude“ biologiniams ginklams
Anthropic paskelbė ataskaitą, kurioje aprašo, kaip 2025 m. gruodžio mėn. ir 2026 m. rugpjūčio mėn. tarpą atrado ir sustabdė bandymus panaudoti savo KI modelį „Claude“ pavojingoms tikslams.
Anthropic teigia, kad tarp šių atvejų buvo penki, kai žmonės bandė naudoti „Claude“ biologinių ginklų tyrimams. Pavyzdžiui, vienas asmuo naudojo anonimų el. pašto adresą ir VPN, kad per tūkstančius žinučių prašytų pagalbos tyrinėti labai užkrečiamą gripą.
Kitu atveju, pasak Anthropic, mokslininkas norėjo su „Claude“ parengti paramos prašymą virusų tyrimams, kurie turėtų vykti karinėje įstaigoje. Įmonė užblokavo prieigą iš atsargumo, nors nebuvo aišku, ar ketinimas buvo žalingas.
Ataskaitoje taip pat minimi bandymai naudoti „Claude“ tradicinėms ginklams, pavyzdžiui, raketoms ir bepilotiams orlaiviams, kuriuos kūrė grupės Jemene, taip pat anti-torpedų technologijoms iš Kinijos. Be to, KI, pasak Anthropic, buvo naudojama grupėms, susijusioms su Rusija ir Iranu, šnipinėjimui ir propagandai.
Anthropic taip pat kaltina kinų įmones, tokias kaip „Moonshot“ ir „Deepseek“, kad jos slaptai nukreipė užklausas „Claude“, norėdamos treniruoti savo KI modelius. Šie kaltinimai negali būti nepriklausomai patikrinti iš esamų šaltinių.
Jacob Klein, atsakantis už grėsmių analizę Anthropic, pasak „New York Times“, sakė, kad tai yra „neįtikėtinai sudėtinga situacija“, nes ta pati informacija gali būti naudojama tiek ginklams, tiek skiepams kurti.
Ataskaita pasirodė netrukus po to, kai buvęs Anthropic saugos tyrėjas viešai įspėjo apie KI grėsmes žmonijai.
KODĖL TAI SVARBU
Ataskaita rodo, kad KI modeliai jau tikslingai naudojami pavojingoms tikslams, tokiems kaip biologinių ginklų ir ginklų tyrimai, nors teikėjai stengiasi tai užkirsti kelią.
KĄ DABAR GALI PADARYTI
- Būk skeptiškas, kai KI teikia atsakymus apie pavojingas medžiagas Jei KI teikia informacijos apie chemines medžiagas, virusus ar ginklus, visada patikrink duomenis pas patikimas oficialias institucijas. Nesitiki tik chatbotu.
- Pranešk apie įtartiną KI paslaugų naudojimą Jei pastebi, kad kažkas naudoja KI pavojingoms tikslams, tai gali pranešti teikėjui ar valstybinėms institucijoms. Daug įmonių siūlo specialius pranešimo formularus.
- Skaityk didžiųjų KI teikėjų saugos ataskaitas Tokios įmonės kaip Anthropic reguliariai skelbia ataskaitas apie atpažįstamą KI panaudojimą. Žvilgsnis į jas parodys, kokios grėsmės egzistuoja ir kaip joms yra atkreipiamas dėmesys.
- Naudok KI paslaugas tik per oficialius kanalus Vengk abejotino vertėjo ar anoniminių prieigų prie KI įrankių, nes jie dažnai naudojami, norint apsaugos taisyklių. Registruokis su tikra asmenybe pas patikimus teikėjus.