Anthropic bloķē mēģinājumus izmantot Claude bioloģisko ieroču izstrādei
Anthropic ir publicējis ziņojumu, kurā uzņēmums apraksta, kā no 2025. gada decembra līdz 2026. gada augustam atklāja un apturēja mēģinājumus izmantot savu KI modeli Claude bīstamiem nolūkiem.
Pēc Anthropic datiem, starp šiem gadījumiem bija pieci mēģinājumi, kur cilvēki centās izmantot Claude bioloģisko ieroču pētījumiem. Vienā no gadījumiem kāds lietotājs, izmantojot anonimā e-pasta adresi un VPN, nosūtīja tūkstošiem ziņu, lai iegūtu palīdzību pētījumos par ļoti infektīvu gripas vīrusu.
Citā gadījumā, pēc Anthropic ziņām, zinātnieks centās izmantot Claude, lai formulētu finansējuma pieteikumu vīrusa pētījumiem, kas notiktu militārajā iestādē. Uzņēmums bloķēja piekļuvi no drošības apsvēruma, lai arī nebija skaidrs, vai nolūks bija kaitīgs.
Ziņojumā minēti arī mēģinājumi izmantot Claude parastā ieroča izstrādei, piemēram, raķešu un droņu izstrādei no grupām Jemēnā, kā arī pret-torpedo tehnoloģiju izstrādei no Ķīnas. Papildus, pēc Anthropic datiem, KI tika izmantota no grupām ar saistību ar Krieviju un Irānu spiegošanai un propagandai.
Anthropic arī apsūdz Ķīnas uzņēmumus, piemēram, Moonshot un Deepseek, ka tie slepeni novirzīja pieprasījumus uz Claude, lai apmācītu savus KI modeļus. Šie apsūdzības nevarēja tikt neatkarīgi pārbaudīti no pieejamajiem avotiem.
Džeikobs Kleins, kas Anthropic atbild par draudu analīzi, pēc New York Times ziņām, teica, ka ir „neiespējami daudzkārtīga situācija“, jo tas pašas informācijas var tikt izmantotas gan ieroču, gan vakcīnu izstrādei.
Ziņojums tiek publicēts neilgi pēc tam, kad bijušais Anthropic drošības pētnieks publiski brīdināja par KI riskiem cilvēcei.
KĀPĒC TAS IR SVARĪGI
Ziņojums parāda, ka KI modeļi jau tiek mērķtiecīgi izmantoti bīstamiem nolūkiem, piemēram, bioloģisko ieroču un ieroču pētījumiem, arī tad, ja sniedzēji cenšas to novērst.
KO VARI IZDARĪT TAGAD
- Esiet skeptiski pret KI atbildēm par bīstamām vielām Ja KI tev snieg informāciju par ķīmiskajām vielām, vīrusiem vai ieročiem, pārbaudi šīs ziņas vienmēr pie uzticamiem oficiāliem avotiem. Neatkarīgi no chatbota.
- Ziņo par aizdomas KI pakalpojumu izmantošanu Ja pamanī, ka kāds cenšas izmantot KI bīstamiem nolūkiem, tu vari ziņot par to sniedzējam vai iestādēm. Daudzi uzņēmumi piedāvā speciālas ziņojuma formas.
- Lasiet drošības ziņojumus no lielajiem KI sniedzējiem Uzņēmumi, piemēram, Anthropic, regulāri publicē ziņojumus par atklāto KI izmantošanas zādzību. Šis skats tev parāda, kādas risks pastāv un kā tie tiek ņemti nopietni.
- Izmanto KI pakalpojumus tikai caur oficiālos pieejas veidus Izvairies no šaubīgiem starpniekiem vai anonimiem pieejas veidiem pie KI rīkiem, jo tie bieži tiek izmantoti, lai apietu drošības noteikumus. Reģistrēies ar savu īsto identitāti pie uzticamiem sniedzējiem.