Anthropic ziņo par Claude izmantojumu raķešu izstrādei Jemena
AS uzņēmums Anthropic savā draudu ziņojumā atklāja, ka aktieru grupa Jemenas ziemeļos mēģinājusi izmantot MK čatbotu Claude militāras vadības programmatūras izstrādei.
Pēc vienotas mediju analīzes, daudz norāda uz Irānas atbalstīto Hūtu rebeliem, lai arī Anthropic tos tieši nevēlas nosaukt.
Pēc ziņojuma, grupa izmantojusi vairākas Claude instancas vienlaikus: viena rakstīja kodu, viena veica pētījumus, un trešā pārbaudīja rezultātus – līdzīgi kā īsts izstrādātāju komanda. Mērķis bija izstrādāt programmatūru raķešu vadībai, ieskaitot ballistisko raķeti ar lielāku par 2 000 kilometru darbības rādiusu.
Lai apietu Anthropic drošības pasākumus, lietotāji sadalīja savus pieprasījumus daudzos atsevišķos seansos, lai kopējais mērķis nebūtu redzams. Anthropic paziņoja, ka, lai gan daudz pieprasījumu tika apturēti, ne visi.
Vienā raķetes testlidojumā notika avārija. Tikai dažas stundas vēlāk lietotāji ielādēja avārijas datus atpakaļ Claude, lai noskaidrotu cēloņu.
Anthropic bloķēja iesaistītos kontus un informēja drošības iestādes. Pēc ziņojuma, Hūtu pārstāvis noliedza, ka grupa ir atkarīga no publiski pieejamiem avotiem ieroču izstrādei. Ieroču eksperts arī šaubās, vai grupa, pat ar MK palīdzību, spēj izstrādāt darbīgas hiperskaņas ieročus.
Anthropic brīdina, ka lietotāji pirms bloķēšanas jau bija izveidojuši neatkarīgu offline programmatūras pakotu, ko var turpināt izmantot arī bez piekļuves Claude.
KĀPĒC TAS IR SVARĪGI
Šis gadījums parāda, ka MK sistēmas, pat ar drošības pasākumiem, var tikt izmantotas bīstamu ieroču izstrādei un tā nodod spējas nelielu aktieru rokās, kuriem agrāk būtu nepieciešamas lielas ekspertu komandas.
KO VARI IZDARĪT TAGAD
- Esi skeptisks pret MK drošības solījumiem Neviens MK sistēma nav pilnībā droša pret lietojumu. Neuzicies, ka ražotāji var novērst visu lietojumu.
- Informēies par lietojuma ziņojumiem Lielie MK uzņēmumi regulāri publicē ziņojumus par atklāto savu sistēmu lietojumu. Skatīšana uz seriōziem ziņu avotiem palīdz tev labāk novērtēt pašreizējos riskus.
- Pārbaudi avotus pie konflikta ziņām Ziņojumi par ieroču izstrādi un konfliktiem bieži ir sarežģīti un daļēji pretrunīgi. Pārbaudi, vai vairāki neatkarīgi mediji apstiprina tos pašus faktus.
- Ziņo par aizdomas vērtu MK lietojumu Ja tu uzzini par iespējamu MK pakalpojuma lietojumu, vari par to informēt atbilstošo pakalpojuma sniedzēju, izmantojot tā ziņojuma funkciju. Šādi lietotāji palīdz uzņēmumiem slēgt drošības spraugas.