Anthropic izvještava o zloupotrebi Claudea za razvoj raketa u Jemenu
Američka tvrtka Anthropic objavila je u izvješću o prijetnjama da je skupina aktera na sjeveru Jemena pokušala iskoristiti KI-chatbota Claude za razvoj vojnog upravljačkog softvera.
Prema podacima iz medijskih analiza, sve upućuje na Huthi-pobunjenike, koje podržava Iran, iako ih Anthropic ne spominje izravno po imenu.
Skupina je, prema izvješću, koristila nekoliko instanci Claudea istovremeno: jedna je pisala kod, druga je istraživala, a treća je provjeravala rezultate – slično kao pravi razvojni tim. Cilj je bio razvoj softvera za upravljanje raketama, uključujući i balističku raketu dometa preko 2.000 kilometara.
Kako bi zaobišli sigurnosne mjere tvrtke Anthropic, korisnici su raspodijelili svoje upite na mnoge pojedinačne sesije, tako da ukupna svrha nije bila vidljiva. Anthropic je izjavio da su, iako su uhvaćeni mnogi, ipak neki upiti prošli neprimjećeno.
Prilikom stvarnog testnog lansiranja rakete došlo je do neuspjeha. Samo nekoliko sati kasnije, korisnici su u Claude učitali podatke o padu kako bi otkrili uzrok.
Anthropic je blokirao pogođena računa i obavijestio sigurnosne vlasti. Prema izvješću, predstavnik Huthija odbacio je tvrdnje da skupina ovisi o javno dostupnim izvorima za razvoj oružja. Stručnjak za oružje također sumnja da skupina, unatoč pomoći KI, uopće može izraditi funkcionalno hipersonično oružje.
Anthropic upozorava da su korisnici, prije blokade, već stvorili samostalni offline programski paket koji se može nastaviti koristiti i bez pristupa Claudeu.
ZAŠTO JE TO VAŽNO
Ovaj slučaj pokazuje da se KI-sustavi, unatoč sigurnosnim mjerama, mogu zloupotrebljavati za razvoj opasnog oružja i time omogućiti sposobnosti malom broju aktera koje su prije zahtijevale velike stručne timove.
ŠTO MOŽEŠ SAD UČINITI
- Ostani skeptičan prema obećanjima o sigurnosti KI Nijedan KI-sustav nije 100% siguran od zloupotrebe. Ne oslanjaj se sljepo na to da proizvođači mogu spriječiti svaku zloupotrebu.
- Informiraj se o izvješćima o zloupotrebi Velike KI-tvrtke redovito objavljuju izvješća o otkrivenoj zloupotrebi svojih sustava. Pogled u pouzdane izvore vijesti pomaže ti da bolje procijeniš trenutne rizike.
- Provjeri izvore kod vijesti o sukobima Vijesti o razvoju oružja i sukobima često su složene i djelomično proturječne. Pazite da li više nezavisnih medija potvrđuje iste činjenice.
- Prijavi sumnjivu upotrebu KI Ako saznaš za moguću zloupotrebu neke KI-usluge, to možeš prijaviti pružatelju usluge putem njegove funkcije za prijave. Tako korisnici pomažu tvrtkama da zatvore sigurnosne propuste.