„Anthropic“ praneša apie „Claude“ panaudojimą raketų kūrimui Jemene
JAV įmonė „Anthropic“ savo grėsmių ataskaitoje atskleidė, kad aktorių grupė šiaurinėje Jemeno dalyje bandė panaudoti KI chatbotą „Claude“ karinei valdymo programinei įrangai sukurti.
Pagal sutampančius medijų analizės duomenis, daugiausia įtariama Irano remiama Huti maišininkų grupė, nors „Anthropic“ jos pavadinimo tiesiogiai neminėjo.
Grupė, pasak ataskaitos, naudojo kiekvieną „Claude“ instanciją atskirai: viena rašė kodą, kita atliko tyrimus, o trečioji tikrino rezultatų teisingumą – panašiai kaip tikrasis programuotojų komandos darbas. Tikslas buvo sukurti programinę įrangą raketų valdymui, įskaitant balistinę raketą, turinčią daugiau kaip 2 000 kilometrų veiksmo spartą.
Norėdami apeiti „Anthropic“ saugos priemones, vartotojai paskirstė savo užklausas į daugybę atskirų sesijų, kad bendras tikslas būtų sunkiau atpažįstamas. „Anthropic“ paaiškino, kad, nors daugumą užklausų pavyko sustabdyti, ne visos buvo sėkmingai blokavusios.
Vieno tikro raketos bandymo metu įvyko nesėkmė. Tik po kelių valandų vartotojai pakartotinai įkėlė avarinio nutūpimo duomenis į „Claude“, norėdami sužinoti avarijos priežastį.
„Anthropic“ užblokavo pažeidėjusius sąskaitas ir informavo saugumo tarnybas. Huti atstovas, pasak ataskaitos, paneigė, kad grupė priklauso nuo viešai prieinamų šaltinių ginklų kūrimui. Ginklų ekspertas abejoja, ar grupė, netgi naudodama KI pagalbą, iš tiesų geba sukurti veikiančius hipersono ginklus.
„Anthropic“ įspėja, kad vartotojai dar prieš blokavimą buvo sukurę savarankišką nepriklausomą programų paketą, kurį galima toliau naudoti be prieigos prie „Claude“.
KODĖL TAI SVARBU
Šis atvejis rodo, kad KI sistemos, net turėdamos saugos priemonių, gali būti panaudojamos pavojingų ginklų kūrimui ir taip suteikti galimybes mažai aktorių grupei, kuriai anksčiau reikėtų didelių specialistų komandų.
KĄ DABAR GALI PADARYTI
- Būk skeptiškas KI saugos pažadams Nėra nė vienos KI sistemos, kuri būtų 100 % apsaugota nuo šlapymo. Nesitiki aklojo pasikliovimo gamintojams, kad jie galės sustabdyti visus šlapymo atvejus.
- Informuokis apie šlapymo atvejus Didžiosios KI įmonės reguliariai skelbia ataskaitas apie aptiktus savo sistemų šlapymo atvejus. Žvilgsnis į patikimas naujienų šaltinius padės tau geriau įvertinti esamas grėsmes.
- Tikrink šaltinius, kai skaitai naujienas apie konfliktus Pranešimai apie ginklų kūrimą ir konfliktus dažnai būna sudėtingi ir dalinai prieštaringi. Kreipk dėmesį, ar keli nepriklausomi medijai patvirtina tą pačią informaciją.
- Pranešk apie įtariamą KI naudojimą Jei sužinosi apie galimą KI paslaugos šlapymą, gali pranešti apie tai atitinkamai paslaugos teikėjui naudojant jo pranešimo funkciją. Taip vartotojai padeda įmonėms uždaryti saugos spragas.