Anthropic teatas Claude väärkasutusest rakettide arendamisel Jeemenis
Ameerika Ühendriikide ettevõte Anthropic avaldas ohuanalüüsi, millest selgub, et Jeemeni põhjaosas tegutsev grupp püüdis kasutada KI-vestlusrobotit Claude sõjalise juhtimistarkvara loomiseks.
Meediaanalüüsid viitavad ühel meelel Iraani toetatud Huthi-mässulistele, kuigi Anthropic ei nimeta neid otse.
Grupp kasutas aruande järgi mitut Claude eksemplari korraga: üks kirjutada koodi, üks tegi uuringuid ja kolmas kontrollis tulemusi – sarnaselt tegeliku arendajate meeskonnaga. Eesmärgiks oli rakettide juhtimise tarkvara, sealhulgas ballistiline rakett, mille lendavus on üle 2000 kilomeetri.
Et ohumeetmed ületada, jaotasid kasutajad oma püüdlused paljudeks üksikute sessioonideks, et üldine eesmärk ei oleks nähtav. Anthropic selgitas, et nad suutsid paljud, kuid mitte kõik püüdlused peatada.
Tegelikul katselaskmisel ebaõnnestus rakett. Mõni tund hiljem laadisid kasutajad kokkuvarisemise andmed uuesti Claude’i, et leida põhjus.
Anthropic blokeeris puudutatud kontod ja teavitas julgeolekuasutusi. Huthi esindaja lükkas aruande järgi tagasi, et grupp oleks sõltuv avalikult kättesaadavatest allikatest relvade arendamiseks. Relvaekspert kahtlustab ka, et grupp suudaks isegi KI abiga funktsioneerivaid hüperhelikiirusega relvi valmistada.
Anthropic hoiatab, et kasutajad olid enne blokeerimist juba loonud iseseisva offline-tarkvarapaketi, mida võib edaspidi kasutada ilma Claude’i juurdepääsuta.
MIKS SE ON OLULINE
See juhtum näitab, et KI-süsteemid võivad ohjeldamata kasutamisel olla ohtlikud isegi hoolika turvameetmete juures, andes võimalusi väikestele grupidele, milleks varem oleks vaja olnud suuri ekspertmeeskondi.
MIDA SA NÜÜD TEHA VÕID
- Bleib skeptisch bei KI-Sicherheitsversprechen Ükski KI-süsteem ei ole 100% turvaline väärkasutuse eest. Ära usalda pimedalt, et tootjad suudaksid kõik väärkasutused ära hoida.
- Informiere dich über Missbrauchsberichte Suured KI-firmad avaldavad regulaarselt aruandeid avastatud väärkasutuste kohta. Hea uudisteallika lugemine aitab sul paremini hinnata praeguseid riske.
- Prüfe Quellen bei Konfliktnachrichten genau Relvade arendamise ja konfliktide aruanded on tihti keerulised ja osaliselt vastuolulised. Kontrolli, kas mitmed sõltumatud meedia kinnitavad samu fakte.
- Melde verdächtige KI-Nutzung Kui sa tead, et KI-teenus võidakse väärkasutada, saad sellest teavita vastava teenuse pakkujat kasutades nende teatefunktsiooni. Nii aitad kasutajad ettevõtetel turvaauke sulgeda.