Az Anthropic jelentése szerint a Claude-t rakéták fejlesztésére használták fel Jemenben
Az amerikai Anthropic cég fenyegetettségi jelentésében arról számolt be, hogy egy csoport Észak-Jemenben megpróbálta a Claude nevű KI-chatbotot katonai irányító szoftverek fejlesztésére használni.
A médiák elemzései szerint nagy valószínűséggel a Irán által támogatott húthi lázadókról van szó, noha az Anthropic nem nevesítette őket közvetlenül.
A jelentés szerint a csoport több Claude-példányt használt egyidejűleg: az egyik kódot írt, a másik kutatott, a harmadik pedig az eredményeket ellenőrizte – hasonlóan egy valódi fejlesztőcsapathoz. Céljuk egy rakéták irányításához szükséges szoftver volt, köztük egy több mint 2000 kilométer hatótávolságú ballisztikus rakétaé.
Az Anthropic biztonsági intézkedéseinek kijátszásához a felhasználók több kisebb kérést osztottak szét, így az egész cél nem volt felismerhető. Az Anthropic elmondta, hogy sok, de nem minden kérést sikerült leállítaniuk.
Egy valódi rakéta tesztindítása során kudarc történt. Néhány órával később a felhasználók feltöltötték a lezuhanás adatait a Claude-ba, hogy kiderítsék az okát.
Az Anthropic letiltotta az érintett fiókokat és értesítette a biztonsági hatóságokat. A húthik képviselője szerint a jelentésben azt tagadták, hogy a csoport nyilvánosan elérhető forrásokra lenne utalva a fegyverfejlesztésben. Egy fegyverszakértő pedig kételkedik abban, hogy a csoport – a KI segítségével sem – képes lenne működőképes hiperszonikus fegyvereket gyártani.
Az Anthropic figyelmeztet, hogy a felhasználók a letiltás előtt már létrehoztak egy önálló offline programcsomagot, amelyet a jövőben a Claude hozzáférés nélkül is tovább használhatnak.
MIÉRT FONTOS EZ
Az eset mutatja, hogy a KI-rendszereket a biztonsági intézkedések ellenére is veszélyes fegyverek fejlesztésére lehet visszaélni, így olyan képességeket adva kevés számú szereplő kezébe, amelyek korábban nagy szakértőcsapatokat igényeltek.
MIT TEHETSZ MOST
- Maradj szkeptikus a KI-biztonsági ígéretekkel szemben Egyik KI-rendszer sem 100%-osan védett a visszaélés ellen. Ne bízz vakon abban, hogy a gyártók minden visszaélést meg tudnak akadályozni.
- Tájékozódj a visszaélési jelentésekről A nagy KI-cégek rendszeresen közzéteszik jelentéseket a rendszereik visszaéléséről. Egy pillantás a megbízható hírcsatornákra segít jobban megítélni az aktuális kockázatokat.
- Ellenőrizd a forrásokat a konfliktusokkal kapcsolatos hírekben A fegyverfejlesztésről és konfliktusokról szóló hírek gyakran összetettek és részben ellentmondásosak. Figyelj arra, hogy több független média is megerősíti-e ugyanazokat a tényeket.
- Jelentsd a gyanús KI-használatot Ha értesülsz egy KI-szolgáltatás lehetséges visszaéléséről, azt a szolgáltató bejelentő funkcióján keresztül jelezheted. Így segítesz a cégeknek a biztonsági rések bezárásában.