Az Anthropic blokkolja a Claude KI-modelljét a biofegyverek fejlesztésére irányuló kísérletek miatt
Az Anthropic közzétett egy jelentést, amelyben leírja, hogyan fedte fel és akadályozta meg 2025 decemberétől 2026 augusztusáig a Claude KI-modell veszélyes célokra történő használatát.
Az Anthropic szerint öt esetben próbáltak emberek a Claude-dal biológiai fegyverek kutatásában segítséget kérni. Például valaki névtelen e-mail-címen és VPN-n keresztül több ezer üzenetet küldött, hogy segítséget kérjen egy nagyon fertőző influenza-vírus kutatásához.
Egy másik esetben az Anthropic szerint egy tudós a Claude segítségével szeretett volna pályázatot írni egy víruskutatás finanszírozásához, amely egy katonai létesítményben folyt volna. A cég óvatosan lezárta a hozzáférést, bár nem derült ki, hogy a szándék káros volt-e.
A jelentés említ kísérleteket is, amelyek során a Claude-ot konvencionális fegyverek, például rakéták és drónok fejlesztésére akarták használni Jemenből származó csoportok, valamint kínai anti-torpedó technológia fejlesztésére. Emellett az Anthropic szerint orosz és iráni kapcsolatokkal rendelkező csoportok is használták a KI-t kémkedésre és propaganda céljára.
Az Anthropic emellett vádolja a kínai Moonshot és Deepseek cégeket, hogy titokban a Claude-hoz irányították a kéréseiket, hogy saját KI-modelleiket képezzék ki. Ezek a vádak a rendelkezésre álló források alapján függetlenül nem voltak ellenőrizhetők.
Jacob Klein, az Anthropic fenyegetettség-elemzőjének felelőse a New York Times szerint azt mondta, ez egy „hihetetlenül összetett helyzet”, mivel ugyanazok az információk mind fegyverek, mind vakcinák fejlesztéséhez is használhatók lennének.
A jelentés nem sokkal azután jelent meg, hogy az Anthropic korábbi vezető biztonságkutatója nyilvánosan figyelmeztette az emberiséget a KI által jelentett kockázatokra.
MIÉRT FONTOS EZ
A jelentés azt mutatja, hogy a KI-modelleket már célzottan veszélyes célokra, például biofegyverek és fegyverkutatás céljára használják, akár az szolgáltatók megakadályozási kísérletei ellenére is.
MIT TEHETSZ MOST
- Maradj szkeptikus a KI válaszaival kapcsolatban veszélyes anyagokról Ha egy KI információkat ad veled kapcsolatba vegyszerekről, vírusokról vagy fegyverekről, mindig ellenőrizd ezeket a hivatalos, megbízható forrásoknál. Ne támaszkodj kizárólag a chatbotra.
- Jelentsd be a gyanús KI-szolgáltatások használatát Ha észreveszed, hogy valaki veszélyes célokra akarja használni a KI-t, bejelentheted ezt a szolgáltató vagy a hatóságok számára. Sok cég külön jelentőívet biztosít ehhez.
- Olvasd el a nagy KI-szolgáltatók biztonsági jelentéseit Olyan cégek, mint az Anthropic, rendszeresen közzéteszik jelentéseket a KI-vészhasználatukról. Egy pillantás ezekre a jelentésekre mutatja, milyen kockázatok léteznek, és mennyire veszik komolyan őket.
- Használd a KI-szolgáltatásokat csak hivatalos csatornákon keresztül Kerüld a kétes újraértékesítőket vagy névtelen hozzáféréseket a KI-eszközökhöz, mivel ezek gyakran a biztonsági szabályok kijátszására szolgálnak. Regisztrálj a valódi identitásoddal hiteles szolgáltatóknál.