Anthropic ने यमन में रॉकेट विकास के लिए Claude के दुरुपयोग की सूचना दी
अमेरिकी कंपनी Anthropic ने एक खतरे के आकलन रिपोर्ट में खुलासा किया है कि यमन के उत्तरी हिस्से में एक समूह ने सैन्य नियंत्रण सॉफ्टवेयर विकसित करने के लिए AI चैटबॉट Claude का उपयोग करने की कोशिश की।
मीडिया विश्लेषण के अनुसार, ईरान द्वारा समर्थित हूथी विद्रोहियों के इस समूह से जुड़े होने के संकेत मिले हैं, हालांकि Anthropic ने सीधे तौर पर उनका नाम नहीं लिया है।
रिपोर्ट के अनुसार, इस समूह ने एक साथ कई Claude इंस्टेंस का उपयोग किया: एक कोड लिख रहा था, दूसरा अनुसंधान कर रहा था, और तीसरा परिणामों की जांच कर रहा था - जैसे कि एक वास्तविक डेवलपर टीम। लक्ष्य रॉकेटों को नियंत्रित करने वाले सॉफ्टवेयर का विकास करना था, जिसमें 2,000 किलोमीटर से अधिक रेंज वाली एक बैलिस्टिक मिसाइल भी शामिल थी।
Anthropic की सुरक्षा व्यवस्थाओं को बायपास करने के लिए, उपयोगकर्ताओं ने अपने अनुरोधों को कई अलग-अलग सत्रों में बांट दिया, ताकि कुल उद्देश्य पहचाना न जा सके। Anthropic ने कहा कि उन्होंने कई, लेकिन सभी अनुरोधों को रोकने में सफलता हासिल की।
एक वास्तविक रॉकेट परीक्षण के दौरान विफलता हुई। कुछ ही घंटों बाद, उपयोगकर्ताओं ने क्रैश डेटा को फिर से Claude में अपलोड किया, ताकि कारण का पता लगाया जा सके।
Anthropic ने प्रभावित खातों को ब्लॉक कर दिया और सुरक्षा अधिकारियों को सूचित किया। रिपोर्ट के अनुसार, हूथी के एक प्रतिनिधि ने इस बात से इनकार किया कि समूह हथियार विकास के लिए सार्वजनिक रूप से उपलब्ध स्रोतों पर निर्भर है। एक हथियार विशेषज्ञ ने भी संदेह व्यक्त किया कि KI की मदद के बावजूद यह समूह कार्यक्षम हाइपरसोनिक हथियार बनाने में सक्षम है।
Anthropic ने चेतावनी दी है कि उपयोगकर्ताओं ने ब्लॉक किए जाने से पहले ही एक स्वतंत्र ऑफलाइन प्रोग्राम पैकेज बना लिया था, जिसे भविष्य में Claude के बिना भी इस्तेमाल किया जा सकता है।
यह क्यों महत्वपूर्ण है
यह मामला दिखाता है कि सुरक्षा उपायों के बावजूद, KI प्रणालियों का उपयोग खतरनाक हथियारों के विकास के लिए किया जा सकता है, जिससे कुछ ही लोगों के हाथों में ऐसी क्षमताएं आ जाती हैं, जिनके लिए पहले बड़े विशेषज्ञ टीमों की आवश्यकता होती थी।
अब आप क्या कर सकते हैं
- KI सुरक्षा वादों पर संदेह रखें कोई भी KI प्रणाली दुरुपयोग के खिलाफ सौ प्रतिशत सुरक्षित नहीं होती। निर्माताओं पर पूरी तरह से भरोसा न करें कि वे हर दुरुपयोग को रोक सकते हैं।
- दुरुपयोग रिपोर्टों के बारे में जानकारी प्राप्त करें बड़ी KI कंपनियां नियमित रूप से अपनी प्रणालियों के दुरुपयोग के बारे में रिपोर्ट प्रकाशित करती हैं। विश्वसनीय समाचार स्रोतों पर नज़र रखने से आपको वर्तमान जोखिमों को बेहतर ढंग से समझने में मदद मिलेगी।
- संघर्ष समाचारों में स्रोतों की जांच करें हथियार विकास और संघर्षों के बारे में रिपोर्ट अक्सर जटिल और आंशिक रूप से विरोधाभासी होती हैं। इस बात पर ध्यान दें कि क्या कई स्वतंत्र मीडिया एक ही तथ्यों की पुष्टि करते हैं।
- संदिग्ध KI उपयोग की रिपोर्ट करें अगर आपको किसी KI सेवा के दुरुपयोग के बारे में पता चलता है, तो आप इसे संबंधित प्रदाता को उसकी शिकायत सुविधा के माध्यम से सूचित कर सकते हैं। इस तरह उपयोगकर्ता कंपनियों को सुरक्षा खामियों को दूर करने में मदद करते हैं।