एंथ्रोपिक ने क्लॉड का उपयोग बायोहथियारों के लिए करने के प्रयासों को ब्लॉक किया
एंथ्रोपिक ने एक रिपोर्ट जारी की है, जिसमें कंपनी ने बताया है कि उसने दिसंबर 2025 से अगस्त 2026 के बीच अपने KI मॉडल क्लॉड का उपयोग खतरनाक उद्देश्यों के लिए करने के प्रयासों का पता लगाया और उन्हें रोक दिया।
एंथ्रोपिक के अनुसार, इनमें पांच ऐसे मामले शामिल थे, जिनमें लोगों ने क्लॉड की मदद से जैविक हथियारों पर अनुसंधान करने की कोशिश की। एक उदाहरण में, किसी ने गुमनामी ईमेल पते और VPN का उपयोग करते हुए हज़ारों संदेश भेजे, ताकि एक अत्यधिक संक्रामक फ्लू वायरस के अनुसंधान में मदद मिल सके।
एक अन्य मामले में, एंथ्रोपिक के अनुसार, एक वैज्ञानिक ने क्लॉड की मदद से एक ऐसे वायरस पर अनुसंधान के लिए अनुदान आवेदन तैयार करना चाहता था, जो एक सैन्य संस्थान में किया जाना था। कंपनी ने सावधानी के तौर पर पहुंच को ब्लॉक कर दिया, भले ही यह स्पष्ट नहीं था कि इरादा हानिकारक था या नहीं।
रिपोर्ट में क्लॉड का उपयोग पारंपरिक हथियारों के विकास के लिए करने के प्रयासों का भी ज़िक्र है, जैसे यमन में समूहों द्वारा रॉकेट और ड्रोन के लिए, तथा चीन से एंटी-टॉरपीडो तकनीक के लिए। इसके अलावा, एंथ्रोपिक के अनुसार, रूस और ईरान से जुड़े समूहों ने KI का उपयोग जासूसी और प्रचार के लिए किया।
एंथ्रोपिक ने चीन की कंपनियों जैसे Moonshot और Deepseek पर भी आरोप लगाया है कि उन्होंने गुप्त रूप से क्लॉड को अनुरोध भेजकर अपने स्वयं के KI मॉडल को प्रशिक्षित करने की कोशिश की। इन आरोपों की स्वतंत्र रूप से पुष्टि करने के लिए उपलब्ध स्रोतों से नहीं की जा सकी।
एंथ्रोपिक में खतरे के विश्लेषण के लिए जिम्मेदार जैकब क्लीन ने न्यूयॉर्क टाइम्स को बताया कि यह एक "अविश्वसनीय रूप से बहुआयामी स्थिति" है, क्योंकि वही जानकारी हथियारों और टीकों दोनों के लिए उपयोग की जा सकती है।
यह रिपोर्ट उस समय जारी हुई है, जब एंथ्रोपिक के एक पूर्व वरिष्ठ सुरक्षा शोधकर्ता ने सार्वजनिक रूप से मानवता के लिए KI के जोखिमों के बारे में चेतावनी दी थी।
यह क्यों महत्वपूर्ण है
यह रिपोर्ट दिखाती है कि KI मॉडल का उपयोग पहले से ही जानबूझकर खतरनाक उद्देश्यों जैसे बायोहथियारों और हथियार अनुसंधान के लिए किया जा रहा है, भले ही प्रदाता इसे रोकने की कोशिश कर रहे हों।
अब आप क्या कर सकते हैं
- KI द्वारा रसायनों, वायरस या हथियारों के बारे में दी गई जानकारी पर संदेह करें अगर कोई KI आपको रसायनों, वायरस या हथियारों के बारे में जानकारी दे रही है, तो हमेशा विश्वसनीय आधिकारिक स्रोतों से इसकी पुष्टि करें। केवल चैटबॉट पर भरोसा न करें।
- KI सेवाओं के संदिग्ध उपयोग की रिपोर्ट करें अगर आपको लगता है कि कोई व्यक्ति KI का उपयोग खतरनाक उद्देश्यों के लिए कर रहा है, तो आप इसे प्रदाता या अधिकारियों को रिपोर्ट कर सकते हैं। कई कंपनियाँ इसके लिए विशेष रिपोर्ट फॉर्म प्रदान करती हैं।
- बड़े KI प्रदाताओं के सुरक्षा रिपोर्ट पढ़ें एंथ्रोपिक जैसी कंपनियाँ नियमित रूप से अपने KI के दुरुपयोग के बारे में रिपोर्ट प्रकाशित करती हैं। इन पर एक नज़र डालने से आपको पता चलेगा कि कौन से जोखिम हैं और उन्हें कितनी गंभीरता से लिया जाता है।
- KI सेवाओं का उपयोग केवल आधिकारिक चैनलों के माध्यम से करें संदिग्ध पुनर्विक्रेताओं या गुमनामी KI टूल तक पहुंच से बचें, क्योंकि इनका अक्सर उपयोग सुरक्षा नियमों को बायपास करने के लिए किया जाता है। विश्वसनीय प्रदाताओं के साथ अपनी वास्तविक पहचान के साथ पंजीकरण करें।