أنثروبك تبلغ عن إساءة استخدام كلود لتطوير صواريخ في اليمن
كشفت شركة أنثروبك الأمريكية في تقرير عن التهديدات أن مجموعة فاعلة في شمال اليمن حاولت استخدام روبوت المحادثة كلود لتطوير برامج تحكم عسكرية.
ووفقًا لتحليلات وسائل الإعلام المتطابقة، فإن الكثير يشير إلى تمرد الحوثيين المدعوم من إيران، على الرغم من أن أنثروبك لم تسمهم صراحة.
ووفقًا للتقرير، استخدمت المجموعة عدة نسخ من كلود في نفس الوقت: واحدة لكتابة الكود، وأخرى للبحث، وثالثة لفحص النتائج، مثل فريق تطوير حقيقي. وكان الهدف هو تطوير برامج لتحكم الصواريخ، بما في ذلك صاروخ باليستي بمدى يزيد عن 2000 كيلومتر.
وللتغلب على تدابير الأمن في أنثروبك، وزعت المجموعة طلباتها على العديد من الجلسات الفردية بحيث لم يكن الغرض العام واضحًا. وأوضحت أنثروبك أنها تمكنت من اعتراض العديد من الطلبات، لكنها لم تتمكن من اعتراض جميعها.
خلال اختبار إطلاق حقيقي لصاروخ، حدث فشل. وبعد ساعات قليلة، رفع المستخدمون بيانات الحادث مرة أخرى إلى كلود لاكتشاف السبب.
حظرت أنثروبك الحسابات المعنية وأبلغت سلطات الأمن. ووفقًا للتقرير، نفى ممثل الحوثيين أن تكون المجموعة تعتمد على مصادر متاحة علنًا لتطوير الأسلحة. كما شكك خبير أسلحة في قدرة المجموعة على بناء أسلحة فرط صوتية وظيفية حتى مع مساعدة الذكاء الاصطناعي.
تحذر أنثروبك من أن المستخدمين قد أنشؤوا بالفعل حزمة برامج مستقلة تعمل دون اتصال قبل الحظر، ويمكن استخدامها مستقبلاً دون الوصول إلى كلود.
لماذا هذا مهم
تظهر هذه الحالة أن أنظمة الذكاء الاصطناعي، على الرغم من تدابير الأمن، يمكن إساءة استخدامها لتطوير أسلحة خطيرة، مما يضع قدرات كانت تتطلب في الماضي فرقًا من الخبراء في أيدي عدد قليل من الفاعلين.
ما يمكنك فعله الآن
- كن متشككًا في وعود أمان الذكاء الاصطناعي لا يوجد نظام ذكي آمن بنسبة 100% ضد الإساءة. لا تعتمد بشكل أعمى على قدرة الشركات المصنعة على منع جميع حالات الإساءة.
- تعرف على تقارير إساءة الاستخدام تنشر شركات الذكاء الاصطناعي الكبرى بانتظام تقارير عن حالات إساءة استخدام أنظمة الذكاء الاصطناعي المكتشفة. يساعدك النظر في مصادر أخبار موثوقة على تقييم المخاطر الحالية بشكل أفضل.
- تحقق من مصادر أخبار الصراعات بدقة غالبًا ما تكون تقارير تطوير الأسلحة والصراعات معقدة وأحيانًا متضاربة. تأكد من أن وسائل إعلام مستقلة متعددة تؤكد نفس الحقائق.
- بلغ عن استخدام مشبوه للذكاء الاصطناعي إذا علمت بإساءة استخدام محتملة لخدمة ذكاء اصطناعي، يمكنك الإبلاغ عنها إلى مقدم الخدمة عبر نظام الإبلاغ الخاص به. بهذه الطريقة، يساعد المستخدمون الشركات على إغلاق ثغرات الأمن.