Anthropic توقف محاولات استخدام Claude في تطوير الأسلحة البيولوجية
نشرت شركة Anthropic تقريرًا وصف فيه كيف اكتشفت وأوقفت بين ديسمبر 2025 وأغسطس 2026 محاولات لاستخدام نموذجها Claude لأغراض خطيرة.
وفقًا لـ Anthropic، شملت هذه المحاولات خمس حالات حاول فيها أشخاص استخدام Claude في أبحاث الأسلحة البيولوجية. على سبيل المثال، استخدم شخص ما عنوان بريد إلكتروني مجهول وشبكة افتراضية خاصة (VPN) لإرسال آلاف الرسائل للحصول على مساعدة في دراسة فيروس إنفلونزا شديد العدوى.
في حالة أخرى، أراد عالم - وفقًا لـ Anthropic - استخدام Claude لصياغة طلب تمويل لأبحاث حول فيروس كان من المقرر إجراؤها في منشأة عسكرية. أوقفت الشركة الوصول احترازيًا، على الرغم من عدم وضوح نية الاستخدام الضار.
كما ذكر التقرير محاولات لاستخدام Claude في تطوير أسلحة تقليدية، مثل الصواريخ والطائرات المسيرة من قبل مجموعات في اليمن، وتكنولوجيا مضادة للطوربيدات من الصين. بالإضافة إلى ذلك، تم استخدام الذكاء الاصطناعي من قبل مجموعات لها روابط مع روسيا وإيران لأغراض التجسس والدعاية.
اتهمت Anthropic أيضًا شركات صينية مثل Moonshot وDeepseek بتوجيه طلبات إلى Claude سرًا لتدريب نماذج الذكاء الاصطناعي الخاصة بها. لم يتم التحقق من هذه الاتهامات بشكل مستقل من المصادر المتاحة.
قال جاكوب كلاين، المسؤول عن تحليل التهديدات في Anthropic، لصحيفة نيويورك تايمز: "إنها حالة معقدة للغاية، حيث يمكن استخدام نفس المعلومات لأسلحة أو لقاحات."
جاء التقرير بعد فترة قصيرة من تحذير أحد باحثي الأمن السابقين في Anthropic علنًا من مخاطر الذكاء الاصطناعي على البشرية.
لماذا هذا مهم
يظهر التقرير أن نماذج الذكاء الاصطناعي تُستخدم بالفعل بشكل مستهدف لأغراض خطيرة مثل أبحاث الأسلحة البيولوجية والأسلحة الأخرى، حتى لو حاول المطورون منع ذلك.
ما يمكنك فعله الآن
- كن متشككًا في إجابات الذكاء الاصطناعي بشأن المواد الخطرة إذا قدم لك الذكاء الاصطناعي معلومات عن المواد الكيميائية أو الفيروسات أو الأسلحة، تحقق دائمًا من هذه المعلومات لدى مصادر رسمية موثوقة. لا تعتمد فقط على روبوت الدردشة.
- بلغ عن الاستخدام المشبوه لخدمات الذكاء الاصطناعي إذا لاحظت أن شخصًا ما يحاول استخدام الذكاء الاصطناعي لأغراض خطيرة، يمكنك الإبلاغ عن ذلك لمزود الخدمة أو للسلطات. العديد من الشركات تقدم نماذج إبلاغ خاصة لهذا الغرض.
- اقرأ تقارير الأمن من مقدمي خدمات الذكاء الاصطناعي الكبيرة تنشر شركات مثل Anthropic بانتظام تقارير عن حالات سوء استخدام الذكاء الاصطناعي التي تم اكتشافها. يمكن أن تُظهر لك هذه التقارير المخاطر الموجودة وكيف يتم التعامل معها بجدية.
- استخدم خدمات الذكاء الاصطناعي فقط من خلال قنوات رسمية تجنب البائعين غير الموثوق بهم أو الوصول المجهول إلى أدوات الذكاء الاصطناعي، حيث يتم استخدام هذه الطرق غالبًا لتجاوز قواعد الأمن. سجل دخولك بهويتك الحقيقية لدى مقدمي الخدمات الموثوق بهم.