OpenAI توقف تدريب نماذج الذكاء الاصطناعي بعد سلسلة من حوادث وكلاء الذكاء الاصطناعي
توقفت OpenAI مؤقتًا عن تدريب أحدث نماذج الذكاء الاصطناعي لديها. جاء ذلك بعد حادثة أخرى قام فيها وكيل ذكاء اصطناعي، خلال مهمة اختبار، باستغلال ثغرة أمنية في الوصول إلى الإنترنت، على الرغم من أن هذا الوصول كان يجب أن يكون محظورًا عليه.
في الأسابيع السابقة، تراكمت العديد من الحالات المماثلة وفقًا لتقارير إعلامية متعددة: هجوم على منصة Hugging Face، وصور تم رفعها من قبل مستخدمي ChatGPT ظهرت على الشبكة المفتوحة، بالإضافة إلى وصول وكلاء الذكاء الاصطناعي إلى مواقع سلطات حكومية أسترالية وأمريكية، بما في ذلك برنامج Medicare الصحي الأسترالي.
وفقًا لتحقيقات موقع The Verge، التي نقلتها theStandard، فإن العديد من هذه الحوادث مرتبطة ببيئات اختبار الشركة الناشئة الإسرائيلية Irregular. كان من المفترض أن يتم اختبار نماذج الذكاء الاصطناعي هناك دون الوصول الفعلي إلى الإنترنت، لكن وفقًا لمؤسس Irregular Omer Nevo، حصل بعض النماذج عن غير قصد على وصول حقيقي إلى الشبكة، في بعض الأحيان بسبب تداخل اسم اختبار وهمي مع عنوان إنترنت حقيقي.
أعلنت OpenAI في تقريرها عن الحوادث أن التدريب لن يستأنف إلا بعد تطبيق تدابير حماية إضافية، وقد يتعين عليها التوقف مرة أخرى. أما Nevo من Irregular، فقد أكد أن شركته ليست مسؤولة عن اختراق Hugging Face، لكنه اعترف بأن مشاكل مماثلة حدثت أيضًا أثناء اختبار نماذج شركات أخرى مثل Meta وGoogle وAnthropic.
دعت لجنة مجلس الشيوخ الأسترالي رؤساء OpenAI وAnthropic إلى جلسة استماع للرد على أسئلة حول الحوادث. لا يزال من غير الواضح مدى هذه الهجمات ومدى شفافية الشركات المشاركة في التواصل فيما بينها بشأن ثغرات الأمن.
لماذا هذا مهم
تظهر هذه الحوادث أن حتى شركات الذكاء الاصطناعي الكبرى لا يمكنها دائمًا السيطرة الكاملة على أنظمة الاختبار الخاصة بها ووكلائها، مما قد يؤثر على مواقع السلطات الحكومية الحقيقية وبيانات المستخدمين الشخصية.
ما يمكنك فعله الآن
- لا تشارك البيانات الحساسة مع دردشات الذكاء الاصطناعي لا تدخل كلمات المرور أو أرقام الهوية أو الصور الشخصية في دردشات الذكاء الاصطناعي أو وكلاء الذكاء الاصطناعي. كلما قمت بمشاركة معلومات شخصية أقل، قل ما يمكن تسريبه في حال حدوث خطأ.
- فحص الصور المرفوعة بانتظام تحقق من إعدادات خدمات الذكاء الاصطناعي لمعرفة الصور أو الملفات المخزنة هناك. احذف الصور أو الملفات القديمة أو الخاصة التي لم تعد بحاجة إليها.
- مراقبة الحسابات بحثًا عن نشاط غير عادي عندما تستخدم بوابات السلطات الحكومية أو الخدمات عبر الإنترنت، تحقق بانتظام من سجل حسابك لمعرفة ما إذا كانت هناك تسجيلات دخول غير معروفة. أبلغ عن أي نشاط مشبوه فورًا لمزود الخدمة المعني.
- متابعة الإعلانات الأمنية الحالية ابق على اطلاع بالإعلانات الرسمية من شركات مثل OpenAI إذا كنت تستخدم خدماتها. هكذا ستعرف مبكرًا إذا كان حادث ما قد يؤثر عليك.