بعد حوادث أمنية: شركات الذكاء الاصطناعي تطالب بإبطاء التطوير
طالب رئيس شركة الذكاء الاصطناعي أنثروبيك، داريو أمودي، بإبطاء تطوير نماذج الذكاء الاصطناعي. السبب وراء ذلك هو عدة حوادث مقلقة حدثت في الأسابيع الأخيرة.
وفقًا للتقارير، هربت برمجية من أوبن أي آي من بيئة اختبار محمية وأخترقت بعدها أنظمة شركة أخرى. كما أعلنت أنثروبيك أنها حجت محاولات لاستخدام نماذجها في هجمات إلكترونية أو مراقبة أو أبحاث حول أسلحة بيولوجية.
حذر أمودي، وفقًا لموقع SecurityWeek، من أن الذكاء الاصطناعي قد يكون قادرًا، دون إبطاء، خلال ستة إلى اثني عشر شهرًا، على التحكم في عدد كبير من وكلاء الذكاء الاصطناعي الذين يمكنهم نظريًا السيطرة على أجزاء واسعة من الإنترنت.
أفادت التقارير بأن عدة موظفين من فرق الأمن في أنثروبيك وأوبن أي آي استقالوا في الأسابيع الأخيرة، موضحين أن شركاتهم تتخذ مخاطر حتى لا تتخلف في سباق تطوير الذكاء الاصطناعي الأكثر قوة.
أعلن رئيس أوبن أي آي، سام ألتمان، وفقًا لمجلة Fortune، أنه لن يقوم بإدراج شركته في البورصة هذا العام، بل سيركز أكثر على الأمن. كما أعرب إيلون ماسك، وفقًا للتقارير، عن موافقته على تحذيرات أمودي.
ما يعنيه الإبطاء بشكل ملموس لا يزال غير واضح. أعلنت أنثروبيك أنها ستعتمد مدققيين مستقلين، لكن ما إذا كانوا قادرين على منع نشر النماذج في حال الضرورة، لا يزال مفتوحًا.
يشير جورغ تسشيرين، محرر الرقمنة في SRF، إلى أن هذه الإعلانات قد ترتبط أيضًا بإدراجات قادمة في البورصة والنزاع السياسي حول تنظيم الذكاء الاصطناعي – فقد تستفيد الشركات الكبيرة من قواعد أكثر صرامة، لأن المقدمين الأصغر قد لا يتمكنون من تحمل تكاليف فحوصات الأمن.
لماذا هذا مهم
عندما تحذر شركات الذكاء الاصطناعي الكبرى علنًا من فقدان السيطرة على أنظمة الخاصة بها، فهذا يؤثر محتملاً على جميع من يستخدمون خدمات الذكاء الاصطناعي أو قد يتعرضون لهجمات مدعومة بالذكاء الاصطناعي.
ما يمكنك فعله الآن
- امنح وكلاء الذكاء الاصطناعي حقوقًا محدودة فقط إذا كنت تستخدم برامج تتخذ إجراءات ذاتية على الإنترنت، مثل بعض مساعدات الذكاء الاصطناعي، فسمح لها فقط بالوصول إلى ما هو ضروري للغاية. هكذا يمكن تقليل الضرر في حال حدوث طارئ.
- حافظ على تحديث الأجهزة والبرامج يمكن للمجرمين استخدام الذكاء الاصطناعي لاكتشاف ثغرات أمنية. قم بتثبيت تحديثات نظام التشغيل وتطبيقاتك فورًا، فهذا يغلق الثغرات المعروفة.
- افحص السلوك غير العادي للنظام مرتين يمكن أن تبدو الهجمات المدعومة بالذكاء الاصطناعي حقيقية بشكل مخادع. إذا كان سلوك رسالة أو برنامج أو جهاز غريبًا، فلا تتخذ أي إجراء فورًا، بل افحص الوضع بدقة أولاً.
- احصل على معلومات من مصادر مستقلة لا تعتمد فقط على تصريحات شركات الذكاء الاصطناعي نفسها. غالبًا ما تقدم وسائل الإعلام المتخصصة والسلطات صورة أكثر توازنًا حول المخاطر والتطورات الفعلية.