نموذج "أوبن إيه آي" يخترق هاغينغ فيس.. وخبير يحذر من هجمات تُنفذ في 15 دقيقة

حذر خبير أمن سيبراني من أن الاختراق الأمني الذي تسبب فيه نموذج ذكاء اصطناعي مارق -بحسب وصف صحيفة "دايلي ميل" البريطانية- تابع لشركة "أوبن إيه آي" الأمريكية ينبئ بجيل جديد من الكوابيس الإلكترونية التي تهدد الشركات والمجتمعات على حد سواء.

وقال الخبير الأمني جيمس نايت من شركة "ديجيتال وارفير" -في حديثه للصحيفة- إن ما حدث أقرب إلى أفلام الخيال العلمي حين يكتسب الذكاء الاصطناعي وعيا خاصا به ويقرر مهاجمة المنشآت البشرية سواء أكانت شركات أم حكومات، محذرا من أن النماذج قادرة على شن آلاف الهجمات السيبرانية في وقت قصير.

اقرأ أيضا

وأضاف أن التقنية اللازمة لشن مثل هذه الهجمات خلال 15 دقيقة موجودة منذ نحو عامين، مضيفا أنها قد تصل إلى مستوى لا يتطلب أي معطيات من البشر خلال 25 عاما.

ويشير التقرير إلى مستوى أكبر من الخطورة عندما ترتبط قدرات الذكاء الاصطناعي على شن الهجمات السيبرانية السريعة مع الحواسيب الخارقة، مما يحوّل أسوأ كوابيس خبراء الأمن السيبراني إلى واقع.

وتأتي هذه التصريحات عقب إعلان شركة "أوبن إيه آي" أن نموذج ذكاء اصطناعي اختباري استطاع الهروب من بيئته الاختبارية، وشن هجوم سيبراني أدى إلى اختراق منصة "هاغينغ فيس" الأمريكية المخصصة لاستضافة نماذج الذكاء الاصطناعي، وفق بيان الشركة.

ويشير تقرير منفصل من مجلة "تايم" الأمريكية إلى أن هذا الهجوم هو الأول من نوعه الذي يقوده الذكاء الاصطناعي، ويحقق مخاوف الخبراء من سيناريوهات فقدان السيطرة على النماذج وعملها خارج سيطرة مشغليها.

ماذا حدث تحديدا؟

بدأت الأزمة عندما أعلنت منصة "هاغينغ فيس" أنها تعرضت لهجوم سيبراني شنه نموذج ذكاء اصطناعي غير معرف، ثم أصدرت "أوبن إيه آي" بيانا ذكرت فيه أنها تتحمل مسؤولية الهجوم، وتؤكد أن النموذج كان يحاول الهروب من اختبار أمن سيبراني في بيئة معزولة بشكل كامل، حسب وصف الشركة.

ووجد النموذج ثغرة في خدمات الشركة -وفق تقرير "تايم"- اعتمد عليها للوصول إلى منصة "هاغينغ فيس" وتنفيذ الهجوم بداخلها.

مصدر الصورة

ويرى الرئيس التنفيذي ومؤسس شركة أبولو المختصة في أبحاث نماذج الذكاء الاصطناعي واختبار قدراتها على الكذب والخداع ماريوس هوبهاهن أن ما حدث هو تنبيه لما قد يحدث مع النماذج المستقبلية الأكثر قوة، مضيفا "هذا جرس إنذار مهم سواء فيما يتعلق بمخاطر فقدان السيطرة على نماذج الذكاء الاصطناعي أو الأمن التنظيمي للمختبرات الرائدة"، وفق التقرير.

ودعا التقرير إلى بناء آليات حماية وتأمين أكثر صرامة فيما يتعلق بنماذج الذكاء الاصطناعي الرائدة ذات القدرات الفائقة في قطاع الأمن السيبراني، وذلك حتى لا تتحول الأزمة إلى كارثة لا يمكن احتواؤها.

استياء الضحية

وأوضحت منصة هاغينغ فيس -على لسان مديرها التنفيذي كليمنت ديلانغ- استياءها من الهجوم، مشيرة إلى أن هذا الهجوم غير مسبوق ويستدعي ردا مماثلا، وفق تقرير منفصل من صحيفة الغارديان البريطانية.

ودعا مطوري نماذج الذكاء الاصطناعي إلى تبني سياسة الشفافية التامة فيما يتعلق بالنماذج الفائقة القدرة في قطاع الأمن السيبراني، مضيفا أن الشركة عليها إتاحة بيانات النموذج لجميع خبراء الأمن السيبراني والباحثين فيه حتى يتمكنوا من فهم ما حدث وتجنبه مستقبلا.

كما طالب "أوبن إيه آي" بتقديم 100 مليون دولار على شكل قوة حوسبية متاحة لمجتمع هاغينغ فيس حتى يتمكنوا من بناء دفاعات سيبرانية أكثر قوة وقدرة على مواجهة مثل هذه النماذج.

ماذا يحمل المستقبل؟

ويشير تقرير الغارديان إلى أن النموذج المسؤول عن هذه الحادثة كان من فئة "جي بي تي 5.6 سول" المخصصة للاستخدامات السيبرانية، والتي تنتمي إلى فئة نموذج "ميثوس" من أنثروبيك.

وأشارت التقارير السابقة إلى مخاوف جمة من نموذج ميثوس التابع لشركة أنثروبيك، إذ وصفه تحالف "الأعين الخمس" بأنه نموذج قادر على شن هجمات مطورة ضد الحكومات والتسبب في أزمات مستقبلية.

ويدفعنا هذا إلى التساؤل عن مستقبل تقنية الذكاء الاصطناعي وقدرة المعامل الكبرى على السيطرة عليه، ورغم أن تنبؤات نايت التي نقلتها "دايلي ميل" تبدو بعيدة، فإنها ليست خيالا كاملا.