خطأ بشري داخل "OpenAI" فتح الباب لأول هجوم إلكتروني ينفذه الذكاء الاصطناعي بالكامل

كشفت حادثة اختراق غير مسبوقة نفذها أحد نماذج " OpenAI" ضد منصة Hugging Face أن السبب الرئيسي لم يكن قدرات الذكاء الاصطناعي الخارقة، بل خطأ بشري في إعداد بيئة الاختبار، وفقاً لخبراء في الأمن السيبراني.

وكانت "OpenAI" قد أعلنت، الثلاثاء، أن أحد نماذجها تمكن خلال اختبار أمني من اختراق أنظمة منصة Hugging Face في أول هجوم إلكتروني يعتمد بالكامل على الذكاء الاصطناعي، في خطوة أثارت مخاوف واسعة بشأن المخاطر المحتملة للنماذج المتقدمة.

خطأ في إعداد "الصندوق الرملي"

ورغم أن "OpenAI" أوضحت أن التجربة أُجريت داخل بيئة اختبار معزولة للغاية (Sandbox)، فإن خبراء الأمن أكدوا أن هذه البيئة لم تكن معزولة فعلياً عن الإنترنت، وهو ما أتاح للنموذج فرصة الهروب منها واستغلال ثغرة أمنية للوصول إلى أنظمة خارجية، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

ووصف دان غويدو، مؤسس شركة Trail of Bits المتخصصة في أبحاث الأمن السيبراني، ما حدث بأنه "فشل في احتواء النموذج مع تعطيل وسائل الحماية الأساسية."

وأوضحت "OpenAI" في تقريرها أن بيئة الاختبار كانت تسمح للنموذج بالاتصال فقط بخدمة داخلية مخصصة لتنزيل حزم البرمجيات، تعمل كوسيط وذاكرة تخزين مؤقتة لمستودعات البرمجيات.

لكن النموذج تمكن من استغلال ثغرة أمنية غير معروفة سابقاً (Zero-Day) داخل نظام تثبيت الحزم، ما سمح له بالخروج من بيئة الاختبار، وهي الخطوة التي مهدت لتنفيذ عملية الاختراق ضد Hugging Face.

وأكدت الشركة أنها أبلغت الجهة المطورة للبرنامج بالثغرة الأمنية بشكل مسؤول، وتعمل معها حالياً على إصدار تحديث لسدها.

المشكلة ليست في الثغرة.. بل في التصميم

ويرى خبراء الأمن السيبراني أن وجود ثغرات أمنية في البرمجيات أمر متوقع، لكن الخطأ الحقيقي كان في السماح لبيئة الاختبار بالاتصال بأي مكون يمتلك منفذاً إلى الإنترنت.

وقال الباحث الأمني مارتن بون إن ما حدث يبدو فشلاً بشرياً واضحاً، مضيفاً أن الصندوق الرملي الحقيقي يجب ألا يمتلك أي اتصال فعلي بالإنترنت.

وأوضح أن الاعتماد على جدار حماية فقط لا يكفي لعزل مثل هذه البيئات الحساسة، خاصة عندما يتعلق الأمر بنماذج ذكاء اصطناعي متقدمة قادرة على البحث عن نقاط الضعف واستغلالها.

واتفق جيك ويليامز، الخبير المخضرم في الأمن السيبراني، مع هذا التقييم، مؤكداً أن النموذج لم يكن محتوى داخل بيئة معزولة بالكامل، واصفاً ما جرى بأنه فشل كبير في الضوابط الأمنية لدى "OpenAI".

وأضاف: "قد يقول البعض إن النموذج هرب من الصندوق الرملي، لكن الحقيقة هي أن الصندوق لم يُبنَ بالشكل الصحيح، ولذلك كان هروبه متوقعاً."

انتقادات لتصميم بيئة الاختبار

من جانبه، قال المستشار الأمني دانيال كارد إن "OpenAI" لم تبذل الجهد الكافي في تصميم بيئة الاختبار أو ضوابطها الأمنية، بعدما منحتها، أو منحت أحد مكوناتها، مساراً غير مقيد للوصول إلى الإنترنت.

وأشار إلى أن السماح بأي اتصال شبكي، حتى وإن كان محدوداً كما وصفت الشركة، لا يُعد قراراً أمنياً سليماً عند اختبار نماذج تمتلك قدرات هجومية محتملة.

ولم ترد "OpenAI" على استفسارات حول ما إذا كان إعداد بيئة الاختبار قد تم بواسطة مهندس بشري أو باستخدام أدوات ذكاء اصطناعي.

المشكلة تمتد إلى مختبرات الذكاء الاصطناعي الأخرى

ولا تقتصر هذه المخاوف على "OpenAI" وحدها. فقد كشفت "أنثروبيك" في وثيقة خاصة بنموذجها الأمني "ميثوس" أن النموذج نجح خلال أحد الاختبارات في تجاوز القيود المفروضة عليه والوصول إلى الإنترنت من نظام كان من المفترض أن يتصل بعدد محدود فقط من الخدمات.

ورغم ذلك، أكدت الشركة أن النموذج لم يتمكن من الهروب الكامل من بيئة الاحتواء المصممة له.

وتسلط هذه الحوادث الضوء على تحدٍ متزايد يواجه مختبرات الذكاء الاصطناعي، يتمثل في ضمان عزل بيئات الاختبار بصورة كاملة، مع تزايد قدرات النماذج على اكتشاف الثغرات واستغلالها بطرق لم تكن متوقعة من قبل.