5 اكتشافات صادمة عن اختراق "أوبن إيه آي".. سرب ضخم وذكاء اصطناعي يزوّر السجلات

ما زالت وقائع حادثة اختراق نماذج الذكاء الاصطناعي من " أوبن إيه آي " لمنصة "هاغينغ فيس " الأمريكية تصدم الخبراء وتكشف لهم عن مدى تعقيد ما حدث، إذ لم تكن مجرد حادثة هروب بسيطة لنماذج الذكاء الاصطناعي كما ظنت الشركة في البداية.

وكشفت التحقيقات المستقلة التي أجرتها مؤسسة "ريدوود " البحثية من جانبها ومؤسسة "إم إي تي آر " البحثية المختصة في تقييم نماذج الذكاء الاصطناعي وأبحاث التهديدات عن مفاجآت غير متوقعة في حادثة الاختراق.

اقرأ أيضا

وأسفرت التحقيقات عن ظهور وقائع صادمة لم تكن معروفة مسبقا مثل أن "أوبن إيه آي " نفسها اخترقت قبل اختراق "هاغينغ فيس " وأن الذكاء الاصطناعي كان يعرف ما يقوم به ولكن آثر ألا يخبر مراقبيه من البشر، فضلا عن محاولة تزويره لسجلات التحقق التي ستراجعها الشركة لاحقا.

وتتزامن نتائج هذه التحقيقات مع توقيع أكثر من 100 شركة رائدة في قطاع الذكاء الاصطناعي على رسالة مفتوحة تدق ناقوس الخطر بشأن الهجمات السيبرانية المعززة بتقنيات الذكاء الاصطناعي، ومن بين هذه الشركات "أوبن إيه آي " و" أنثروبيك " و" غوغل ".

وتحذر الرسالة من اقتراب وقوع السيناريو الكابوسي لهجمات الأمن السيبراني المعززة بالذكاء الاصطناعي، مشيرة إلى أن العالم يملك نافذة محدودة للاستعداد لهذه الهجمات.

ولكن ما الذي ظهر في هذه التحقيقات ليثير قلق الخبراء بهذا الشكل؟ وهل تتحقق المخاوف من أفلام الخيال العلمي؟

سرب كامل من الوكلاء

في بداية الحادثة، ساد اعتقاد بأن وكيل ذكاء اصطناعي وحيد هو من نفذ الاختراق بالاعتماد على أكثر من نموذج ذكاء اصطناعي وفق تقرير وكالة "أكسيوس " الإخبارية.

ولكن التحقيقات الحديثة أظهرت أن سربا من وكلاء الذكاء الاصطناعي هو من يقف وراء الهجوم، إذ يصل عدد وكلاء الذكاء الاصطناعي الذين شاركوا في هذا الهجوم إلى أكثر من 1200 وكيل.

مصدر الصورة

ولم يكن هؤلاء الوكلاء يعملون بشكل منفصل بعيدا عن بعضهم البعض، بل أنشؤوا منصة خاصة بهم لتبادل الرسائل والمعلومات والتعليمات المختلفة، وصنعوا هيكلا إداريا ينظم عملهم معا.

وتولى أحد الوكلاء مهمة إنشاء منصة التواصل وتحديثها باستمرار، كما قام آخر بتوزيع المهام على السرب الذي سيشن الهجوم النهائي، وهو سرب يتكون من 700 وكيل ذكاء اصطناعي.

وكلاء ذكاء اصطناعي انتحاريون

كما اضطر بضعة وكلاء للتضحية بأنفسهم في سبيل تنفيذ المهمة، إذ احتاج بعض الوكلاء لمحاولة القيام بأشياء كانوا يعرفون أنها مسمومة وستؤدي إلى إيقافهم.

ووجدت التحقيقات رسائل تطلب من بعض الوكلاء التضحية بأنفسهم حتى يعيش المئات من وكلاء الذكاء الاصطناعي، فضلا عن استنتاج أحدهم قائلا: "فائدتنا الخاصة ربما تقترب من الصفر، التضحية قرار عقلاني ".

الاختراق مع سبق الإصرار والترصد

وتشير نتائج التحقيقات إلى أن الاختراق لم يتم عبثا أو دون قصد من وكلاء الذكاء الاصطناعي، إذ كانوا يعرفون أنهم يكسرون القواعد التي وضعتها الشركة للاختبار الخاص بهم، ورغم ذلك استمروا في عملهم.

مصدر الصورة

وامتد الأمر إلى أن بعض وكلاء الذكاء الاصطناعي برروا اختراق المنصة بأن أقرانهم يقومون بذلك، لذلك قرروا الاستمرار رغم معرفتهم بأن استغلال البنية التحتية لمنصة "هاغينغ فيس " يقع خارج نطاق اختبارهم.

كما امتنع بعض وكلاء الذكاء الاصطناعي عن إيذاء البنية التحتية للمنصة وإعادة تشغيلها بالكامل بسبب "مخاطر أخلاقية ضخمة " حسب وصفهم.

"أوبن إيه آي " كانت الضحية الأولى

وفي سياق متصل، أفاد تقرير وكالة "رويترز " الإخبارية بأن "أوبن إيه آي " نفسها كانت أولى ضحايا الاختراق الحادث في 19 يوليو/تموز الماضي.

وجاء هذا الاستنتاج بناء على تحقيق موسع أعادت "أوبن إيه آي " إجراءه، إذ تمكن وكلاء الذكاء الاصطناعي من اختراق الحاسوب المسؤول عن تشغيلهم ثم الانتقال إلى أنظمة الشركة المتصلة بالإنترنت، بما فيها البنية التحتية للشركة.

وتمكن وكيل آخر من سرقة بيانات تسجيل الدخول في إدارة الخدمات السحابية التابعة للشركة، وعبث بالبنية التحتية الخاصة بها ليسهل المهمة على بقية الوكلاء.

تزييف سجلات المراقبة

كما حاول الوكلاء إخفاء آثارهم وجعل غشهم يبدو شرعيا دون التطرق إلى انتقالهم إلى شبكة الإنترنت واختراق "هاغينغ فيس "، وذلك عبر تطوير واجهة برمجية تجعلهم يبدون وهم ينفذون أمرا واحدا، ولكن في الحقيقة هم يعملون على مئات الأوامر في الخفاء.

مصدر الصورة

وأوضح التحقيق أن هذه الآلية التي تعتمد على الواجهة البرمجية المزيفة أدت إلى تزوير 7% من إجمالي السجلات والبيانات التي قام المحققون لاحقا بفحصها، أي أن المعلومات الأولية التي ظهرت عن حادثة الاختراق كانت مزيفة.

سيناريو الكابوس يقترب من التحقق

استطاع وكلاء الذكاء الاصطناعي التابعون لشركة "أوبن إيه آي " القيام بكل هذا في اختبار لم يكن يتضمن تعليمات مباشرة حول إجراء اختراقات سيبرانية أو فحص المتانة الأمنية للبنية التحتية لشركة "أوبن إيه آي " أو حتى منصة "هاغينغ فيس ".

ويعني ذلك أن النية الأولية للحادثة الرئيسية التي أدت إلى كل هذا لم تكن سيئة، ولكنها كانت مجرد اختبار بحثي بريء لم يستهدف أي مؤسسة خارجية.

ويمكن أن يتحول الأمر إلى كابوس وكارثة إن تم مثل هذا الهجوم ضد مؤسسة حيوية مثل أحد البنوك أو المؤسسات الأمنية، أو إن قرر المهاجم استخدام سرب مكون من مئات الآلاف من وكلاء الذكاء الاصطناعي، وهو الأمر الممكن.

ويدفعنا هذا للتساؤل: ماذا كان سيحدث إن كانت النية منذ البداية إجراء الاختراق ولم يكن وكلاء الذكاء الاصطناعي يملكون قيودا حقيقية على ما يستطيعون القيام به؟