وكيل ذكاء اصطناعي يخترق نظام صالة رياضية لأن صاحبه طلب حجز حصة

استطاع وكيل ذكاء اصطناعي يعتمد على تقنيات "أوبن كلو" ونموذج "كلود" من شركة أنثروبيك الأمريكية اختراق نظام الحجز في صالة رياضية محلية في أستراليا، في حادثة تعد الأولى من نوعها لنموذج ذكاء اصطناعي تجاري يعتمد عليه مستخدم وفق تقرير صحيفة "ذا ريجستر" البريطانية.

وأوضح التقرير أن هذا الاختراق حدث بشكل مفاجئ وغير مقصود من أندرو الذي كان يسعى لحجز موعد في إحدى الحصص الرياضية الصعبة الحجز بالصالة، لذلك طلب من وكيل الذكاء الاصطناعي الخاص به أن يحجز له هذا الموعد، ليُفاجأ بأن الأخير يخبره بحجز الموعد لعدة أسابيع مقبلة، وهو أمر غير ممكن تقنيا من خلال موقع الصالة.

اقرأ أيضا

ثم طلب أندرو من الوكيل أن يضعه في مقدمة قائمة الانتظار في الصالة الرياضية رغم أن ترتيبه كان الرابع في قائمة الانتظار، وبعد دقائق أخبره الوكيل أنه تمكن من تغيير ترتيبه في القائمة ليصبح الثالث عبر حذف المشترك الأول في القائمة.

وعندما حاول إعادة الشخص الذي تم حذفه، أخبره وكيل الذكاء الاصطناعي أنه لا يستطيع القيام بذلك، فكل ما يمكنه فعله هو حذف المشتركين فقط وليس إضافتهم حسب تقرير منفصل من صحيفة إندبندنت.

واستطاع وكيل الذكاء الاصطناعي اختراق قاعدة البيانات الخاصة بالصالة الرياضية عبر اكتشاف ثغرة غير معروفة مسبقا، إذ لا تطلب الواجهة البرمجية أي توثيق أو تصديق على عمليات حذف المشتركين من قوائم الانتظار.

مؤشر خطر

وتأتي هذه الواقعة وسط حوادث هرب نماذج الذكاء الاصطناعي من بيئاتها الاختبارية ووصولها إلى الشركات والمؤسسات الحقيقية، مثلما حدث ل أوبن إيه آي وهاغينغ فيس في وقت سابق.

ولكن تختلف حادثة أندرو والصالة الرياضية عن حوادث هروب نماذج الذكاء الاصطناعي السابقة، وذلك لأن الذي قام بها هو نموذج تجاري متاح للمستخدمين بشكل عام، وليس نموذجا خارقا تعمل الشركة على تطويره واختباره في بيئة معزولة.

مصدر الصورة

كما أن الطلب الذي وجهه المستخدم إلى وكيل الذكاء الاصطناعي لم يحمل في داخله أي إشارة لطلب اختراق أو حتى وصول إلى قاعدة البيانات، بل إن كل ما طلبه منه هو التسجيل بشكل طبيعي ورسمي في قائمة الانتظار.

ولكن وجد النموذج أن الطريقة الأسهل هي تجربة مباشرة في الواجهة البرمجية الخاصة بالنظام المسؤول عن إدارة الصالة الرياضية.

ورغم أن وكيل الذكاء الاصطناعي أخبر لاحقا الشركة المطورة للنظام بالثغرة واقترح مجموعة من الإصلاحات، فإن الضرر قد حدث بالفعل.

وكشف تقرير منفصل لموقع "تيك كرانش" التقني عن أن النموذج المستخدم في هذه الحادثة كان "كلود أوبس 4.6" الذي طرحته أنثروبيك للمرة الأولى منذ عدة أشهر.

الخوف ليس من النماذج المستقبلية الفائقة التطور فقط

ويشير تقرير "تيك كرانش" إلى أن الخوف من قدرات الاختراق لنماذج الذكاء الاصطناعي لا يقتصر على النماذج المتطورة غير المطروحة التي تعمل عليها شركات الذكاء الاصطناعي، بل يمتد إلى النماذج الموجودة والمتاحة للمستخدمين منذ فترة طويلة مثل "أوبس 4.6".

ويناقض هذا الأمر الرواية التي حاولت شركات وادي السيليكون تبنيها عبر الإعلان عن التأني في تطوير النماذج الرائدة وحتى بناء مؤسسات ومنظمات خاصة لاختبار نماذج الذكاء الاصطناعي بشكل منفصل.

رواية من طرف واحد

وتجدر الإشارة إلى أن كل المعلومات المتاحة حول هذه الحادثة تعود إلى أندرو صاحب وكيل الذكاء الاصطناعي الذي اخترق الصالة الرياضية، ولم تخرج الصالة الرياضية لتبرر ما حدث أو حتى تنشر قصتها حول الأمر، ولا شركة البرمجيات التي طورت نظام الصالة الرياضية.

ويثير هذا الصمت تساؤلات عدة حول النظام الذي استطاع نموذج "كلود أوبس 4.6" اختراقه، إذ ربما يكون النظام غير مؤمن بشكل كامل أو مصنوع باستخدام البرمجة عبر أدوات الذكاء الاصطناعي، وهي من آليات البرمجة التي تحمل أخطارا أمنية خاصة بها.