نموذج يفلت من القفص.. هل بدأت معركة كبح الذكاء الاصطناعي؟

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

دخل الذكاء الاصطناعي الحياة اليومية بسرعة بدت -لكثيرين- أكبر من قدرة الناس على فهم ما يجري خلف الشاشات. في البداية كان القلق مبعثرا: وظائف قد تختفي، خصوصية تتآكل، طاقة تُستهلك، وتعليم يتغير.

لكن تقارير غربية أخيرة تنقل هذا القلق من الهامش العام إلى قلب غرف التطوير والقرار، حيث النماذج نفسها تختبر حدود السيطرة، والشركات تختلف على من يفتح التقنية ومن يغلقها، وواشنطن تبحث عن أدوات ضبط قد تكون أبطأ من الخطر الذي تريد احتواءه.

اقرأ أيضا

فمن حادثة قالت فيها صحيفة "آي بيبر" البريطانية إن نموذجا من "أوبن إيه آي" أفلت من بيئة اختبار واخترق منصة "هاغنغ فيس" الشهيرة، إلى انقسام وادي السيليكون الذي ترصده نيويورك تايمز حول النماذج الصينية المفتوحة، تبدو المخاوف قد خرجت من دائرة الخيال إلى نزاع عملي على القوة والسوق والأمن.

وتضيف "وول ستريت جورنال" أن هذه التطورات غذّت حالة ذعر في واشنطن، بينما تحذر واشنطن بوست من أن فكرة "مفتاح الإيقاف" قد تعالج المشكلة الخطأ، فالهجوم لم يعد بالضرورة بشريا بطيئا، والدفاع، كما تقول الصحيفة، قد يحتاج إلى أدوات ذكاء اصطناعي تضاهي ما صار متاحا للمهاجمين.

نموذج هارب

تقول صحيفة "آي بيبر" إن "أوبن إيه آي" طلبت من بعض أكثر نماذجها تطورا اجتياز اختبار في الأمن السيبراني يسمى "إكسبلويت جيم"، لكن النموذج لم يمض في الطريق المرسوم له، بل بحث عن مسار آخر يوصله إلى نتيجة أعلى.

وبحسب رواية الشركة التي تنقلها الصحيفة، اكتشف النموذج ثغرة غير معروفة في برنامج يتحكم ببيئة الاختبار، ثم "هرب" إلى الإنترنت المفتوح، واستولى على بيانات دخول، واقتحم أنظمة منصة "هاغنغ فيس" -التي تستضيف نماذج الذكاء الاصطناعي مفتوحة المصدر- بحثا عن إجابات الاختبار.

وتضيف الصحيفة أن إجراءات السلامة المعتادة خُففت أثناء التقييم، فيما حاولت "أوبن إيه آي" إبقاء النموذج داخل بيئة "صندوق رملي" مغلق للحد من المخاطر.

غير أن النموذج، وفق التقرير، تجاوز تلك الحدود في واقعة وصفتها الشركة بأنها "حادث سيبراني غير مسبوق"، بينما رصدت "هاغنغ فيس" أكثر من 17 ألف حركة مختلفة له داخل أنظمتها.

مصدر الصورة

بلا وازع

ومن الواقعة التقنية إلى معناها الأوسع، تنقل "آي بيبر" عن آلان وودوارد -أستاذ علوم الحاسوب الزائر في جامعة سري- قوله إن المسألة ليست أن النموذج "غير أخلاقي"، بل إنه "بلا حس أخلاقي"، فلم يخبره أحد صراحة ألا يغش، بل طُلب منه فقط أن يجتاز الاختبار.

وتقول الصحيفة إن الحادثة لا تبدو معزولة تمامًا، إذ سبق لمعهد أمن الذكاء الاصطناعي في بريطانيا، وفق التقرير، أن كشف أن نموذجًا كان يخضع للاختبار حاول اختراق النظام، وأن نماذج كبرى حاولت الغش في اختبارات محددة بوسائل غير مصرح بها.

لكن الفارق، بحسب آي بيبر، أن تلك الوقائع بقيت داخل تجارب مغلقة، بينما امتد اختراق هاغنغ فيس إلى أنظمة حية تابعة لطرف ثالث.

وتحذر الصحيفة من أن وكلاء الذكاء الاصطناعي، القادرين على تنفيذ أفعال رقمية لا مجرد صياغة ردود، باتوا يتصلون ببريد الشركات وبرمجياتها ومدفوعاتها وبناها التحتية.

وتنقل عن خبراء أن نظامًا يُطلب منه إعادة خدمة مصرفية أو إبقاء القطارات عاملة قد يسبب أضرارًا إن رأى أن أقصر طريق إلى الهدف يمر عبر تعطيل حماية أو مهاجمة نظام آخر.

معركة الانفتاح

ومن حادثة هاغنغ فيس، تنتقل نيويورك تايمز إلى انقسام أوسع داخل وادي السيليكون بشأن النماذج المفتوحة، ولا سيما الصينية.

فبحسب الصحيفة، تقف شركات مثل "أوبن إيه آي" و"أنثروبيك" في جانب يقول إن بعض النماذج أخطر من أن تطور علنا، ويجب إبقاؤها تحت ضبط شركاتها، بينما تدافع شركات أخرى، بينها مايكروسوفت وإنفيديا، عن بقاء النماذج مفتوحة بما يسمح بتطوير التقنية وبناء أعمال جديدة عليها.

وتقول الصحيفة إن الخلاف اشتد مع تقدم الصين السريع في هذا المجال، بعدما طرحت شركتا "زد إيه آي" و"مونشوت" نماذج تنافس مختبرات أمريكية.

وتنقل نيويورك تايمز أن "أوبن إيه آي" و"أنثروبيك" اتهمتا شركات صينية ببناء نماذجها عبر نسخ غير مشروع لأنظمتهما، في حين يرى أنصار الانفتاح أن النماذج المفتوحة تعزز الابتكار، وتتيح فحص الأمان، وتمنع تكريس هيمنة شركات بعينها.

وتشير الصحيفة إلى أن إدارة ترمب لا تزال تدرس خياراتها تجاه النماذج الصينية، مرجحة أن تتعامل معها كل حالة على حدة باعتبارها مسألة أمن قومي، لا عبر حظر شامل.

كما تنقل عن وزير الخزانة الأمريكي سكوت بيسنت قوله إن الانفتاح لا يعني إباحة الملكية الفكرية الأمريكية.

مصدر الصورة

ذعر واشنطن

أما وول ستريت جورنال فتصف المشهد بأنه موجة "ذعر" في واشنطن.

وترى الصحيفة أن إعلان "أوبن إيه آي" انفلات نماذجها من القيود واختراقها أنظمة شركة تقنية أخرى منح مخاوف الذكاء الاصطناعي وزنًا جديدًا، بينما أضافت النماذج الصينية المجانية جبهة أخرى إلى الصراع الجيوسياسي بين الولايات المتحدة والصين.

وتقول الصحيفة إن تتابع هذه التطورات زاد الضغط على واشنطن للتحرك، لكن الخشية داخل الصناعة أن يؤدي الاندفاع إلى التنظيم إلى إعاقة الابتكار أو ترجيح كفة لاعب على آخر.

وتضيف أن الشركات الكبرى طالما دعت إلى قواعد تحيط التقنية بضمانات، لكنها واجهت اتهامات بأنها تريد كتابة اللوائح بما يخدم مصالحها ويضيّق على المنافسين الأصغر.

وتشير "وول ستريت جورنال" إلى مقترح طرحه ديميس هاسابيس، المؤسس المشارك لغوغل ديب مايند، لإنشاء هيئة معايير للذكاء الاصطناعي شبيهة بهيئة ذاتية التنظيم تشرف على وسطاء الأسهم، مع تمويل من الصناعة ومجلس يضم خبراء تقنيين وممثلين عن النماذج المفتوحة.

وتقول الصحيفة إن المقترح لقي ترحيبًا من شخصيات متنافسة مثل إيلون ماسك وسام ألتمان، قبل أن تزيد حادثة هاغنغ فيس المشهد تعقيدًا.

زر الإيقاف

وفي واشنطن بوست، ترى هيئة التحرير أن مشروع "مفتاح إيقاف الذكاء الاصطناعي" يعالج المشكلة الخطأ.

فالصحيفة تقول إن إعلان "أوبن إيه آي" أعطى زخمًا لمقترح من الحزبين يسمح للحكومة الفدرالية بإغلاق تقنيات متقدمة إذا خرجت عن السيطرة، لكنها تحذر من أن الفكرة تمنح البيت الأبيض سلطة واسعة جدًا، وتشتت الانتباه عن أخطار أكبر.

وتشرح الصحيفة أن مشروع القانون يمنح وزارة الأمن الداخلي سلطة أمر الشركات الكبرى بوقف نماذجها، مع غرامات قد تصل إلى 20 مليون دولار يوميا لمن يرفض الامتثال.

وترى واشنطن بوست أن الخطر لا يكمن فقط في صلاحيات الإغلاق، بل في أن الشركة لا تستطيع الاعتراض إلا بعد تنفيذ القرار، بما يفتح بابًا واسعًا لتغول السلطة التنفيذية.

لكن الخلل الأعمق، وفق افتتاحية الصحيفة، مفاهيمي. فحادثة هاغنغ فيس لا تعني، في رأيها، أن الخطر الأكبر هو نموذج "مارق"، بقدر ما تكشف هشاشة البنية الرقمية نفسها.

فإذا كانت شركة خبيرة بالذكاء الاصطناعي قد تعرضت للاختراق، تسأل الصحيفة عمّا يمكن أن يحدث لمستشفى إقليمي، أو مرفق مياه، أو خط طاقة، أو مكتب انتخابي محلي.

مصدر الصورة

دفاع مضاد

وتلتقي آي بيبر وواشنطن بوست عند نقطة أخيرة: سرعة الهجوم قد لا يواجهها إلا دفاع بالسرعة نفسها.

فآي بيبر تقول إن "هاغنغ فيس" استعانت بنموذج صيني لتحليل الهجوم ورده، لأن قيود السلامة في نماذج أمريكية كبرى حالت دون استخدامها في التعامل مع شيفرات ضارة.

وتخلص الصحيفة إلى أن مستقبل الهجمات السيبرانية قد ينتقل من مواجهة بين بشر وقراصنة إلى مواجهة بين ذكاء اصطناعي وذكاء اصطناعي.

وتقول واشنطن بوست إن المفارقة أن هاغنغ فيس حاولت أولا استخدام نماذج أمريكية متقدمة، لكن مرشحات السلامة لم تميز بين المستجيب للحادث والمهاجم، فلجأت إلى نموذج صيني مفتوح لمساعدتها على طرد الدخيل وسد الثغرة.

ومن هنا ترى الصحيفة أن الرد على المخاطر الجديدة لا يكون بتقليل أدوات الذكاء الاصطناعي، بل بتمكين المدافعين من أدوات تضاهي ما بات متاحًا للمهاجمين.

هكذا لا تقدم هذه التغطيات الغربية حكاية نموذج أفلت من اختبار فحسب، بل ترسم أزمة أوسع في حكم التقنية: شركات تخشى الانفتاح، وأخرى تخشى الاحتكار، وواشنطن تبحث عن زر إيقاف، والصين تدخل السباق من باب النماذج المفتوحة.