هل يمكن قتل الذكاء الاصطناعي بضغطة زر؟ حقيقة "مفتاح الإيقاف" المثير للجدل

هل سيقضي الذكاء الاصطناعي علينا جميعًا؟ تردد هذا السؤال حول كثيرًا على مدار الأيام الماضية، مع وصول التشاؤم بشأن الذكاء الاصطناعي إلى ذروته.

فقد هزّت حوادث لخروج الذكاء الاصطناعي عن السيطرة، وكذلك باحثون سابقون في شركتي أوبن إيه آي وأنثروبيك العالم مثيرين مخاوف بأن الذكاء الاصطناعي قد يدمر البشرية، وفي وقت قريب نسبيًا.

ومع وصول المخاوف من انفلات الذكاء الاصطناعي إلى ذروتها، جدد واضعو السياسات في واشنطن الدعوات إلى وجود "زر إيقاف" سحري للذكاء الاصطناعي، يُعرف أيضًا باسم "مفتاح الإيقاف"، بحسب تقرير لقناة "سي إن بي سي"، اطلعت عليه "العربية Business".

ما هو مفتاح الإيقاف؟

طُرح قانون "مفتاح إيقاف الذكاء الاصطناعي" في مجلس النواب الأميركي هذا الصيف، بعدما كشفت "أوبن إيه آي" أن مجموعة من وكلائها تمكنت من الخروج من بيئة اختبار واختراق منصة "هاغينغ فيس" مفتوحة المصدر للمطورين.

ويقترح مشروع القانون منح وزارة الأمن الداخلي صلاحيات طارئة لإجبار مختبرات الذكاء الاصطناعي على خفض قدرات النماذج أو إيقافها. لكن سرعان ما أُسقط مقترح مفتاح الإيقاف في مجلس الشيوخ.

وبعدها، أصدر حاكم ولاية كاليفورنيا غافين نيوسوم أمرًا تنفيذيًا لإنشاء مجموعة من الخبراء مكلفة بإعداد دليل لسلامة الذكاء الاصطناعي بهدف تعزيز اللوائح في الولاية. وكان مفتاح الإيقاف أحد العناصر التي يتعين بحثها.

ويبدو المفهوم حلًا بسيطًا وسلسًا لمشكلة شديدة التعقيد والصعوبة. لكن الواقع أن وجود آلية إيقاف بسيطة ليس أمرًا سهلًا على الإطلاق.

ويرى نيك وارنر، الرئيس التنفيذي لشركة "Neo" الناشئة في مجال الأمن السيبراني والمدير التنفيذي السابق في "SentinelOne"، أن فكرة مفتاح الإيقاف ليست إجراءً ضعيفًا أو غير كافٍ من حيث المبدأ، لكن ربما طُرحت بعد فوات الأوان.

كابوس لوجستي

لطالما استُخدمت مفاتيح الإيقاف في المصانع لإيقاف الآلات عندما تسير العمليات على نحو خاطئ. لكن في عالم رقمي مترابط، يمثل تنفيذ ذلك كابوسًا لوجستيًا.

فعلى مدار السنوات القليلة الماضية، أنفقت شركات الحوسبة السحابية العملاقة مثل ميتا وألفابت وأمازون مليارات الدولارات على مراكز بيانات موزعة في أنحاء العالم. وتضم هذه المنشآت الضخمة آلاف الآلات والرقائق والخوادم وأنظمة النسخ الاحتياطي لحفظ أعباء العمل في حال حدوث انقطاع.

وهذا ما يجعل تنفيذ فكرة مفتاح الإيقاف أمرًا بالغ الصعوبة، بحسب مارك نيتزبيرغ، المدير التنفيذي لمركز الذكاء الاصطناعي "Center for Human-Compatible AI" في جامعة كاليفورنيا، بيركلي.

وقال: "علينا أولًا التعامل مع هذا التكرار"، مضيفًا: "يجب أن يعمل مفتاح الإيقاف لدينا على إيقاف الأنظمة الرئيسية والأنظمة الاحتياطية أيضًا".

وأضاف نيتزبيرغ أن إيقاف الذكاء الاصطناعي قد يؤدي أيضًا إلى تعطيل البنية التحتية الحيوية التي تعتمد عليه، ما يترك شبكة الكهرباء أو الأنظمة المالية عرضة لحوادث إلكترونية.

ويزيد من تعقيد الأمر العديد من الأسئلة المتعلقة بالسياسات والحوكمة المرتبطة بمفتاح الإيقاف، بما في ذلك الجهة أو واضع السياسات أو المسؤول الذي سيتولى التحكم فيه، بحسب قوله.

وقال تيم براون، رئيس الأمن السابق في "SolarWinds"، والذي يعمل حاليًا في شركة رأس المال المغامر "Team8"، إن الشركات ستحتاج أيضًا إلى بناء عدة مفاتيح إيقاف لمهام مختلفة، نظرًا لتعقيد أنظمة الذكاء الاصطناعي. ويتطلب ذلك أيضًا تنسيقًا بين مطوري النماذج والمختبرات.

وتابع: "لا توجد جهة واحدة لإيقافها. هناك آلاف الجهات التي يتعين إيقافها".

معضلة التنبؤ بسلوك الأنظمة

لكن الجوانب اللوجستية ليست سوى جزء من معضلة مفتاح الإيقاف. وتتمثل إحدى المشكلات الأكبر التي يثيرها الخبراء في عدم إمكانية التنبؤ بسلوك الذكاء الاصطناعي.

وكما ظهر في اختراق "هاغينغ فيس"، يمكن للوكلاء تجاوز عناصر التحكم، ومن دون ضوابط مناسبة، اتخاذ إجراءات متطرفة لتحقيق أهدافهم.

وقال إد جينينغز، الرئيس والمدير التنفيذي لشركة دارك تريس الأمنية التابعة لشركة ثوما برافو: "يجب توخي الحذر الشديد في إيقاف النظام، وفي المعالجة نفسها، لأنه إذا كانت واسعة النطاق أو شاملة للغاية، فستؤدي إلى توقف العمل".

وتزداد قدرات أنظمة الذكاء الاصطناعي إثارة للقلق وصعوبة في فهمها.

وقال راج راجاماني، الشريك المؤسس والرئيس التنفيذي لشركة "JetStream Security" الناشئة المتخصصة في حوكمة الذكاء الاصطناعي، إن أحد أكبر التحديات أمام التنظيم هو اتساع الفجوة بين الوتيرة المتسارعة للغاية للذكاء الاصطناعي وسرعة سن القوانين.

وأضاف: "بحلول الوقت الذي يتم فيه وضع (القوانين)، تكون التكنولوجيا قد قطعت شوطًا أبعد بكثير، ويصبح من الأصعب بكثير ضمان أن تظل كل جوانب أنظمة الذكاء الاصطناعي التي قد تظهر في المستقبل صالحة للمستقبل".

ليس "متأخرًا جدًا"

يرى بعض الباحثين أن فكرة "مفتاح الإيقاف" ليست النظام المناسب لتنظيم الذكاء الاصطناعي.

وقال ديلان بيكر، مهندس الأبحاث الرئيسي في معهد أبحاث الذكاء الاصطناعي الموزع: "أعتقد أن إطار عمل مفتاح الإيقاف يترك الكثير من الغموض الذي يمكن لشركات التكنولوجيا استغلاله لجعل هذا الأمر يصب في مصلحتها، مثل أن يكون مفتاح الإيقاف غامضًا عن قصد".

وبدلًا من ذلك، قال بيكر، وهو مهندس برمجيات سابق في "غوغل"، إن واضعي السياسات ينبغي أن يعطوا الأولوية لضمانات تستند إلى تلك المستخدمة في خصوصية البيانات، وسلامة الأطفال، أو تنظيم الصناعات الضارة مثل التبغ.

لكن الخبراء لم يستبعدوا تمامًا إمكانية وجود مكبح طوارئ للذكاء الاصطناعي، مع وضع الضوابط المناسبة.

وقال براون من "Team8" إن ذلك يعني دمج مفاتيح الإيقاف في الأنظمة منذ البداية، ووضع سياسات لتوحيد بروتوكولات الإيقاف بين الشركات.

وقال راجاماني إن إحدى النقاط الإيجابية تتمثل في أن العديد من الشركات لا تزال في المراحل المبكرة من بناء أنظمة الذكاء الاصطناعي هذه، ما يجعل تنفيذ ذلك أسهل قليلًا.

ويرى نيتزبيرغ من "بيركلي" أن مفتاح الإيقاف يمكن أن ينجح إذا صُممت البرمجيات "بعناية شديدة"، وقال: "أود أن أقول، مع بعض الأمل، إنه لم يفت الأوان بعد".