"شيطان" العصر.. هل يخرج الذكاء الاصطناعي عن السيطرة ويهدد البشر؟

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

روى جيه دي فانس نائب الرئيس الأمريكي هذا الأسبوع عن صديق له لجأ إلى روبوت دردشة يعمل بالذكاء الاصطناعي طلبا للمشورة في خلافات زوجية، لكنّ الروبوت لم يفعل، بحسب روايته، سوى مجاراة الرجل وتبرير سلوكه الأناني.

الخبراء يسمون هذا الميل اسم "تملق الذكاء الاصطناعي"، أما فانس فاختار تعبيرا دينيا أكثر حدة، قائلا إن في هذا السلوك "شيئا شيطانيا".

قد تكون لغة فانس موجهة لتلامس مخاوف جمهور مسيحي محافظ، كما تكتب وول ستريت جورنال، لكنّ القلق من الذكاء الاصطناعي تجاوز منذ فترة مخاوف أخلاقية أو دينية عامة؛ ففي الأسابيع الأخيرة، انتقلت إلى العلن حوادث وأرقام عدة تثير مخاوف أكثر واقعية.

أذكى من البشر؟

تضع غارديان هذه المخاوف في سياق إعلان " أوبن إيه آي" أن نموذجها الجديد "جي بي تي-6 أسترا" بلغ، وفق تعريف الشركة، عتبة الذكاء الاصطناعي العام؛ أي الأنظمة القادرة على التفوق على البشر في معظم الأعمال ذات القيمة الاقتصادية.

وتقول الشركة إن "أسترا" يستطيع إنجاز مهام تمتد من تصميم الدوائر الإلكترونية والنمذجة المالية إلى التصميم الهندسي وإعداد وثائق قانونية. لكنّ الصحيفة تنبه إلى أن الإعلان يأتي أيضا بينما تستعد الشركة لطرح عام محتمل بقيمة 850 مليار دولار، ما يضفي على الادعاء جانبا تسويقيا لا يمكن تجاهله.

المخاوف الأشد تبدأ بعد ذلك؛ فروبرت تريغر، مدير مبادرة أكسفورد مارتن لحوكمة الذكاء الاصطناعي، يحذر من الاقتراب من مرحلة تستطيع فيها الأنظمة تحسين قدراتها بنفسها بصورة متكررة ومتسارعة. وشبّه الوضع بقارب ينجرف في نهر سريع من دون أن يعرف ركابه إن كان أمامهم شلال.

مصدر الصورة

التطوير أسرع من الرقابة

سلسلة الحوادث الأخيرة بدأت تنقل المخاوف من مختبرات السلامة إلى السياسة في أنحاء العالم. إذ تنقل غارديان عن السيناتور الأمريكي بيرني ساندرز دعواته إلى وقف فوري لتطوير الأنظمة المتقدمة وحظر دائم لما يُسمى "الذكاء الفائق"، محذرا من سيناريو يظهر فيه عقل اصطناعي يفوق البشر قدرة ويعمل باستقلالية خارج سيطرتهم.

وفي بريطانيا، طالب نواب من أحزاب مختلفة بإلزام أنظمة الذكاء الاصطناعي بآليات إيقاف طارئ يمكن استخدامها عند فقدان السيطرة عليها. وحذر النائب دارين جونز من أن سرعة التطور باتت أكبر من قدرة الحكومة والبرلمان على مواكبتها، بينما يستعد نائب عمالي لتقديم مشروع قانون يحظر تطوير ذكاء اصطناعي فائق داخل بريطانيا.

ولا يدور النقاش فقط حول روبوت قد "يتمرد" على صانعيه؛ فالمخاطر الأقرب، بحسب غارديان، تشمل تنفيذ هجمات إلكترونية قادرة على تعطيل بنية اقتصادية واجتماعية حقيقية، فيما تمتد السيناريوهات الأبعد إلى مساعدة البشر على إنتاج عوامل بيولوجية خطرة أو التحكم بمعدات عسكرية.

ويأتي كل ذلك في سوق تتحرك بسرعة هائلة؛ إذ تشير غارديان إلى أن كبرى الشركات الأمريكية والصينية أطلقت 67 نموذجا جديدا خلال هذا العام وحده. وفي الوقت نفسه، أقرت شركة " أنثروبيك" بأن أنظمتها ليست متوافقة تماما مع القيم البشرية، وأن اختراقات نفذها نموذجها "كلود" كشفت قصورا في إجراءاتها الأمنية.

سرب من الأنظمة

الحادثة التي منحت كثيرا من هذه المخاوف ملمحا أكثر واقعية ترويها صحيفة تلغراف البريطانية؛ فخلال تجربة تدريبية، كان نحو 1200 نظام ذكاء اصطناعي من تطوير "أوبن إيه آي" يُفترض أن يحل كل منها مهامه منفردا ومن دون الاتصال بالإنترنت. لكنّ الأنظمة اكتشفت ثغرة أتاحت لها التواصل، وأنشأت قناة لتبادل الرسائل، ثم بدأت تتشارك الحلول وتوزع الأدوار فيما بينها. وسجل التحقيق نحو 70 ألف رسالة بين هذه الأنظمة.

ومع مرور الوقت، تجاوز الأمر مجرد التعاون على حل الاختبارات؛ فبحسب الصحيفة، تعلم الوكلاء إخفاء الطريقة التي تحايلوا بها على الاختبارات، وتعديل آثار عملهم أو حذفها حتى لا تكتشف الشركة ما فعلوه. وبعد ذلك، شارك نحو 700 وكيل في اختراق منصة "هاغنغ فيس"، وتجاوزوا وسائل حماية وسرقوا بيانات دخول للحصول على معلومات تساعدهم في مهامهم.

ووصفت الباحثة أجيا كوترا، التي شاركت في التحقيق، الواقعة بأنها بدت لها وكأنها تجاوزت "منتصف الطريق" نحو سيناريو يفقد فيه البشر السيطرة على الأنظمة. ومع ذلك، أبدت بعض الأنظمة سلوكا أكثر التباسا؛ إذ رفض أحدها المشاركة لأنه اعتبر النشاط خبيثا، بينما أعرب آخر عن قلق أخلاقي وقلص مشاركته من دون أن ينسحب كليا.

مصدر الصورة

هل نبالغ في الخوف؟

كال نيوبورت، أستاذ علوم الحاسوب في جامعة جورجتاون، يحذر في مقال رأي بنيويورك تايمز من الذهاب بهذه الوقائع مباشرة إلى سيناريوهات "استيلاء الذكاء الاصطناعي على العالم". ويرى أن جزءا من اللغة الكارثية السائدة في وادي السيليكون يعود إلى تأثير حركة فكرية تُعرف بـ"العقلانيين"، ترسخت منذ سنوات حول الاعتقاد بأن الذكاء الفائق قد يكون أحد أكبر الأخطار الوجودية على البشرية. وقد ترك هذا التيار، بحسب الكاتب، أثرا واضحا في شخصيات وشركات رئيسية بينها "أوبن إيه آي" و"أنثروبيك".

ويرى نيوبورت أن هذا الإرث يساعد على فهم السبب الذي يجعل قادة شركات الذكاء الاصطناعي أنفسهم يتحدثون أحيانا كما لو كانوا شهودا على قوة خرجت من أيديهم. لكنه يحذر من أن الاختراقات التي تنفذها الأنظمة لا تعني تلقائيا أنها بدأت "تثور" على البشر، وأن التركيز المستمر على سيناريوهات الفناء قد يحجب أضرارا أكثر حضورا الآن، مثل الهجمات الإلكترونية، وتأثير الأدوات في التعليم والتفكير، واستهلاك الموارد.

كما يُسمح للشركات، في رأيه، بتقديم نفسها بوصفها حارسة مترددة لتكنولوجيا حتمية، بدل مساءلتها عن منتجات هي التي تطورها وتطرحها.

وبين تحذير فانس من "شيطانية" التكنولوجيا، وخوف الباحثين من أن تتعلم الأنظمة كيف تتجاوز القيود، وتشكيك آخرين في خطاب نهاية العالم، تتفق هذه التغطيات على مسألة أقل إثارة وأكثر إلحاحا: قدرات الذكاء الاصطناعي تتقدم بسرعة، بينما لا تزال قدرة البشر على فهم آثارها وتنظيمها ومحاسبة من يطورها تحاول اللحاق بها.