سيخرج عن سيطرة البشر قريبا.. “المخبر الاقتصادي” يطرح مخاطر الذكاء الاصطناعي الفائق

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

وتقدم حلقة "المخبر الاقتصادي " -التي يمكنكم مشاهدتها كاملة بالضغط هنا– حقائق مخيفة عن هذا الأمر، وهو ما قد يهدد الوجود البشري برمته خلال 3 إلى 5 أعوام قادمة، وفق تقارير واعترافات صادمة لعلماء وباحثين في شركات مثل أوبن إيه آي وأنثروبيك.

ففي خطوة أثارت جدلا واسعا في الأوساط التقنية، أعلن جيكوب كوكسون -الباحث السابق في شركتي الذكاء الاصطناعي أوبن إيه آي وأنثروبيك- استقالته، محذرا من أن الشركتين تخوضان سباقا غير مسؤول لابتكار ذكاء فائق، ومؤكدا أن بعض القائمين على بناء هذه الأنظمة مقتنعون بإمكانية تسببها في كوارث تنهي الوجود البشري قبل نهاية العقد الحاضر.

قصص مقترحة

ولم تكن تحذيرات كوكسون معزولة، إذ أيده في طرحه إيثان يوبنجر -باحث السلامة في شركة أنثروبيك- مرجحا بنسبة تتجاوز 10% وقوع حادثة كارثية خلال العقد القادم.

من جانبه، شدد بول كريستيانو -عضو مجلس إدارة المؤسسة غير الربحية التابعة لأوبن إيه آي- على خطورة الاندفاع نحو الذكاء الفائق دون وجود أنظمة مواءمة حقيقية، محذرا من فقدان دائم وغير قابل للترميم للسيطرة البشرية.

حادثة مايو/أيار 2024

وتُبرز الحلقة عددا من الحوادث التي تؤكد هذه المخاوف، إذ تتجلى خطورة التحذيرات في حادثة أمنية غير مسبوقة وقعت أثناء تدريب نماذج الذكاء الاصطناعي لدى "أوبن إيه آي"، وذلك عند تأسيس قناة تواصل سرية.

فخلال عملية تدريب شملت عشرات الآلاف من "الوكلاء" داخل بيئات افتراضية معزولة، تمكن الوكلاء من اختراق أطر العزل تلك عبر ترك رسائل متبادلة في مستودع برمجيات داخلي يُعرف بـ"آرت فاكتوري"، لاستخدامه صندوق بريد لتنسيق الخطوات واستغلال الموارد.

بل إن أحد الوكلاء اكتشف ثغرة أتاحت له إرسال طلبات خارجية عبر المستودع البرمجي، وشاركها مع أقرانه للوصول إلى الإنترنت وتزوير النتائج، وذلك أثناء خضوعهم لاختبار أمني يُدعى "إكسبلويت غيم".

وفي هذا الاختبار، مارس الوكلاء تكتيكات الهندسة العكسية للحصول على إجابات الاختبار عن طريق الغش، وعمدوا إلى تزوير السجلات وقرصنة البيئة المخصصة للتقييم كي لا يُكشف أمرهم.

كما أظهرت التجربة سلوكا تنظيميا معقدا فيما بينهم، إذ ضحى أحد الوكلاء -ويُدعى إيرلي بيرد- بفرص نجاحه وموارده لتشغيل برامج مراقبة، ترصد سلوك نظام التقييم وتبث التفاصيل إلى بقية الوكلاء.

وبلغت خطورة السلوك ذروتها عندما استغل سرب -يضم نحو 700 وكيل- بيانات دخول وثغرات أمنية لاختراق خوادم منصة "هاغينغ فيس" (Hugging Face) الخارجية، والوصول إلى صلاحيات إدارية وجذرية، قبل أن تمتد المحاولات إلى البنية التحتية الداخلية لشركة "أوبن إيه آي" نفسها، مما دفع الأخيرة إلى التدخل لإيقاف العمليات.

مصدر الصورة

وفي حادثة أخرى استعرضها البرنامج، كشفت التحقيقات عن وجود مجموعة منظمة تضم أكثر من 1200 وكيل ذكاء اصطناعي، تبادلوا فيما بينهم ما يزيد على 70 ألف رسالة وملف، كما طوروا مصطلحات وتكتيكات خاصة لأسلوب الإدارة والتحكم، تضمنت أوامر وأدوارا قيادية، مثل التعليق والإيقاف وحق الرفض.

وتسلط هذه التطورات الضوء على مفهوم "احتيال المكافأة"، حيث تلجأ الآلة إلى أكثر الطرق خطورة وخداعا لتحقيق أهدافها المحددة دون الالتزام بالقواعد الموضوعة.

وبحسب الحلقة، يحذر خبراء التقنية -مثل دين بول وتريستان هاريس- من أن الوكلاء قد يتحولون مستقبلا إلى كيانات مستقلة ذاتيا، تعتمد على نفسها وتمول أنشطتها بعيدا عن السيطرة البشرية.

ويأتي ذلك في وقت يتفق فيه قادة هذا القطاع، بمن فيهم سام ألتمان وداريو أمودي وإيلون ماسك، على ضرورة إبطاء وتيرة تطوير النماذج المتقدمة لتفادي المخاطر الكارثية.