بعد شهر من استقالته.. كوكسون يحذر من الذكاء الاصطناعي أمام مجلس مدينة نيويورك

أدلى الباحث السابق في شركة أنثروبيك الأمريكية للذكاء الاصطناعي جيكوب كوكسون بشهادته أمام مجلس مدينة نيويورك في جلسة استماع واسعة حضرتها كبرى شركات الذكاء الاصطناعي وأعضاء مجلس المدينة الـ51، فضلا عن عدد من الباحثين السابقين في عدة شركات، وفق تقرير وكالة "أسوشيتد برس" الإخبارية الأمريكية.

وتضمنت الجلسة حضور العديد من الشخصيات البارزة من شركات الذكاء الاصطناعي مثل أنثروبيك وأوبن إيه آي وميتا وغوغل، فضلا عن الباحث السابق في غوغل ديب مايند أليكس تيرنر والباحث السابق في أوبن إيه آي دانيال كوكوتايلو.

قصص مقترحة

list of 2 items
* list 1 of 2 وهم الصعود وفخ الذكاء الاصطناعي.. ماذا يخفي مؤشر الأسهم الأمريكية؟
* list 2 of 2 اعتقال أمريكي بتهمة تهريب شرائح ذكاء اصطناعي إلى الصين بقيمة 300 مليون دولار end of list

كما طلبت رئيسة مجلس بلدية نيويورك جولي مينين من ممثلي شركات الذكاء الاصطناعي شرح المخاطر التي تشكلها التقنية أمام المجلس، ووضع نسب واضحة لاحتمالية خروج التقنية عن السيطرة، فضلا عن تقديم آرائهم في الحلول التشريعية المحتملة.

مخاوف الباحثين السابقين

واستغل كوكسون المنصة ليجدد مخاوفه المتعلقة بسرعة تطوير نماذج الذكاء الاصطناعي، مشيرا إلى أن الشركات تتعامل بعقلية "تحرك بسرعة وأصلح لاحقا"، واصفا هذه العقلية بأنها تصلح لتطبيق مشاركة صور وليس لتقنية ثورية.

ورجح كوكسون أمام قاعة غصت بالحضور أن البشرية قد تفقد السيطرة على تقنيات الذكاء الاصطناعي إذا ما استمرت في مسار التطوير الحالي، وهو ما ينتهي بانقراض البشر.

مصدر الصورة رئيسة بلدية نيويورك جولي مينين وصفت إجابات الشركات بأنها مستخفة (الفرنسية)

واتفق معه أيضا كوكوتايلو، الذي دعا قطاع الذكاء الاصطناعي إلى زيادة الشفافية وإبطاء تطوير النماذج الرائدة مرددا التحذيرات الصارمة لخبراء التقنية خلال السنوات الماضية، حسب ما جاء في تقرير شبكة "سي إن بي سي" الإخبارية الأمريكية.

ومن جانبه، حذر تيرنر من خطورة الذكاء الاصطناعي غير المنضبط، واصفا إياه بـ "العدو من الداخل"، وذلك في إجابة عن سؤال وجهته مينين حول التوازن في تطوير النماذج والسباق التكنولوجي مع الصين.

وأضاف: "الصين ليست عدونا المحتمل الوحيد"، مشيرا إلى أن هناك احتمالا كبيرا بأننا نتسابق لبناء وتنمية عدونا الخاص.

إجابات مستخفة من الشركات

وأدلى فريق من ممثلي شركات الذكاء الاصطناعي بشهادتهم عبر الاتصال المرئي في جلسة الاستماع التي انعقدت في مانهاتن، إذ أرسلت أنثروبيك رئيس الفريق الأحمر للنماذج الرائدة لديها لوغان غراهام، بينما مثلت شركة أوبن إيه آي رئيسة تطوير السياسات والعمليات في الشركة مورغان دوير، كما حضرت مديرة سياسات الذكاء الاصطناعي والتكنولوجيا الناشئة في غوغل أليس فريند ومدير سياسات الذكاء الاصطناعي للتشريعات في ميتا شين كاهيل.

وأوضحت رئيسة بلدية نيويورك أثناء كلمتها الافتتاحية أن شركة ميتا هي الشركة الوحيدة التي أكدت نيتها حضور الجلسة، إلا أن بقية الشركات لم توافق على الحضور إلا بعد تهديد المجلس باستدعائها قانونيا.

وأضافت أن الشركة "سبيس إكس" التابعة لأغنى رجل في العالم إيلون ماسك هي الوحيدة التي لم تمتثل للاستدعاء القانوني أمام المجلس، حتى بعد أن أصدرت المدينة مذكرة لاستدعاء ماسك، مؤكدة أن المجلس يعتزم متابعة هذه المسألة أمام المحكمة.

مصدر الصورة ممثلو شركات ميتا وأنثروبيك وأوبن إيه آي وغوغل حضروا الجلسة عبر الاتصال المرئي وسط غياب سبيس إكس (الفرنسية)

ورغم حضور الشركات الأربع، بدت مينين محبطة في بعض الأحيان وفق تقرير "سي إن بي سي" من إجابات الشركات وردودها التي لم تكن مباشرة.

وشملت الأسئلة التي وجهت إلى الشركات سؤالا مباشرا حول المسؤولية القانونية عن تصرفات الذكاء الاصطناعي وتسببه في أضرار مالية جسيمة أو حتى الموت، وهو الأمر الذي راوغت فيه الشركات ولم تجب عنه بشكل مباشر.

وبشكل عام، أكد مسؤولو الشركات أن نماذجهم تحسن الحياة اليومية للناس بشكل كبير، مشددين على اهتمام الشركات بأطر سلامة التكنولوجيا ومراعاتها في كافة الخطوات.

ولكن، عندما طلبت مينين من ممثلي الشركات تحديد حجم المخاطر التي يشكلها الذكاء الاصطناعي في أسوأ الأحوال، جاءت الإجابة غير مباشرة من ممثلة أوبن إيه آي دوير، التي قالت إنها لا تعرف ذلك.

وأضافت أنها لا تعتقد أن هناك فرقا بين احتمال وقوع كارثة بنسبة 1% أو 20%، إذ إن كل هذه المستويات غير مقبولة على الإطلاق ولا ينبغي تدريب نماذج لا يمكن إثبات القدرة على إبقائها تحت السيطرة.

نهج سلبي من حكومة ترمب

وأشار تقرير أسوشيتد برس إلى أن مدينة نيويورك تدرس فرض تنظيمات عدة للذكاء الاصطناعي، تشمل مقترحات تلزم الشركات بالإفصاح عن المزيد من المعلومات بشأن أدوات الذكاء الاصطناعي، فضلا عن موافقة جهات خارجية على استخدام هذه الأنظمة داخل المدينة.

كما تتيح التنظيمات الجديدة التي يدرسها مجلس المدينة للمبلغين عن المخالفات في الشركات الحصول على جزء من الغرامات المفروضة عليها.

وتأتي هذه التنظيمات الداخلية في مدينة نيويورك وسط غياب الدور الفعال لإدارة الرئيس الأمريكي دونالد ترمب، الذي رفض التدخل لتنظيم تطوير النماذج واكتفى بتوقيع اتفاق أواخر الشهر الماضي يسمح للشركات بالرقابة الذاتية، حسب تقرير "سي إن بي سي" الإخبارية الأمريكية.

واتفقت فريند من شركة غوغل مع توجهات ترمب بشكل عام، إذ دعت إلى تأسيس إطار اتحادي شامل لمعالجة مخاطر الذكاء الاصطناعي المتزايدة، مشيرة إلى مخاوف تتعلق بالأمن القومي.

ولكن، يظل السؤال المحوري معلقا دون إجابة، هل تستطيع الشركات تنظيم تطوير أنظمتها داخليا، أم تنساق خلف السباق المحموم لتطوير أقوى النماذج؟