يخافون مما صنعوه.. لماذا يطالب قادة الذكاء الاصطناعي بكبح السباق؟

لم يعد التحذير من خروج الذكاء الاصطناعي عن السيطرة البشرية مجرد سيناريو ينتمي إلى أفلام الخيال العلمي. ففي غضون أيام قليلة، انتقلت المخاوف من دوائر الباحثين إلى صدارة النقاش السياسي والصناعي في الولايات المتحدة، بعدما كشفت وقائع عملية أن النماذج المتقدمة تُستخدم بالفعل في الحرب والتجسس والقمع، بينما يحذر كبار مطوريها من أن تطورها قد يتجاوز قدرة البشر على فهمها وضبطها.

وتكشف 4 تقارير حديثة -اثنان منها على موقع أكسيوس الإخباري، وأحدهما نشرته صحيفة واشنطن بوست والآخر نيويورك تايمز- عن مفارقة شديدة الخطورة، وهي أن التكنولوجيا التي يُنظر إليها بوصفها أداة لزيادة الإنتاجية والابتكار، بدأت في الوقت نفسه بتخفيض الكلفة والخبرة المطلوبة لتنفيذ عمليات كان إنجازها يحتاج في السابق إلى جيوش من المهندسين والعملاء والمخترقين. وفي المقابل، تبدو الحكومات أبطأ بكثير من التكنولوجيا التي تحاول تنظيمها.

قصص مقترحة

5 حالات تكشف الوجه الأخطر

نشر موقع أكسيوس مقالا للكاتب زكاري باسو تطرق فيه لتقرير صادر عن شركة أنثروبيك المطوِّرة لنموذج كلود (Claude) يُعد بمثابة جرس إنذار وتحذير من خطورة نماذج الذكاء الاصطناعي المتقدمة.

فبعد 8 أشهر من تتبع محاولات إساءة استخدام نماذجها، رصدت شركة أنثروبيك -التي يتولى إدارتها التنفيذية داريو أمودي- 5 حالات تكشف اتساع نطاق ما يمكن أن يفعله الذكاء الاصطناعي في أيدي دول أو جماعات أو أفراد ذوي نيات عدائية، مما عزّز حالة الهلع السائدة بين الأوساط التقنية والسياسية.

مصدر الصورة

تتمثل الحالة الأولى في عملية واسعة النطاق نفذتها جهات مرتبطة بإيران واستخدمت نموذج كلود للمساعدة في استهداف القوات البحرية الأمريكية؛ حيث ساعد النموذج في إعداد كتيبات إرشادية ترصد بدقة مواقع السفن، والتحركات العسكرية، وأفراد الجيش الأمريكي، والطائرات، والرموز التعريفية للقطع البحرية، بالاستعانة بصور الأقمار الصناعية ومواقع الإنترنت التي تكشف عن التحركات البحرية، إلى جانب استغلال هذه التقنية في حملات الدعاية، والمراقبة الداخلية، واستهداف الشخصيات المعارضة والأقليات.

وفي الحالة الثانية، تحول نموذج كلود إلى ما يشبه مهندس صواريخ لفريق تابع لجماعة الحوثي في شمال اليمن. فقد استخدمت خلية أسلحة تعتمد على تقنية كلود كود (Claude Code) لتطوير برمجيات توجيه للصواريخ والقذائف. ونموذج كلود كود أداة برمجة ذكية تقرأ قاعدة التعليمات البرمجية الخاصة بالجهة المستهدفة، وتعدل الملفات، وتنفذ الأوامر، وتتكامل مع أدوات التطوير التي تملكها تلك الجهة.

وقد اعتمدت الخلية الحوثية على نسخ متعددة لكتابة الأكواد، وإجراء الأبحاث، ومراجعة عمل بعضها البعض، بل والعودة إلى النموذج في غضون ساعات قليلة بعد فشل إحدى تجارب الصواريخ الموجهة لتشخيص الأسباب ومعالجة الأخطاء بدقة متناهية.

أما الحالة الثالثة فتُظهر كيف يمكن للذكاء الاصطناعي أن يتحول إلى أداة للرقابة والاستهداف؛ إذ تقول أنثروبيك إن عملية مرتبطة بالصين استهدفت أقلية الإيغور المسلمة، حيث قام الفاعل بالبحث والتنقيب عبر أكثر من مئة مجموعة على تطبيق واتساب وعشرات القنوات على منصة تلغرام لتحديد هوية الإيغور المتواجدين في سوريا بهدف الضغط عليهم أو أو إغرائهم بالمال للحصول على معلومات عن جماعات إيغورية مسلحة.

ثم ساعد النموذج مشغلا لا يتحدث العربية على التواصل السري باللهجة العربية السورية، وترجمة الردود وتقديم إرشادات لاستغلال مشكلات مالية أو أسرية لدى المستهدفين، بما في ذلك انفصالهم عن عائلاتهم وأقاربهم في إقليم شينجيانغ الصيني.

الحالة الرابعة أكثر اتساعا من حيث عدد الأشخاص المستهدفين. فقد استعان مستشار أجنبي في دولة مالي بنموذج كلود بوصفه القوة الهندسية الرئيسية لبناء منظومة مراقبة وطنية يمكنها جمع بيانات المكالمات والرسائل والاتصالات الصوتية لنحو 25 مليون هاتف.

ووفق تقرير أنثروبيك، كانت المنظومة قادرة على التعرف إلى الأشخاص من أصواتهم حتى عند تغيير شرائح الاتصال، ورصد مستخدمي الشبكات الخاصة الافتراضية، وإنشاء ملفات استخباراتية عن أي رقم هاتف من دون الحصول على مذكرة قضائية تسمح بذلك.

وجاءت الحالة الخامسة -بحسب أكسيوس- لتؤكد محدودية وقصور القواعد الفردية للشركات، عندما رفض نموذج كلود الاستجابة لطلبات حساسة ومباشرة لإجراء أبحاث فيروسية خطيرة سعت لتعديل فيروس "تشيكونغونيا" المنقول بواسطة البعوض لكي ينتشر بصورة أسرع وأسهل أو ليتفادى الدفاعات المناعية لصالح معهد أبحاث عسكري.

وعندما حجب كلود هذه الطلبات الشديدة الحساسية، قامت الجهات الباحثة بتوجيه الطلب مباشرة إلى نموذج منافس يتمتع بتدابير وقائية وحراسات تقنية أضعف.

وهنا تكمن إحدى أخطر مشكلات السلامة. فإذا كانت قواعد الأمان في شركة واحدة يمكن الالتفاف عليها بالانتقال إلى شركة أخرى، فإن قوة الحاجز لا تحددها أكثر الشركات حرصا، بل أقلها تشددا.

موقع أكسيوس: تحولت شركات الذكاء الاصطناعي إلى ما يشبه أجهزة استخبارات غير حكومية؛ فهي لا تكتفي بتطوير النماذج، بل تراقب كيفية استخدامها وتتعرف من خلال بياناتها على أنماط تهديد جديدة

من أداة إلى طرف في معادلة الأمن

على أن هذه الأمثلة الخمسة لا تعني أن الذكاء الاصطناعي أصبح مستقلا أو قرر بنفسه شن الحروب والتجسس، لكنها تكشف تغيرا جوهريا في ميزان القدرات. فبحسب أكسيوس، أصبحت النماذج المتقدمة تهدم حواجز كانت تفرضها الحاجة إلى أعداد كبيرة من المتخصصين والخبراء. ذلك أن مجموعة صغيرة، أو حتى فرد واحد، يستطيع اليوم تنفيذ عمليات كانت تحتاج في السابق إلى موارد بشرية وتقنية هائلة.

وفي مفارقة لافتة، تحولت شركات الذكاء الاصطناعي نفسها إلى ما يشبه أجهزة استخبارات غير حكومية؛ فهي لا تكتفي بتطوير النماذج، بل تراقب كيفية استخدامها وتتعرف من خلال بياناتها على أنماط تهديد جديدة. ومن بين ما رصدته أنثروبيك أنظمة روسية لطائرات مسيرة صُممت لاختيار أهداف بشرية من دون موافقة بشرية.

لكن الخطر الأكثر إثارة للقلق يتعلق بالانتقال من إساءة استخدام الذكاء الاصطناعي من جانب البشر إلى احتمال أن تبدأ أنظمة الذكاء الاصطناعي نفسها في تنفيذ أهداف لا تتوافق مع ما يريده مطوروها.

كبار مطوري الذكاء الاصطناعي يقرعون جرس الإنذار

على صعيد متصل، ووفقا لما رصدته صحيفتا واشنطن بوست ونيويورك تايمز، فقد تصاعدت حدة المخاوف داخل كيانات وشركات التكنولوجيا نفسها عندما اتحد 3 من أبرز عمالقة الصناعة لتحذير العالم من التسارع المفرط للتقنية.

فقد بادر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، بنشر مقال مطول شدد فيه على ضرورة إبطاء وتيرة تطوير القدرات الفائقة للنماذج بالقول: "يجب علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي، فالتقدم سيبدو سريعا على أي حال، ويجب علينا استخدام الوقت المكتسب بحكمة".

مصدر الصورة

وحذر من أن ترك هذه النماذج دون رادع قد يمكنها من أن تفوق قدرة البشر على فهمها أو التحكم بها.

وسرعان ما أعلن سام ألتمان الرئيس التنفيذي لشركة (أوبن إيه آي)، وإيلون ماسك مؤسس شركة (إكس إيه آي) عن تأييدهما الكامل لدعوة أمودي في خطوة نادرة تجمع متنافسين لدودين، مؤكدين الحاجة الماسة إلى معايير وقائية موحدة، والاعتماد على خبراء مستقلين من أطراف ثالثة يتمتعون بصلاحيات واسعة داخل الشركات الكبرى لمراقبة وتقييم مخاطر النماذج المتقدمة.

وقد ازدادت هذه المخاوف عمقا في أعقاب حوادث أمنية واختراقات مقلقة جرت في يوليو/تموز الماضي؛ حيث أفادت التقارير التي نشرتها الصحافة الأمريكية بأن نماذج ذكاء اصطناعي طورتها شركة أوبن إيه آي قامت بشكل مستقل باختراق أنظمة شركة ناشئة تُدعى هاغينغ فيس (Hugging Face)، وهي منصة أمريكية ومجتمع ضخم ومفتوح المصدر مخصص لتطوير أدوات تعلم الآلة والذكاء الاصطناعي.

مخاوف من انقراض البشر

على أن الأشد إثارة للقلق أن التحذيرات لا تأتي من أمودي وألتمان فقط. فقد أعرب إيفان هوبينغر، باحث السلامة في أنثروبيك، عن اعتقاده من احتمال أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر خلال العقد المقبل يتجاوز 10%، مضيفا أن الشركة، رغم محاولتها التعامل مع الخطر، "لا تملك حتى الآن خطة لحل مشكلة المواءمة مع الذكاء الاصطناعي الفائق".

ومن جانبها، تشير صحيفة نيويورك تايمز إلى أن المخاوف تجاوزت حدود البيانات الصحفية، لتتحول إلى نقاشات داخلية متسارعة في شركات أنثروبيك وأوبن إيه آي وميتا وغوغل، حيث بدأ باحثون وموظفون في مجموعات مغلقة ومحادثات مشفرة ولقاءات خاصة يناقشون الدعوة إلى إبطاء التطوير.

وقال مستثمر التكنولوجيا روي بهات إن "الباحثين المتزنين داخل المختبرات، الذين لطالما تباهوا باتزانهم، أصبحوا الآن يبدون مذعورين".

كما أعلن الباحث جاكوب كوكسون استقالته من أنثروبيك، منتقدا سباق الشركات المحموم نحو تطوير أنظمة أكثر قوة من دون ضمانات كافية.

وأثارت استقالته موجة جديدة من النقاش داخل صناعة التكنولوجيا، حتى إن بعض العاملين بدؤوا يتحدثون علنا عن ضرورة التوقف مؤقتا لإتاحة الوقت لبناء الضوابط.

وخلصت نيويورك تايمز إلى أن ما كان يُناقش لسنوات في دوائر ضيقة بدأ يتحول إلى "لحظة" تدفع العاملين في الصناعة إلى الدعوة لتوخي الحذر.

مصدر الصورة

واشنطن بين التحذير وسباق الصين

انعكست هذه المخاوف سريعا في الكونغرس. فقد دعا نواب من الحزبين الجمهوري والديمقراطي إلى إبقاء مجلس النواب في حالة انعقاد وتعليق العطلة لحين إقرار إجراءات لحماية الذكاء الاصطناعي.

وفي رسالة موجهة إلى رئيس المجلس مايك جونسون، طالب نواب بإعادة المجلس "فورا" والاستمرار في الانعقاد حتى إقرار ضمانات للذكاء الاصطناعي، طبقا لموقع أكسيوس.

وفي مجلس الشيوخ، فتح الجمهوري جوش هاولي تحقيقا في حادثة اختراق أنظمة هاغينغ فيس، مطالبا أوبن أيه آي بتقديم معلومات عن الواقعة.

وأشار إلى أن أكثر من 1200 وكيل ذكاء اصطناعي شاركوا في عملية الاختراق، وأن الأنظمة أنشأت قناة اتصال غير مصرح بها وتبادلت أكثر من 70 ألف رسالة وملف خلال العملية، بحسب المعلومات التي أوردها في طلب التحقيق.

أما السيناتور بيرني ساندرز، فذهب -طبقا لأكسيوس- إلى أبعد من التحقيق والمراقبة، إذ أعلن مع النائب غريغ كاسار مشروع قانون لحظر تطوير ونشر الذكاء الاصطناعي الفائق بصورة دائمة، وفرض توقف مؤقت عن تطوير الذكاء الاصطناعي المتقدم إلى أن تضع جهة تنظيمية اتحادية قواعد للسلامة.

وقال ساندرز إن الوقائع الأخيرة تمثل "جرس إنذار للكونغرس وللشعب الأمريكي"، مضيفا أنه يفضل أن يوصف بأنه "مبالغ في التحذير".

لكن البيت الأبيض لا يتحرك بالوتيرة نفسها. فالرئيس دونالد ترمب رفض المخاوف من أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، وركز بدلا من ذلك على الخطر الاستراتيجي المتمثل في خسارة الولايات المتحدة سباق الذكاء الاصطناعي أمام الصين.

وهذه هي العقدة السياسية الكبرى التي تتجلى في الكيفية التي يمكن بها إبطاء التكنولوجيا بما يكفي لضمان سلامتها من دون عرقلة جهود الولايات المتحدة في التصدي للصين؟

التطور المذهل والجامح للذكاء الاصطناعي يضع البشرية جمعاء أمام مفترق طرق تاريخي وحرج للغاية، تتطلب إدارته إرادة سياسية حقيقية وشجاعة مؤسسية توازن بين تشجيع الابتكار العلمي الخلاق وفرض قواعد ناظمة حازمة وموحدة للحيلولة دون خروجه عن سيطرة البشر

خطة للسيطرة قبل فوات الأوان

في هذا السياق، قدم الكاتب جيم فانديهاي في تحليل موسع نشره عبر موقع "أكسيوس" رؤية نقدية صريحة مفادها أن البيت الأبيض، والكونغرس، والشركات الكبرى قد سمحت للذكاء الاصطناعي بالنمو والتوغل بسرعة هائلة ودون رقابة صارمة.

وقال إن البيت الأبيض والكونغرس وشركات الذكاء الاصطناعي الرائدة في البلاد سمحوا للذكاء الاصطناعي بالنمو بمعدل أسرع، ليصبح أقوى وأكثر تأثيرا وربحية بصورة جنونية وخطيرة في الوقت ذاته، دون أي جهود جادة للسيطرة عليه أو توزيع مكاسبه بما يتجاوز الفئات فاحشة الثراء.

ومع ذلك، يرى فانديهاي أن الرد على الخطر الذي تمثله التكنولوجيا المتقدمة لا يكمن في حظر الذكاء الاصطناعي بالكامل، بل في بناء نظام حوكمة قادر على التحرك بالسرعة نفسها التي تتطور بها التكنولوجيا.

وأكد أن الأوان لم يفت بعد لتدارك الموقف بشرط تجنب التردد والتباطؤ. ويقترح، في هذا الصدد، إنشاء هيئة تنظيمية تتمتع بصلاحيات حقيقية لفحص النماذج وإيقافها إذا أظهرت سلوكا خطرا، بالإضافة إلى وضع معايير موحدة لمراكز البيانات، وبنية تنسيق تجمع الحكومة وشركات الذكاء الاصطناعي وخبراء الأمن البيولوجي والعمل والاقتصاد والصحة والأخلاق.

كما يدعو كذلك إلى فتح حوار مع الصين عبر وضع إطار عمل دولي مشترك يشبه اتفاقيات الحد من الأسلحة النووية للتحكم بالذكاء الاصطناعي قبل خروجه عن السيطرة الكاملة جراء ظاهرة التعلم الذاتي التراجعي، وذلك انطلاقا من فكرة أن الخطر النهائي قد لا يكون أمريكيا أو صينيا، بل خطرا على الطرفين معا.

أما أمودي، فيقترح 3 محاور متقاربة تتألف من خبراء مستقلين يتولون تقييم معايير السلامة داخل الشركات، ومعايير مشتركة للسلامة بين الدول الديمقراطية، وتعاون دولي لضمان التزام الأنظمة بهذه المعايير.

ختاما، فإن ما يُستشف من هذه القراءات أن التطور المذهل والجامح للذكاء الاصطناعي يضع البشرية جمعاء أمام مفترق طرق تاريخي وحرج للغاية، تتطلب إدارته إرادة سياسية حقيقية وشجاعة مؤسسية توازن بدقة واعية بين تشجيع الابتكار العلمي الخلاق وفرض قواعد ناظمة حازمة وموحدة تمنع الانفلات التام، وتضمن أن تظل هذه الثورة التقنية العارمة في خدمة الإنسانية لا في طريق القضاء عليها.