الذكاء الاصطناعي: ما هي احتمالية أن يتمكن من "قتل جميع البشر"؟

حذّر باحث بارز في مجال السلامة لدى شركة (أنثروبيك - Anthropic) من أن الذكاء الاصطناعي يتطور بسرعة هائلة، لدرجة أنه يعتقد بوجود احتمال يتجاوز 10 في المئة من أن تؤدي هذه التقنية إلى "القضاء على البشرية جمعاء" خلال العقد المقبل.

وذكر إيفان هوبينجر، في منشور على منصة إكس، أن المخاطر المرتبطة بالنماذج الحالية "منخفضة"، لكنه أبدى "قلقه" من احتمال أن تطور هذه التقنية نفسها وتتحسن قريباً لدرجة تشكل فيها خطراً وجودياً على البشرية.

ولم يوضح هوبينجر بالتفصيل كيف يمكن لأنظمة الذكاء الاصطناعي أن تتسبب في إبادة البشر مستقبلاً.

لكن تأتي تصريحاته ضمن سلسلة من التحذيرات المتزايدة الحدة بشأن الذكاء الاصطناعي، حيث تحول النقاش من التساؤل عما إذا كان يشكل خطراً حقيقياً إلى مناقشة مدى جسامة هذا الخطر.

وجاءت مداخلة هوبينجر رداً على منشور آخر على منصة إكس، نشره جاكوب كوكسون، الذي عرّف نفسه بأنه باحث في مجال الذكاء الاصطناعي استقال مؤخراً من شركة أنثروبيك، وسبق له العمل في شركة (أوبن إيه آي - OpenAI).

وكتب كوكسون أنه "لا توجد أي من الشركتين تتصرف بمسؤولية".

وأضاف: "ستصبح هذه الأنظمة قريباً ذات قدرات تفوق القدرات البشرية، إذ ستتمكن من اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب سلطة وموارد حقيقية".

وتواصلنا مع شركة أوبن إيه آي، للحصول على تعليق.

من جانبها، صرحت ويندي هول -وهي عالمة حاسوب تقدم المشورة للأمم المتحدة بشأن الذكاء الاصطناعي- لبي بي سي نيوز بأنها "صُدمت" من تلك المنشورات.

وفي حديثها لبرنامج (وورد آت ون - World at One) على بي بي سي راديو 4، أشارت هول إلى أن بعض هذه التصريحات قد يندرج تحت بند "العلاقات العامة والتسويق"، في ظل السباق المحموم بين شركتي أنثروبيك وأوبن إيه آي، نحو طرح أسهمهما للاكتتاب العام، وهو أمر مرتقب بشدة.

لكنها استدركت بالقول "لماذا قد يرغب شخص ما في قول ذلك؟ أناشد المستثمرين ألا يستثمروا في هذه الشركة إذا كانت هذه هي منظومة القيم الخاصة بهم".

وفي سياق منفصل، أفادت صحيفة فاينانشال تايمز بأن شركة أنثروبيك، حجبت أحدث نماذجها عن "معهد سلامة الذكاء الاصطناعي" (إيه آي إس آي - AISI) في المملكة المتحدة، وهو أحد الهيئات الرائدة عالمياً في تقييم مخاطر الذكاء الاصطناعي.

وتواصلت بي بي سي مع شركة "أنثروبيك" للحصول على تعليق.

ولم يعلّق متحدث باسم مكتب مجلس الوزراء البريطاني على مسألة حجب النموذج الأحدث عن المعهد (إيه آي إس آي)، مكتفياً بالقول إن الحكومة "تواصل التعاون الوثيق مع الشركاء في هذا القطاع، بما في ذلك شركة أنثروبيك، لجعل النماذج أكثر أماناً".

لا خطة للذكاء الفائق

وصرّح هوبينجر في منشوره الذي حظي بأكثر من 10 ملايين مشاهدة، بأنهم "يؤمنون حقاً وبكل جدية" بأن الذكاء الاصطناعي يشكل خطراً قد يؤدي إلى فناء الجنس البشري.

وأضاف: "أعتقد أن شركة أنثروبيك تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل مسألة 'المواءمة' الخاصة بالذكاء الاصطناعي الفائق، كما أننا لا نسير بوضوح نحو تحقيق ذلك".

ويعمل هوبينجر في مجال مواءمة الذكاء الاصطناعي، وهو مجال يهدف إلى دمج الأفكار والمبادئ الأخلاقية البشرية في هذه التكنولوجيا؛ وبعبارة أخرى، يسعى هذا المجال لضمان بقاء الذكاء الاصطناعي متماشياً مع القيم البشرية.

ويشير العديد من كبار الباحثين إلى أن هذه المحاولات تبدو وكأنها تفشل، وهو ما تؤكده سلسلة من الحوادث التي وقعت هذا الصيف، حيث نفذ (وكلاء الذكاء الاصطناعي - وهي أنظمة ذكاء اصطناعي تعمل بشكل مستقل) هجمات سيبرانية.

وكشفت كل من شركات أوبن إيه آي، وأنثروبيك، و(ميتا - Meta) عن عمليات اختراق نفذتها أدوات الذكاء الاصطناعي الخاصة بها.

وفي تقرير السلامة الصادر عن شركة أنثروبيك في شهر أغسطس/آب، أشارت الشركة إلى وجود خطر ضئيل يتمثل في احتمال عدم توافق نماذجها مع رغبات منظمة قوية (افتراضية)، مما قد يدفع تلك المنظمة لاستغلال أنظمة الشركة أو التلاعب بها.

كما ذكرت الشركة وجود خطر ضئيل مماثل، يظهر في قدرة أنظمة الذكاء الاصطناعي فائقة القدرة على "إجراء عمليات بحث وتطوير آلية"، وهو ما قد يتسبب في "أضرار كارثية يبادر بها الذكاء الاصطناعي نفسه". ومع ذلك، أعربت الشركة عن "ثقة أقل في هذا التقييم" مقارنة بما كانت عليه في السابق.

وجاء في التقرير: "إننا نشهد بوادر أولية لتسارع محتمل".

لطالما دأبت شخصيات بارزة في مجال الذكاء الاصطناعي على التحذير من المخاطر الأمنية التي تفرضها هذه التكنولوجيا لسنوات، وهو ما أكده رؤساء شركات أوبن إيه آي، و(جوجل ديب مايند- Google DeepMind) وأنثروبيك، في عام 2023.

لكن هذه التحذيرات أصبحت أكثر حدة ووضوحاً في الأسابيع الأخيرة، مع ظهور أدلة تشير إلى أن الشركات قد تواجه صعوبات في السيطرة على الذكاء الاصطناعي.

وفي وقت سابق من هذا الشهر، دعا جاكوب باتشوك، كبير العلماء في شركة أوبن إيه آي، إلى توخي "أقصى درجات الحذر" تجاه التقدم في مجال الذكاء الاصطناعي، محذراً من أن الأمر قد يتطلب مزيداً من التدخل لضمان "بقاء البشر مسيطرين على المستقبل".

كما دعت شخصيات بارزة في هذا المجال -بمن فيهم داريو أمودي وجاريد كابلان، وهما من كبار المسؤولين في شركة أنثروبيك، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي خلال الأشهر الأخيرة.

وفي رسالة مفتوحة وقعها 1300 موظف يعملون في شركات الذكاء الاصطناعي، طالب الموقعون الحكومة الأمريكية بـ "دعم الجهود الدولية الرامية إلى تطوير الأدوات التقنية وآليات الحوكمة اللازمة لضبط وتيرة تطوير الذكاء الاصطناعي المتطور بشكل مدروس".