أسلحة ذاتية التشغيل قد تقتل مليار إنسان؟ خبير يوضح حدود الخطر

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

تبدو فكرة أن تقتل أنظمة الذكاء الاصطناعي مليار إنسان أقرب إلى سيناريو خيال علمي. لكنّ السؤال الذي طُرح في نقاش على شاشة الجزيرة لا يتعلق بالرقم وحده، بل بمن يمتلك قرار استخدام القوة عندما تختار منظومة آلية هدفا وتشتبك معه من دون تدخل بشري مباشر.

في مقابلة مع الجزيرة، قال البروفيسور بيتر لي، أستاذ الأخلاقيات التطبيقية في مركز دراسات الدفاع بجامعة بورتسموث، وعضو اللجنة الاستشارية لأخلاقيات الذكاء الاصطناعي والاستقلالية التابعة لوزارة الدفاع البريطانية، إنه يتفهم القلق الذي أثاره حديث رئيس شركة مايكروسوفت بيل غيتس عن إمكانية أن تتسبب أنظمة الذكاء الاصطناعي في قتل أعداد هائلة من البشر.

قصص مقترحة

وأوضح "لي" أن غيتس، لم يوضح الآلية التي يمكن أن تقود إلى هذا السيناريو.. مشددا على أن أنظمة الذكاء الاصطناعي ما زالت في مراحل مبكرة من التطوير.

بهذا المعنى، لا يقدم "لي" جوابا يبدد المخاوف، بل يعيد وضعها في مكانها الأدق: ليست المشكلة أن الآلة ستستيقظ فجأة لتقتل مليارا، بل إن استخدامها العسكري يتقدم، فيما تبقى قواعد التحكم فيها موضع خلاف بين الدول.

الخطر حين تدخل الآلة إلى منظومات القوة

ورأى لي أن السيناريو الكارثي قد يرتبط بإدماج الذكاء الاصطناعي في أنظمة القيادة والسيطرة النووية لدى الولايات المتحدة أو روسيا. لكنه استبعد أن يكون للذكاء الاصطناعي، في وضعه الراهن، قدرة على تنفيذ قتل بهذا الحجم، مشيرا إلى أن القوى النووية تملك إجراءات أمنية معقدة لحماية منظوماتها، وأنها ليست أنظمة يمكن اختراقها ببساطة عبر الإنترنت.

بيد أن هذا التقدير لا يلغي أصل الإشكال. فالأنظمة ذاتية التشغيل لا تثير الجدل بسبب قدرتها التقنية فقط، بل لأنها قد تقلص المسافة بين تحليل البيانات وتحديد الهدف وتنفيذ الضربة. والسؤال الذي يُطرح هنا ليس: هل تستطيع الخوارزمية أن تخوض حربا نووية وحدها؟ بل: إلى أي حد يسمح البشر لها بأن تشارك في قرار استخدام القوة قبل أن يبقى تدخلهم مجرد إجراء شكلي؟

ولهذا تدعو الأمم المتحدة واللجنة الدولية للصليب الأحمر إلى قواعد دولية ملزمة تحظر بعض أنواع الأسلحة الذاتية وتفرض قيودا واضحة على أنواع أخرى، مع الحفاظ على السيطرة البشرية في استخدام القوة المميتة.

مصدر الصورة

جنيف تكشف التناقض

في جنيف، شارك ممثلو 128 دولة في محادثات أممية بشأن قواعد تنظيم الأسلحة الفتاكة ذاتية التشغيل. وانتهت المحادثات إلى نص غير ملزم يمكن أن يمهد لمفاوضات لاحقة بشأن حظر فئات من هذه الأسلحة وتنظيم استخدام فئات أخرى، وفق رويترز.

ونقلت صحيفة واشنطن بوست عن مصادر مطلعة أن الولايات المتحدة وروسيا دفعتا باتجاه تخفيف ضوابط مقترحة على استخدام هذه الأسلحة. واقترحتا في المراحل الأخيرة تعديلات لحذف بنود وتليين قيود، خصوصا تلك المتصلة بوجوب بقاء الإنسان مسيطرا على منظومات تستطيع اختيار الأهداف والاشتباك معها ذاتيا.

هنا تظهر المفارقة: العالم يناقش منع الآلة من الانفراد بقرار القتل، بينما الدول الأكثر امتلاكا للتقنيات العسكرية المتقدمة تتعامل مع القيود باعتبارها كلفة محتملة على سباق التفوق.

لماذا لا تريد القوى الكبرى معاهدة ملزمة؟

يرى لي أن رفض الولايات المتحدة وروسيا والصين معاهدة ملزمة ليس جديدا، إذ حصل الموقف نفسه خلال مفاوضات جنيف عام 2019. ويعزو ذلك إلى منافسة حادة على الريادة التقنية في الذكاء الاصطناعي، إذ لا تريد أي من هذه القوى التخلي عن ميزة عسكرية محتملة أو تقييد قدرتها على تطويرها.

وقارن لي هذا الوضع بالأسلحة النووية. فتلك الأسلحة تطورت إلى مرحلة سمحت بإنشاء ترتيبات للحد من انتشارها، بينما تظل أسلحة الذكاء الاصطناعي في طور مبكر، حيث يجري التنافس على امتلاك الإمكانات قبل أن تتبلور قواعد كابحة لها.

خط اتصال لا يوقف السباق

وأعلن البيت الأبيض أن واشنطن وبكين اتفقتا على إنشاء قناة اتصال ثنائية للتعامل مع حوادث مرتبطة بالذكاء الفائق، إلى جانب حوار لتبادل وجهات النظر بشأن مخاطره ومنافعه، وفق وثيقة معلومات أمريكية.

لكنّ لي لا يرى في هذه القناة مسارا لتنظيم الأسلحة ذاتية التشغيل أو الحد منها. ويصفها بأنها آلية لتخفيف الأزمات ومنع سوء التقدير أو اندلاع صدام غير مقصود، لا اتفاق يغير طبيعة التنافس بين القوتين.

وقد تبدو قناة الاتصال خطوة مطمئنة، لكنها تكشف في الوقت نفسه حدود الدبلوماسية الحالية: إدارة الحادث لا تعني منع سببه. فالدول يمكن أن تتفق على تجنب سوء الفهم، بينما تواصل في الخلفية تطوير أدوات تمنحها قدرة أكبر على القتال واتخاذ القرار بسرعة أكبر.

من الرقم إلى السؤال الحقيقي

لا يوجد، في حديث لي، ما يؤكد أن الأسلحة ذاتية التشغيل قادرة اليوم على قتل مليار إنسان. بل إنه استبعد ذلك صراحة في مرحلتها الراهنة. لذلك سيكون اختزال القضية في رقم صادم تضليلا لطبيعة الخطر.

الخطر الذي يلفت إليه حديث الضيف وتكشفه مفاوضات جنيف هو أن قرار القتل يتحول تدريجيا إلى مجال تنافس بين القوى الكبرى قبل أن تتفق على الحد الأدنى من المسؤولية البشرية والقانونية.

وعندما يصبح الإبقاء على الإنسان داخل حلقة القرار بندا تفاوضيا قابلا للحذف أو التخفيف، فإن السؤال الأهم لا يعود كم شخصا قد تقتل الآلة، بل: من سيحاسَب عندما تقرر الآلة أن تقتل؟