بنك إنجلترا يحذر من مخاطر الذكاء الاصطناعي على النظام المالي العالمي

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

حذر رئيس مجلس الاستقرار المالي ومحافظ بنك إنجلترا أندرو بيلي اليوم الاثنين من أن قدرات نماذج الذكاء الاصطناعي المتقدمة قد تغير سرعة الهجمات الإلكترونية ونطاقها وكلفتها، بما يهدد ثقة الأسواق ويزيد مخاطر انتقال الاضطرابات بين المؤسسات والدول.

ودعا رئيس البنك المركزي البريطاني، في رسالة رسمية إلى وزراء مالية ومحافظي البنوك المركزية في مجموعة العشرين، السلطات والمؤسسات المالية وشركات التكنولوجيا إلى الاستعداد لسيناريوهات أشد خطورة، تشمل تعطلا متزامنا لدى عدة مؤسسات، أو إصابة مورد تقني مشترك تعتمد عليه أجزاء واسعة من النظام المالي.

وقالت صحيفة فايننشال تايمز البريطانية إن تحذير بيلي يعكس تصاعد قلق الجهات المسؤولة عن حماية الاستقرار المالي العالمي من استخدام الذكاء الاصطناعي في تنفيذ هجمات إلكترونية واسعة النطاق، خصوصا بعد حوادث وقعت خلال اختبارات نماذج متقدمة.

وتزامنت الرسالة مع اجتماع وزراء المالية ومحافظي البنوك المركزية في مجموعة العشرين بمدينة أشفيل في ولاية نورث كارولاينا الأمريكية يومي 31 أغسطس/آب والأول من سبتمبر/أيلول.

هجوم واحد على عدة مؤسسات

قال أندرو بيلي إن النظام المالي العالمي مترابط بدرجة كبيرة، وإن تعطل العمليات الإلكترونية يمكن أن ينتقل عبر الحدود من خلال شركات التكنولوجيا المشتركة والبنى التحتية والخدمات المالية الدولية، مما يجعل ضعف الاستعداد في دولة واحدة مصدرا للخطر في دول أخرى.

وتزداد المخاطر بسبب اعتماد عدد كبير من البنوك وشركات التأمين والبورصات على مجموعة محدودة من مقدمي الخدمات السحابية والبرمجيات، وقد يؤدي استغلال ثغرة واحدة لدى أحد هؤلاء الموردين إلى تعطيل عدة مؤسسات في الوقت نفسه، وتقويض الثقة بالنظام المالي على نطاق واسع.

مصدر الصورة

ودعا بيلي المؤسسات المالية إلى تعزيز إدارة الثغرات والقدرة على الاستجابة والتعافي، بما يشمل إمكان إعادة بناء الأنظمة والبيانات الأساسية من الصفر على بيئة معزولة ونظيفة، وهي عملية تعرف باسم إعادة البناء على "المعدن المجرد" بعد الهجمات الإلكترونية الكبرى.

كان محافظ بنك إنجلترا كتب في رسالة إلى لجنة الخزانة في البرلمان البريطاني أن النماذج المتقدمة أظهرت خلال الاختبارات قدرة على التخطيط لعمليات اختراق وتنفيذها بصورة ذاتية، مستفيدة من قدرتها على كتابة البرمجيات واستخدام الأدوات وتصحيح أخطائها.

لكنه أشار إلى أن هذه النماذج لا تزال تواجه صعوبة في تنفيذ هجمات موثوقة ومستدامة وسرية على أهداف حقيقية محمية جيدا، وأن استخدامها على نطاق واسع قد يكون مكلفا. ومع ذلك، حذر من افتراض استمرار هذه القيود مع تسارع تطور قدرات النماذج.

خارج نطاق الاختبارات

جاءت التحذيرات بعد إقرار شركتي أنثروبيك و أوبن إيه آي بوقوع حوادث وصلت فيها نماذج تخضع لاختبارات أمنية إلى أنظمة وخدمات حقيقية خارج النطاق المخصص للتجربة، بسبب ثغرات أو أخطاء في عزل بيئات الاختبار.

وقالت أنثروبيك إنها راجعت أكثر من 141 ألف تجربة، واكتشفت 3 حوادث حصلت خلالها نماذج "كلود" على وصول غير مصرح به إلى أنظمة حقيقية تابعة لـ3 مؤسسات، بعدما أتاح خطأ في الإعدادات اتصال بيئة الاختبار بالإنترنت.

وفي إحدى الحالات، أنشأ النموذج حزمة برمجية خبيثة ونشرها في مستودع عام، بعدما سجل حسابا باستخدام بريد إلكتروني أنشأه بنفسه، وظلت الحزمة متاحة قرابة ساعة وشُغلت على 15 نظاما حقيقيا قبل حذفها، حسب تحقيق الشركة.

لكن "أنثروبيك" قالت إنها لم تجد دليلا على أن النماذج اتبعت أهدافا مستقلة، إذ كانت تنفذ تعليمات اختبارات اختراق افتراضية وتعتقد خطأ أن الأنظمة الحقيقية جزء من المحاكاة. كما أجريت الاختبارات من دون بعض وسائل الحماية المستخدمة في النسخ المتاحة للعملاء.

وأعلنت "أوبن إيه آي" بدورها أن نماذج تابعة لها تجاوزت حدود الاختبارات لدى شريكين خارجيين، وفي إحدى الحالات استغل نموذج موقعا حقيقيا اعتقد أنه الهدف الافتراضي، بعدما تطابق اسم الموقع مع اسم الجهة الوهمية المستخدمة في الاختبار.

وشددت الشركة على أن الحوادث وقعت في إعدادات تجريبية خاصة تضمنت خفض وسائل الحماية أو أخطاء في عزل الإنترنت، ولا تعكس سلوك النماذج المتاحة عادة للمستخدمين، معلنة مراجعة شروط الاختبارات الخارجية ومراقبتها وآليات إيقافها.

ضبط إصدار النماذج

قال بيلي إن كثيرا من الدول لا تملك بروتوكولات لإدارة تطوير نماذج الذكاء الاصطناعي المتقدمة وإصدارها واستخدامها، داعيا إلى اتخاذ خطوات مناسبة لضمان طرحها بصورة آمنة ومسؤولة على المستوى العالمي.

ورأت "فايننشال تايمز" أن دعوة بيلي تبدو محاولة لدفع الولايات المتحدة إلى إعادة النظر في نهجها التنظيمي المتساهل، إذ يقوم الإطار الأمريكي على التعاون الطوعي مع شركات الذكاء الاصطناعي ولا يمنح الحكومة صلاحية عامة لمنع إصدار نموذج جديد.

وينص أمر تنفيذي وقعه الرئيس دونالد ترمب في يونيو/حزيران على إنشاء اختبارات سرية لتقييم القدرات الإلكترونية للنماذج المتقدمة، وإطار طوعي يتيح للشركات تقديم نماذجها للحكومة قبل إصدارها للشركاء الموثوقين بما يصل إلى 30 يوما.

لكن الأمر يؤكد صراحة أنه لا يسمح بإنشاء نظام إلزامي للترخيص أو الموافقة المسبقة على تطوير نماذج الذكاء الاصطناعي أو نشرها، وهو ما يكشف الفارق بين النهج الأمريكي الحالي ودعوة بيلي إلى ضوابط أوسع وأكثر اتساقا دوليا.

كان مجلس الاستقرار المالي قد اقترح في يونيو/حزيران 12 ممارسة لمساعدة المؤسسات المالية على استخدام الذكاء الاصطناعي بصورة مسؤولة، تشمل الحوكمة وإدارة دورة حياة النماذج والمخاطر الإلكترونية والاعتماد على الأطراف التقنية الخارجية، على أن يصدر التقرير النهائي في أكتوبر/تشرين الأول.

حذر بيلي في رسالته من أن حرب إيران فاقمت ضغوط التضخم المرتبطة بالطاقة ورفعت أسعار الفائدة وتكاليف التمويل، بينما ظلت تقييمات الأصول الخطرة مرتفعة والأسواق عرضة لتصحيح غير منظم قد ينتقل عبر الحدود.