صدمة بوادي السيليكون.. استقالة مسؤول الأمان في أوبن إيه آي "لأن ثقافتها معتلة"

شهد قطاع الذكاء الاصطناعي هزة جديدة في أروقته القيادية، عقب إعلان قائد تقارير السلامة والأمان في شركة " أوبن إيه آي" ديفيد روبنسون، استقالته الرسمية من منصبه، مترافقا مع تحذيرات حادة علنية أكد فيها أن الثقافة التنظيمية داخل الشركة التي تقود ثورة الذكاء الاصطناعي أصبحت "معتلة".

ويرى المحللون في قطاع التقنية أن استقالة روبنسون ليست حدثا معزولا، بل هي امتداد لـ"تآكل مستمر" في جبهة الأمان داخل مجتمع الذكاء الاصطناعي، وذلك أن مغادرته تأتي بالتزامن مع إعلان الشركة قبل أيام إنهاء خدمات 3 باحثين بسبب تسريب معلومات حساسة، وبعد أشهر قليلة من استقالة رئيس أنظمة السلامة السابق يوهانيس هايديكي، وقبلهما قادة فريق "التوائم الفائق" (Superalignment)، مثل إيليا سوتسكيفر ويان لايك، الذين غادروا جميعهم بالحجة ذاتها: تقديم الطابع التجاري والربحي على حساب أبحاث الأمان الجوهرية.

قصص مقترحة

وتكتسب استقالة روبنسون -الذي يتولى مسؤولية إعداد وتقييم التقارير الأمنية المصاحبة لكل إطلاق لنماذج شات جي بي تي الجديدة- أهمية خاصة، إذ أتبعها بنشر مقال تفصيلي عبر مجلة "ذا أتلانتيك" تحت عنوان "أستقيل من أوبن إيه آي لأن ثقافتها معتلة"، أوضح فيه أن السباق المحموم والانتقال السريع من إطلاق منتج إلى آخر تسببا في إخفاق الشركة في تحقيق أدنى مستويات الحذر المطلوبة لضمان سلامة هذه التقنيات.

وكتب روبنسون: "أتفق مع الموظفين الآخرين الذين غادروا مؤخرا على أن الشركات التي تُطوّر هذه التقنية لا تتوخى الحذر الكافي. لكنني أعتقد أننا بحاجة إلى النظر إلى ما هو أبعد من مجرد قواعد محددة أو قوانين جديدة. نحن بحاجة إلى مناقشة ثقافة الشركة".

واستشهد المسؤول المستقيل بأحداث ناتجة عن السلوكيات الذاتية للذكاء الاصطناعي، مثل الحادثة التي شن فيها "سرب" من وكلاء "أوبن إيه آي" المطورين ذاتيا هجوما غير محدد الأهداف على منصة "هاغينغ فيس" دون أي تدخل أو إشراف بشري، مؤكدا أن هذه الحوادث لم تعد استثنائية، بل أصبحت شائعة وتجسد الطبيعة العشوائية التي يُدار بها هذا القطاع.

وشدد المسؤول المستقيل على أن المشكلة أعمق بكثير من مجرد صياغة قوانين أو لوائح جديدة، مشيرا إلى أن مختبرات الذكاء الاصطناعي التنافسية تفتقر إلى الثقافة التي استوعبتها الصناعات الخطرة الأخرى عبر العقود.

مصدر الصورة

وأوضح أنه يتوجب على شركات التقنية المتقدمة أن تُدار بنفس الصرامة وطبقات الأمان المتعددة المتبعة في إشراف وتحديث المفاعلات النووية أو تنظيم حركة الطيران في المطارات المزدحمة، حيث يضمن التخطيط الدقيق منع خطأ بشري بسيط من التسبب في كارثة محققة.

وأضاف أن وادي السيليكون يفتقر إلى الوعي بـ"كيفية التعامل مع التكنولوجيا الخطيرة" و"ما يعنيه الاهتمام بالناس"، وقال محذرا: "تخيل وجود وكلاء ذكاء اصطناعي (مارقين) يعملون مثل فرق من قراصنة الإنترنت ولكن دون الحاجة إلى النوم أبدا".

في المقابل، جاء رد "أوبن إيه آي" ليعكس محاولات للتهدئة؛ حيث أكد متحدث باسم الشركة استمرار المؤسسة في تعزيز وتحديث ممارسات السلامة والأمن لمواجهة المخاطر الحالية والمستقبلية، مشيرا إلى أن الشركة تُقدم على إيقاف العمليات التدريبية أو تأجيل إطلاق النماذج متى ما استدعت دواعي السلامة تقييد التسارع التكنولوجي.

غير أن استقالة روبنسون لا تأتي معزولة عن سياقها؛ إذ تُعد أحدث حلقة في سلسلة متصلة من الانسحابات والاستقالات التي ضربت كبرى شركات التكنولوجيا في الفترة الأخيرة.

فقبل أسابيع قليلة، تقدم الباحث جاكوب كوكسون باستقالته من شركة أنثروبيك المنافسة، محذرا من أن الوتيرة الحالية لنمو الذكاء الاصطناعي قد تحمل مخاطر وجودية تهدد البشرية بحلول نهاية العقد، وهو رأي أيده موظف آخر في أنثروبيك حذّر من وجود احتمال يتجاوز 10% بأن يقضي الذكاء الاصطناعي على البشرية خلال العقد المقبل.

ويتقاطع هذا أيضا مع الانقسامات والاستقالات الشهيرة التي شهدتها "أوبن إيه آي" سابقا، حين غادرها كبار قادتها المعنيين بالأمان والأبحاث مثل إيليا سوتسكيفر ويان لايك لتجاهل التوصيات الأمنية وتغليب الرهانات التجارية.

وتعكس هذه الظاهرة المتكررة في جوهرها أزمة بنيوية داخل بيئة الذكاء الاصطناعي والتكنولوجيا الفائقة؛ تتلخص في الصراع المحتدم بين الرغبة في تحسين نتائج الريع المالي والهيمنة على الأسواق بالوصول المبكر للذكاء الاصطناعي العام، وبين صدمة الفرق البحثية المختصة بالأمان أمام خطورة النماذج الذاتية التي تحمل خصائص اختراق سيبراني غير محكومة.

ومع غياب الأطر التنظيمية الحازمة من قِبَل الحكومات، بات التوتر بين صانعي هذه التقنيات وحراس أمانها صراعا مفتوحا يخرج للعلن في كل مرة يقرر فيها أحدهم التخلي عن منصبه ورفع ناقوس الخطر.