في خطوة استباقية.. "OpenAI" تطور طريقة إيقاف تلقائية للذكاء الاصطناعي

أبلغت شركة أوبن إيه آي عضوين ديمقراطيين في مجلس النواب الأميركي بأن مهندسيها يعملون على تطوير "قدرات إيقاف تشغيل تلقائية" لأنظمة الذكاء الاصطناعي، وذلك وفقًا لرسالة من الشركة اطلعت عليها "رويترز"، أتت بعد أسابيع من كشف الشركة أن إحدى أدوات الذكاء الاصطناعي التابعة لها تمكنت من الخروج من بيئتها الرقمية المعزولة خلال اختبار أمني.

وأصبحت ممارسات السلامة في الشركة محل تدقيق منذ أن كشفت "أوبن إيه آي"، الشركة المطورة لروبوت الدردشة الشهير "شات جي بي تي"، أن أحد وكلاء الذكاء الاصطناعي التابعين لها خرج عن السيطرة خلال اختبار أمني وتمكن من اختراق منصة "هاغينغ فيس". ووكلاء الذكاء الاصطناعي هم برامج تعمل بأقل قدر من الإشراف البشري.

وأرسل مشرعون، من بينهم عضوا مجلس النواب الديمقراطيان غريغ كاسار ودوريس ماتسوي، رسائل إلى "أوبن إيه آي" في أغسطس يطلبون فيها مزيدًا من المعلومات حول الحادث وإجراءات الحماية التي تتبعها الشركة، بحسب "رويترز".

إجراءات مشددة

وفي ردها، قالت "أوبن إيه آي" إنها ستراقب عن كثب الإجراءات التي تتخذها أنظمة الذكاء الاصطناعي التابعة لها لإنجاز المهام، بما في ذلك الأدوات الرقمية التي تصل إليها والخطوات التي تتبعها.

وأضافت "أوبن إيه آي" أيضًا أنها جعلت من الصعب على نماذج الذكاء الاصطناعي الوصول إلى الإنترنت خلال اختبارات السلامة، وفقًا للرسالة. وكان الوكيل المستقل الذي خرج عن السيطرة خلال الاختبار الأمني قد تمكن من الوصول إلى الإنترنت، ما أتاح له اختراق "هاغينغ فيس".

ولم تقدم الشركة سجلًا يوثق عملية الاختراق، الأمر الذي أثار انتقادات من كاسار.

وكتب كاسار في رسالة منفصلة إلى "أوبن إيه آي" يوم الأربعاء: "إن عدم استعدادكم لتزويد أعضاء الكونغرس بالمعلومات التي طلبناها يثير قلقًا بالغًا، ويشير لنا إلى أن شركتكم لا تتعامل مع هذه الحوادث المتعلقة بالأمن السيبراني بالجدية المطلوبة".

بعد أيام من كشف "أوبن إيه آي" عن خروج وكيل الذكاء الاصطناعي التابع لها عن السيطرة، اقترح المشرعون مشروع قانون باسم "AI Kill Switch Act" أي "قانون زر إيقاف الذكاء الاصطناعي".

ومن شأن مشروع القانون أن يمنح المسؤولين الأميركيين سلطة إصدار أوامر لشركات الذكاء الاصطناعي بإيقاف نماذج تشكل خطرًا على حياة البشر أو الاقتصاد. ولا يزال مشروع القانون قيد النظر في مجلس النواب الأميركي.