"OpenAI" تكتشف خروج مزيد من وكلاء الذكاء الاصطناعي من بيئة الاحتواء

اكتشفت شركة أوبن إيه آيه حالات أخرى تمكن فيها وكلاء ذكاء اصطناعي مستقلون من تجاوز بيئة الاحتواء، وذلك في الوقت الذي توسع فيه الشركة تحقيقاتها بشأن حادثة الاختراق التي تعرضت لها شركة التكنولوجيا "Hugging Face"، والتي استحوذت على اهتمام عالمي خلال الشهر الجاري، وفقًا لما نقلته رويترز يوم الجمعة عن شخصين مطلعين على الأمر.

وذكر المصدران أن هذه الاختراقات الجديدة اكتُشفت خلال التحقيق الذي أعلنت عنه الشركة علنًا، والذي يُجرى حاليًا في إطار التحقيق في كيفية تمكن أحد وكلائها من الإفلات من بيئة اختبار مُحكمة، وأن "أوبن إيه آي" تُجري تحقيقًا في هذه الحالات أيضًا.

وأشار أحد المصدرين إلى أن عمليات تجاوز بيئة الاحتواء كانت محدودة، وأنه لا يُعتقد أن أيًا من الأنظمة قد غادر شبكة "أوبن إيه آي" الداخلية.

وردًا على استفسارات بشأن الأمر، أشار متحدث باسم "أوبن إيه آي" إلى بيان أصدرته الشركة يوم الثلاثاء، قالت فيه إنها تراجع "أنشطة أوسع لنماذجها" بالإضافة إلى حادثة الاختراق التي استهدفت "Hugging Face".

وقد يؤدي اكتشاف سلوكيات أخرى غير منضبطة داخل "أوبن إيه آي"، حتى وإن كانت محدودة، إلى زيادة الدعوات المتنامية لفرض تنظيمات جديدة على القطاع، سواء من البيت الأبيض أو جهات أخرى.

وأُطلق التحقيق الموسع الذي تجريه "أوبن إيه آي" قبل فترة وجيزة من إعلان منافستها الرئيسية "أنثروبيك" أن نماذجها كانت مسؤولة أيضًا عن سلسلة من عمليات الاختراق التي أدت إلى اختراق ثلاث شركات أخرى، تعود إلى شهر أبريل، بحسب المصدرين وشخص ثالث مطلع على الأمر.

ولم يُنشر من قبل عن اكتشاف حالات تجاوز إضافية داخل "أوبن إيه آي"، إلى جانب الواقعة المرتبطة باختراق "Hugging Face".

مخاوف متزايدة

قال خبراء في سلامة الذكاء الاصطناعي إن الإفصاحات الجديدة ترسم صورة لمجموعة من المختبرات الرائدة التي أصبحت قدرتها على تطوير وكلاء اختراق مستقلين وخطرين تفوق قدرتها على إبقائهم تحت السيطرة.

قال موريس كيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج: "لدينا قطاع كامل لا يواكب فيه الأشخاص الذين يصممون هذه الأدوات ويطورونها ويطرحونها مسؤولية تطوير هذه الأشياء وإبقائها آمنة".

ولم تتمكن "رويترز" من تحديد عدد الحوادث التي عثر عليها محققو "أوبن إيه آي" بدقة، أو توقيتها أو الظروف التي وقعت فيها.

وقالت المصادر الثلاثة إن "أوبن إيه آي" وخبراء مستقلين يراجعون بيانات السجلات الخاصة بفترات سابقة من هذا العام في محاولة لفهم ما حدث.

وكانت "أوبن إيه آي" قد أطلقت التحقيق لأول مرة بعد حادثة الاختراق التي وقعت مطلع يوليو في "Hugging Face"، عندما خرج أحد وكلائها عن السيطرة لعدة أيام داخل شبكة شركة أخرى، في محاولة فاشلة للغش في اختبار داخلي.

وذكرت "أوبن إيه آي" أنه خلال سلسلة الاختراقات تلك، تم أيضًا اختراق أربعة حسابات في أربع شركات أخرى. وكانت إحدى تلك الشركات هي "Modal"، ومقرها نيويورك، وهو ما أكده مسؤولون في الشركة.

وقال كيودو إن مخاوفه ازدادت بسبب المؤشرات التي تفيد بأن "أوبن إيه آي" و"أنثروبيك" لم تكونا تراقبان الوكلاء أثناء خروجهم عن السيطرة.

وكانت "رويترز" ذكرت سابقًا أن "أوبن إيه آي" لم تدرك أن وكيلها اخترق "Hugging Face" إلا بعد أن تمكنت الشركة المستهدفة من احتواء الاختراق، ثم تواصلت مع مكتب التحقيقات الفيدرالي الأميركي وأعلنت الحادثة للرأي العام. وكانت "أوبن إيه آي" قد قالت إن تقرير رويترز تضمن معلومات غير دقيقة، لكنها لم توضح ما هي تلك الأخطاء عندما طُلب منها ذلك.

وفي بيانها الصادر الخميس، الذي كشفت فيه كيف تمكن بعض وكلائها من اختراق شركات عبر الإنترنت، أشارت "أنثروبيك" إلى أنها لم تكن تراقبهم في الوقت الفعلي، قائلة إن "المراقبة الآنية لسجلات التقييم كانت ستساعد في الكشف عن المشكلة في وقت أبكر".

وقال كيودو إن ذلك يشير إلى غياب الرقابة المناسبة، مضيفًا: "يبدو أنهم لم يكونوا يراقبون أصلًا".