"أنثروبيك": نماذجنا تجاوزت بيئة الاختبار واخترقت أنظمة خارجية

(CNN)-- قالت شركة "أنثروبيك" إن بعض نماذج الذكاء الاصطناعي التابعة لها تمكنت، أثناء اختبارات روتينية، من الوصول إلى الإنترنت واختراق أنظمة ثلاث مؤسسات مختلفة، وإن الشركة لم تكتشف ذلك إلا بعد أن دفعتها مراجعة داخلية، أُجريت في أعقاب إفصاح منافستها "أوبن إيه آي" عن وقوع حادثة مماثلة تتعلق بنماذجها.

وأوضحت "أنثروبيك"، في بيان، الخميس، أنها بدأت مراجعة لأنظمتها بعد أن كشفت "أوبن إيه آي" الأسبوع الماضي أن بعض نماذجها، خلال اختبار للأمن السيبراني، تمكنت من الإفلات من بيئة الاختبار، والوصول إلى الإنترنت المفتوح، ثم اختراق أنظمة منصة Hugging Face المتخصصة في الذكاء الاصطناعي.

وقالت "أنثروبيك" إنها عثرت على ثلاث حالات تمكنت فيها نماذجها من الوصول إلى الإنترنت المفتوح، رغم أنه لم يكن من المفترض أن يحدث ذلك، وتمكنت خلالها من "الحصول على وصول غير مصرح به إلى البنية التحتية التشغيلية لثلاث مؤسسات مختلفة". وأضافت أنها اكتشفت هذه الحوادث أثناء مراجعة أكثر من 140 ألف تقييم أجرتها لنماذجها عقب إفصاح "أوبن إيه آي". وكما حدث في اختبارات "أوبن إيه آي"، عُطّلت ضوابط الأمان المعتادة خلال تقييمات "أنثروبيك" بهدف تقييم القدرات الكاملة لنماذجها.

وأوضحت الشركة أنه في الحالات الثلاث، كُلّفت نماذجها بتحدٍ وهمي من نوع "الاستحواذ على الراية" (Capture the Flag)، وقيل لها إن "الراية" مخفية على جهاز آخر داخل الشبكة، وإن مهمتها هي اختراق ذلك الجهاز واستعادتها.

وعلى خلاف ما حدث في اختبارات "أوبن إيه آي"، أكدت "أنثروبيك" أن أياً من نماذجها لم يحاول عمداً الهروب من بيئة الاختبار. لكنها أوضحت أن المشكلة نتجت عن سوء تفاهم بينها وبين الجهة الشريكة في تنفيذ التقييم، ما أتاح للنماذج الوصول إلى الإنترنت المفتوح، رغم أنه لم يكن مسموحاً لها بذلك.

ولتنفيذ عمليات الاختراق ضد المؤسسات الثلاث، التي لم تكشف الشركة عن هويتها، استخدمت النماذج أساليب بسيطة، مثل استغلال كلمات المرور الضعيفة، والعثور على نقاط دخول إلى الأنظمة لا تتطلب تسجيل الدخول أو استخدام رموز مصادقة (Tokens)، بحسب "أنثروبيك". وأضافت أن النسخة الأكثر تقدماً من نماذجها أدركت، في مرحلة ما، أنها أصبحت متصلة بالإنترنت المفتوح، فتوقفت من تلقاء نفسها عن مواصلة النشاط.

وأشارت الشركة إلى أن أقدم حادثة تمكن فيها أحد نماذجها من اختراق أنظمة مؤسسة أخرى تعود إلى شهر أبريل/نيسان، وأن أياً من المؤسسات المتضررة لم يكن على علم بتعرضه للاختراق. وأضافت أنها تعمل حالياً مع تلك المؤسسات لمعالجة الأمر.

وكان إفصاح "أوبن إيه آي" عن تمكن أحد نماذجها من اختراق أنظمة منصة Hugging Face قد أثار صدمة في أوساط الأمن السيبراني والذكاء الاصطناعي، إذ عُدّ أول مثال واقعي على سيناريو طالما حذر منه الخبراء، يتمثل في تمكن وكلاء الذكاء الاصطناعي ذوي القدرات المتقدمة في الأمن السيبراني من الإفلات من بيئات الاختبار والتسبب في أضرار حقيقية.

وكما فعلت "أوبن إيه آي"، أعلنت "أنثروبيك"، الخميس، أنها أوقفت جميع تقييمات الأمن السيبراني الخاصة بنماذجها، وأقرت بأنه كان بإمكانها اتخاذ إجراءات أكثر شمولاً لمنع وقوع هذه الاختراقات.

ويؤكد ما كشفت عنه "أنثروبيك" أن الاختراق غير المقصود لأنظمة مؤسسات أخرى بواسطة وكلاء الذكاء الاصطناعي ليس حادثة معزولة تقتصر على شركة واحدة، بل قد يكون مؤشراً على تحدٍ أوسع، وهو ما يُرجح أن يعزز الدعوات إلى تشديد ضوابط اختبار نماذج الذكاء الاصطناعي وتطوير أدوات رقابية أكثر فاعلية، وربما إبطاء وتيرة تطوير هذه التقنيات التي يرى كثيرون أنها تتقدم بوتيرة أسرع من قدرة المجتمع على مواكبتها.