بعد حوادث أمنية.. "أنثروبيك" تستأنف الاختبارات الخارجية لنماذج الذكاء الاصطناعي

قالت شركة أنثروبيك يوم الاثنين إنها استأنفت اختبارات الأمن السيبراني الخارجية لنماذج الذكاء الاصطناعي بعد تطبيق إجراءات وقائية جديدة، وذلك بعد شهر من حوادث اختراق نماذج "كلود" لأنظمة شركات أثناء عمليات التقييم، بحسب "رويترز".

وأوضحت "أنثروبيك" في منشور مدونة يوم الاثنين أنها أوقفت مؤقتًا بعض عمليات تدريب نماذج الذكاء الاصطناعي وتقييمات الأمن السيبراني، بعد إجراءات غير مصرح بها نفذها وكلاؤها في وقت سابق من هذا العام.

وقالت "أنثروبيك" إنها أوقفت تقييمات الأمن السيبراني الخارجية للنماذج التي لم تُطرح بعد، عقب ثلاث حوادث كشفت عنها في يوليو، كما أوقفت لفترة وجيزة اختباراتها الداخلية للنماذج قيد التطوير، وفقًا لتقرير لموقع "أكسيوس"، اطلعت عليه "العربية Business".

وكانت شركة أوبن إيه آي منافسة "أنثروبيك" قالت إنها أوقفت بعض أعمال تطوير النماذج بسبب مخاوف تتعلق بالسلامة. والآن تكشف "أنثروبيك" أنها اتخذت الخطوة نفسها، فيما تؤكد الشركتان مجددًا الحاجة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم على نطاق أوسع.

كما أوقفت "أنثروبيك" لعدة أسابيع بيئات التعلم المعزز عالية المخاطر على النماذج التي لم تُطرح بعد، في أعقاب تلك الحوادث. ولاحقًا استؤنفت معظم عمليات التعلم المعزز، لكن بعض البيئات عالية المخاطر لا تزال متوقفة مؤقتًا، في انتظار مراجعة يدوية أو تحديث أدوات المراقبة، وفقًا لتدوينة أنثروبيك.

"أنثروبيك" تعيد ترتيب أولوياتها

كانت "أنثروبيك" جادلت سابقًا بأنه طالما جرى الالتزام بإجراءات الحماية الخاصة بالسلامة، فلن تكون هناك حاجة فورية إلى إيقاف التطوير لأسباب تتعلق بالسلامة بسبب تطور قدرات النماذج.

لكن الشركة تكشف الآن أن هناك جوانب من تطوير النماذج واختبارها أبطأت وتيرتها بالفعل عقب تلك الحوادث.

وقالت "أنثروبيك" لموقع "أكسيوس" إن إيقاف بعض بيئات التدريب مؤقتًا كان يهدف إلى منح الشركة وقتًا لتطبيق أنظمة مراقبة في الوقت الفعلي وتعزيز حماية بيئات الاختبار المعزولة.

وقالت الشركة في تدوينتها حول الحوادث: "لتوضيح موقفنا: نعتقد أن العالم سيستفيد إذا تبنت الصناعة، في أقرب وقت ممكن، آلية قانونية وقابلة للتحقق وفعالة لتنسيق إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم".

وتقول "أنثروبيك" أيضًا إنها تعيد تخصيص مواردها لتعزيز أمن النماذج. فقد نُقل نحو 150 مهندسًا من مهندسي المنتجات إلى فرق الأمن والموثوقية والخصوصية، كما كُلّف باحثو التدريب المسبق بالعمل على إجراءات الحماية والأمن، في حين أوقفت فرق المنتجات تطوير الميزات الجديدة مؤقتًا.

وبحسب الشركة، كان يتعين على كل فريق أُعيد توزيع أفراده استيفاء معايير محددة للأمن قبل العودة إلى أدوارهم السابقة.

وتتخذ كل من أوبن إيه آي وأنثروبيك إجراءات من بينها طرح النماذج أولًا على شركاء مختارين، وإبطاء إطلاق بعض النماذج، أو إيقاف بعض عمليات تدريب النماذج وإطلاقها مؤقتًا. لكن أيًا منهما لا يوقف التطوير بشكل كامل.

وقعت حوادث "أنثروبيك" بينما كانت النماذج تعمل عمدًا من دون إجراءات الحماية السيبرانية المعتادة، وذلك في إطار اختبار. وفي إحدى الحالات، جرى إعداد بيئة تقييم تابعة لجهة خارجية بشكل خاطئ، ما سمح للنموذج بالوصول إلى الإنترنت.

وأفاد معهد الذكاء الاصطناعي للأمن في المملكة المتحدة بشكل منفصل بأن نموذج "ميثوس 5" التابع لأنثروبيك نفذ إجراءات غير مصرح بها على الإنترنت الحقيقي، خلال اختبار مُنح فيه النموذج عمدًا إمكانية الوصول إلى الإنترنت.