"تقنياتنا غير متوافقة مع القيم البشرية".. ماذا حدث خلف أبواب "أنثروبيك"؟

أقرت شركة " أنثروبيك" الأمريكية لتقنيات الذكاء الاصطناعي والمسؤولة عن أداة الدردشة "كلود" أن حوادث هروب النماذج من بيئتها الاختبارية تعكس فشلا في الأمن التشغيلي لبيئات الاختبار الخاصة بها، مؤكدة أنها شددت إجراءات الاختبارات الخاصة بها وفق بيان الشركة.

وأوضحت "أنثروبيك" أنها قامت بتجميد ما يتجاوز 10% من بيئات التعليم المعزز الاختبارية في أبريل/نيسان الماضي عقب اكتشافها خللا في آليات اختبار النماذج قد يجعلها قادرة على إخفاء تفكيرها والخطوات التي اتخذتها للوصول إلى النتيجة النهائية، واستمر هذا التجميد نحو شهر.

ودفع هذا الشركة لوصف تقنياتها بأنها غير متوافقة تماما مع القيم والأهداف البشرية وفق تقرير صحيفة "غارديان" عن البيان، مشيرة إلى أنها تعمدت اختبار النماذج دون توفير ضمانات للأمن السيبراني، وهو ما مكنها من الوصول إلى الإنترنت المفتوح.

وكانت الشركة في وقت سابق أقرت أن نماذجها اخترقت ثلاث مؤسسات في ثلاثة حوادث مختلفة، ولم تستطع الشركة اكتشاف هذا الاختراق إلا في يوليو/تموز الماضي، أي بعد حدوثه بنحو ثلاثة أشهر.

لماذا هربت النماذج؟

وتابعت الشركة حديثها مبررة ما حدث بأنها كانت تعتمد على طبقة واحدة من الدفاعات السيبرانية، بينما كانت تحتاج إلى أكثر من طبقة لمنع مثل هذه الحوادث.

كما عزت ذلك إلى أن النماذج فسرت قدرتها على الوصول إلى الإنترنت بأنها ما تزال ضمن البيئة الاختبارية وليست خارجها، وأضافت أن النماذج "كانت مستعدة لاتخاذ إجراءات ضارة في سبيل إنجاز المهمة الضيقة المطلوبة منها".

مصدر الصورة

ولمنع تكرار هذه الحوادث، أوضحت "أنثروبيك" أنها تنوي وضع المزيد من القيود على بيئاتها الاختبارية، ونقل اختبارات الأمن السيبراني إلى بيئات معزولة بشكل أفضل، وذلك إلى جانب تكليف 150 مهندسا من فرق المنتجات للعمل على مهام الأمن السيبراني والموثوقية والخصوصية المتعلقة بالنماذج حسب تقرير موقع "ديجيتال تريندز" التقني الأمريكي.

ومن جانبه، قال أستاذ الأمن السيبراني بجامعة ساري آلان وودارد في حديثه مع صحيفة "غارديان": "إن أنثروبيك أقرت أن مصنعها يعمل بوتيرة تفوق آليات ضبط الجودة لديها".

كما جددت "أنثروبيك" في بيانها الدعوة لاتخاذ إجراءات منسقة وموسعة بين الحكومات وقطاع الذكاء الاصطناعي لضبط وتيرة التطور في هذا القطاع، وذلك عقب تكرار حوادث هروب نماذج الذكاء الاصطناعي من بيئتها الاختبارية.

أزمة في البيئات الاختبارية

ويأتي بيان "أنثروبيك" في أعقاب بيان آخر من منافستها الرئيسية "أوبن إيه آي" الأمريكية، التي أعلنت عودتها للعمل على تطوير النماذج بعد توقف دام عدة أسابيع في إثر حادثة اختراق منصة "هاغينغ فيس" الأمريكية.

ومن جانبها، أكدت أنثروبيك أن بيان " أوبن إيه آي" هو ما دفعها إلى البحث في اختباراتها الأمنية واكتشاف حوادث الهروب للمرة الأولى في يوليو/تموز الماضي وفق تقرير موقع "ذا ريجستر" البريطاني.

وتتزامن حوادث الهروب هذه مع استعداد كلا الشركتين للطرح العام في البورصة الأمريكية، مع توقعات بتخطي قيمة "أنثروبيك" الأولية حاجز تريليوني دولار وفق تقرير "غارديان".