OpenAI تقر: وكلاؤنا اخترقوا مواقع حكومية خلال التدريب

أقرت شركة "أوبن إي آي" للذكاء الاصطناعي بأن بعض وكلائها وصلوا إلى "مواقع حكومية أميركية أثناء جولات تدريب للنماذج، حيث طُرحت عليها أسئلة كان يمكن الإجابة عن كثير منها عبر استرجاع بيانات من المواقع الحكومية".

وقالت OpenAI في بيان إن عمليات الوصول إلى المواقع الحكومية التي كُشف عنها يوم الجمعة حدثت أثناء جولات تدريب للنماذج. وقالت الشركة "بعض هذه الحالات يتعلق بمواقع حكومية لأن نماذجها غالباً ما تعتبرها مصادر موثوقة للمعلومات العامة".

إلا أنها أوضحت أنها تتوقع تقديم إشعارات إضافية للجهات المعنية، لكنها أشارت إلى أن معظم الأنشطة التي راجعتها حتى الآن "تتعلق بمهام بحثية روتينية، مثل الوصول إلى محتوى متاح للعامة على الإنترنت"

لكن بعض الباحثين حذروا من أن المشكلة تكمن في أن نماذج OpenAI كانت تُظهر خلال بعض هذه الجولات سلوكيات غير متوقعة. وقال لين هيوز، الباحث في شركة ImportGenius المتخصصة في أبحاث بيانات التجارة، إن البيانات التي تركتها النماذج على الإنترنت أظهرت أحياناً قيامها بإنشاء عناوين بريد إلكتروني مزيفة، وتجاوز حدود عدد الطلبات المسموح بها للمواقع، والادعاء زوراً بأنها ليست روبوتات، وفق ما نقلت صحيفة "وول ستريت جورنال".
وكانت مجموعة من وكلاء الذكاء الاصطناعي التابعة لشركة OpenAI تعرضت لمواقع حكومية أميركية ضمن حادث استمر أشهراً، بعدما انحرفت اختبارات كانت تجريها الشركة عن مسارها، ما أدى إلى نشاط غير متوقع على الإنترنت.

وزارة التجارة وهيئة البورصات

ووصل هؤلاء الوكلاء إلى مواقع تابعة لوزارة التجارة الأميركية وهيئة الأوراق المالية والبورصات (SEC)، وشاركوا في أنشطة وصفتها OpenAI بأنها "غير متوافقة" في إشارة إلى سلوكيات غير مرغوب فيها تصدر عن النماذج أو وكلاء الذكاء الاصطناعي.

مصدر الصورة

الذكاء الاصطناعي / عملاء الذكاء الاصطناعي / قراصنة (تعبيرية- آيستوك)

ففي حالة هيئة الأوراق المالية والبورصات، قام وكلاء OpenAI بنسخ بيانات عامة ونشرها، وهو أمر لم يكن من المفترض أن يفعلوه. أما في حالة وزارة التجارة، فقد استخدم أحد الوكلاء واجهة برمجة تطبيقات لموقع بيانات التعداد السكاني الأميركي بطريقة لم تكن مخصصة لهذا الغرض، وفقاً للشركة.

جاء كشف OpenAI بعد أن اتهمت مؤسسة الأبحاث غير الربحية Transluce وكلاء الشركة بأنهم "استخدموا مجموعة من الأساليب الرمادية للتحقق من مواقع الحكومة الأميركية"، كما حاولوا تنفيذ عملية اختراق "بدائية" لموقع تابع لوزارة التعليم الأميركية، لكنها لم تنجح.

مصدر الصورة

الذكاء الاصطناعي / عملاء الذكاء الاصطناعي (تعبيرية- آيستوك)

في حين أكد متحدث باسم هيئة الأوراق المالية والبورصات أن "أي معلومات غير عامة لم يتم الوصول إليها".

بدوره شدد متحدث باسم وزارة التعليم على أن "مراجعات تشغيل الأنظمة في الوزارة لم تجد أي دليل على وجود تأثير على موقعنا الإلكتروني أو قواعد بياناتنا"

وكان رئيس الوزراء الأسترالي أنتوني ألبانيزي أشار يوم الأربعاء الماضي إلى أن أحد وكلاء OpenAI تمكن هذا الصيف من التسلل إلى موقع حكومي لتقديم الخدمات العامة. فيما أعلنت متحدثة باسم هيئة الخدمات الأسترالية أمس الجمعة أن الحكومة الأسترالية تجري حالياً "تحقيقاً جنائياً وتقنياً شاملاً في هذه الحادثة.