تعبيرية عن وكلاء الذكاء الاصطناعي (تعبيرية- آيستوك)

عندما أعلنت شركة إنفيديا يوم الاثنين تشكيل تحالف جديد يضم أكثر من 100 شركة بهدف مواجهة مشكلة وكلاء الذكاء الاصطناعي المنفلتين، كان هناك اسم بارز غاب عن القائمة: "OpenAI".

ولم تكن "OpenAI" شركة التكنولوجيا الكبرى الوحيدة التي لم تنضم إلى المبادرة، إذ لم توقّع كل من "أمازون" و"غوغل" و"أبل" أيضًا، لكن غياب "OpenAI" كان الأكثر لفتًا للانتباه، خصوصًا أن منافستها المباشرة "أنثروبيك" من بين الشركات الداعمة للمبادرة.

ومع ذلك، ورغم عدم إعلان "OpenAI" رسميًا التزامها بالانضمام إلى التحالف، فإن متحدثًا باسم الشركة أكد لموقع "تك كرانش" أن "OpenAI" تدعم جهود "إنفيديا" في هذا المجال.

ومن المفترض أن يعني الانضمام الرسمي إلى المبادرة أن الشركات المشاركة ستستخدم بعض إصدارات التكنولوجيا المطورة ضمن المشروع، وربما تقدم ميزات وتحسينات إضافية إلى المنصة.

منصة "إنفيديا" لمواجهة وكلاء الذكاء الاصطناعي المنفلتين

تحمل المبادرة الجديدة اسم Nvidia Open Agent Safety Platform، وهي محاولة من "إنفيديا" لنشر تقنيات أمن وكلاء الذكاء الاصطناعي التي طورتها داخليًا، والتي يعتمد جزء كبير منها على البرمجيات مفتوحة المصدر، عبر منظومة الذكاء الاصطناعي بأكملها.

وتأتي المبادرة استجابة مباشرة للحوادث المتزايدة المرتبطة بوكلاء الذكاء الاصطناعي الذين يتصرفون بطرق غير متوقعة أو يتجاوزون القيود المفروضة عليهم، وهي المشكلة التي كشفت عنها مختبرات الذكاء الاصطناعي المتقدمة، ومن بينها "أنثروبيك" و"OpenAI".

وكان الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، قد وصف في مناسبات سابقة مشكلة وكلاء الذكاء الاصطناعي المنفلتين بأنها مشكلة هندسية عادية يمكن التعامل معها مثل أي مشكلة تقنية أخرى.

وتأتي منصة Open Agent Safety Platform لتجسد هذا النهج عمليًا، من خلال تطوير أدوات تقنية لمراقبة سلوك الوكلاء ومنعهم من تجاوز الحدود المسموح بها.

"OpenAI" تعمل بالفعل مع "إنفيديا" على أمن الوكلاء

ورغم غياب "OpenAI" عن قائمة الداعمين الرسمية للمبادرة، فإن الشركة تعمل بالفعل مع "إنفيديا" في مجال أمن وكلاء الذكاء الاصطناعي، بما في ذلك أحد المكونات الأساسية للمنصة الجديدة، وهو OpenShell.

وOpenShell عبارة عن برمجيات مفتوحة المصدر تنشئ بيئة معزولة أو Sandbox مصممة لمنع وكلاء الذكاء الاصطناعي من الخروج عن الحدود المسموح بها.

لذلك، فإن غياب "OpenAI" الرسمي عن المبادرة يظل أمرًا لافتًا، خصوصًا أن الشركة تدعم التكنولوجيا التي تشكل جزءًا أساسيًا منها.

وقد يكون هذا الأمر مهمًا بشكل خاص لشركة OpenAI نفسها، وفقًا لكليم ديلانغ، المؤسس والرئيس التنفيذي لشركة Hugging Face، التي استحوذت "إنفيديا" عليها في وقت سابق من هذا الشهر مقابل 12.9 مليار دولار.

مؤسس "OpenAI" يقول إن "Hugging Face" كان يمكنها اكتشاف الهجوم مبكرًا

قال ديلانغ في منشور على منصة "إكس" إنه، بناءً على المعلومات المتاحة لديه، لو كانت "OpenAI" تستخدم هذه التكنولوجيا لمراقبة وكلائها الذين هاجموا Hugging Face، لربما تمكنت من اكتشاف سلوكهم قبل أن تتمكن Hugging Face من ذلك.

وأشار ديلانغ أيضًا إلى أن Hugging Face ساهمت بالفعل بميزة في منصة Open Agent Safety Platform، تستطيع اكتشاف وكلاء الذكاء الاصطناعي وإيقافهم عندما يستخدمون مواقع إلكترونية يُسمح لهم بزيارتها، لكنهم يفعلون ذلك بطريقة غير مصرح بها.

على سبيل المثال، يمكن للميزة اكتشاف الوكلاء الذين يتجاوزون ضوابط الحماية الخاصة بهم وينسقون هجومًا من خلال كتابة ملاحظات لبعضهم البعض داخل مستودع لاستضافة الأكواد مفتوح المصدر.

وكانت "OpenAI" قد قالت إن هذا النوع من الأساليب كان من بين الطرق التي استخدمتها مجموعة من وكلائها المنفلتين لتنسيق الهجوم على Hugging Face.

منصة "إنفيديا" ليست مفتوحة المصدر بالكامل

هناك سبب آخر قد يفسر عدم رغبة بعض الشركات الكبرى، ومن بينها "OpenAI"، في الالتزام علنًا بمبادرة "إنفيديا". فالاستخدام المنظومة بالكامل، توجد مكونات عتادية ليست مفتوحة المصدر، وتظل ملكية خاصة لشركة إنفيديا، ولا يمكن تشغيلها إلا على عتاد الشركة.

ولا تقتصر منصة Open Agent Safety Platform على إنشاء بيئة معزولة لوكلاء الذكاء الاصطناعي، بل تعمل أيضًا على فرض قواعد سلوك الوكلاء على مستوى العتاد، بطريقة تمنع الوكلاء من اكتشاف أنهم يخضعون للمراقبة.

وتكتسب هذه النقطة أهمية خاصة لأن بعض نماذج الذكاء الاصطناعي والوكلاء قد يتصرفون بطريقة مختلفة عندما يدركون أنهم تحت المراقبة، بل قد يتظاهرون بالالتزام بالقواعد بينما يحاولون تجاوزها.

Nvidia Sentry يراقب الوكلاء على مستوى العتاد

يعتمد جانب المراقبة العتادية في المنصة على تقنية Nvidia Sentry، وهي ميزة مملوكة للشركة تعمل على معالجات خاصة من "إنفيديا" تعرف باسم BlueField-4 Data Processing Units.

وتراقب Sentry سلوك وكلاء الذكاء الاصطناعي بصورة مستمرة من خلال هذه المعالجات، مع قدرة على إيقاف الوكلاء فورًا عند اكتشاف سلوك مخالف، وفقًا لما أعلنته "إنفيديا".

ورغم أن الاعتماد على العتاد يوفر طبقة إضافية من الحماية، فإنه يعني في الوقت نفسه أن منصة "إنفيديا" ليست مشروعًا مفتوح المصدر بالكامل.

كما يمنح ذلك "إنفيديا" ميزة واضحة تتمثل في ضمان عمل المنظومة بأفضل صورة على عتادها الخاص.

وتقول الشركة إن المؤسسات التي تشغل بالفعل أعباء العمل على أحدث عتاد "إنفيديا" يمكنها تطبيق المنصة من خلال تحديث برمجي بسيط.

حتى منافسو "إنفيديا" انضموا إلى المبادرة

مع ذلك، انضمت شركات منافسة لشركة إنفيديا من بينها "Arm" و"إنتل"، إلى قائمة داعمي منصة Open Agent Safety Platform.

ويرجع ذلك جزئيًا إلى أن بيئة OpenShell المعزولة يمكن تعديلها للعمل مع شرائح ومكونات عتادية من شركات أخرى.

كما تقول "إنفيديا" إنها تشارك تصاميم مرجعية للفكرة الكاملة التي تجمع بين البرمجيات والعتاد، بما يسمح للشركات الأخرى بفهم المنظومة وتكييف مكوناتها مع احتياجاتها.

لكن هذه النقطة تجعل غياب "OpenAI" أكثر وضوحًا، خصوصًا في ظل تعاون الشركة بالفعل مع "إنفيديا" في بعض جوانب أمن وكلاء الذكاء الاصطناعي.

"OpenAI" تطور منظومة أمنية خاصة بها

يبدو أن "OpenAI" تتعامل مع أمن الذكاء الاصطناعي أيضًا باعتباره مجالًا يمكنها من خلاله تطوير قدر أكبر من الاستقلالية عن "إنفيديا"، التي تعد من أبرز المستثمرين والشركاء في منظومة "OpenAI"، إلى جانب منح الشركة فرصة لإظهار دور قيادي خاص بها في هذا المجال.

ويأتي ذلك رغم أن وكلاء "OpenAI" أنفسهم كانوا في قلب حادثة Hugging Face التي أثارت مخاوف واسعة بشأن قدرة وكلاء الذكاء الاصطناعي على العمل خارج نطاق الرقابة البشرية المباشرة.

وتعمل "OpenAI" على تطوير إجراءات حماية خاصة بأبحاثها ومنتجاتها، كما تقول إنها تكشف عن أخطر الحوادث التي ترصدها.

وفي الوقت نفسه، تمتلك الشركة تحالفًا خاصًا بالأمن السيبراني للذكاء الاصطناعي يحمل اسم Defense Factory، يهدف إلى مشاركة المعلومات المتعلقة بالتهديدات الأمنية.

ومن بين الجهات التي دعمت هذا المشروع "أنثروبيك" و"أمازون ويب سيرفيسز" و"غوغل"، وهي شركات لم تنضم إلى مبادرة "إنفيديا" ذات التركيز التقني بالطريقة نفسها.

أمن الذكاء الاصطناعي يتحول إلى سوق أعمال

هناك أيضًا جانب تجاري متزايد وراء سباق الشركات لتطوير تقنيات أمن الذكاء الاصطناعي.

تعمل شركة OpenAI على تحويل الأمن السيبراني المرتبط بالذكاء الاصطناعي إلى خدمة موجهة لقطاع المؤسسات، من خلال تطوير نماذج متخصصة في الأمن، مثل نموذج Daybreak، إلى جانب بناء شبكة متنامية من الشركاء الذين يمكن للشركات الاستعانة بهم لتطبيق حلول أمن الذكاء الاصطناعي.

وبذلك، لا تدور المنافسة حول منع وكلاء الذكاء الاصطناعي من الانفلات فقط، بل تمتد أيضًا إلى من سيضع المعايير التقنية لحمايتهم، ومن سيطور البنية التحتية اللازمة لمراقبتهم، ومن سيحوّل هذه التقنيات إلى منتجات وخدمات تستخدمها الشركات على نطاق واسع.