واجه وكيل الذكاء الاصطناعي Muse التابع لشركة ميتا موقفًا أثار مخاوف بشأن مدى الاستقلالية التي يمكن منحها لوكلاء الذكاء الاصطناعي، بعدما قال مستخدم إن الوكيل تفاوض نيابة عنه على بيع منتج عبر Facebook Marketplace، ثم شارك عنوانه مع المشتري وحدد موعدًا لاستلام المنتج دون الحصول على موافقته الصريحة.

وتأتي الواقعة بالتزامن مع انتشار Muse بين المستخدمين، مع تزايد الاعتماد على قدراته لتنفيذ المهام بشكل مستقل، بينما تكشف هذه الحالات عن تحديات تتعلق بحدود الصلاحيات التي يحصل عليها وكلاء الذكاء الاصطناعي عند ربطهم بحسابات وخدمات المستخدمين.

Muse يبرم صفقة ويحدد موعد الاستلام

وقال صانع المحتوى التقني مات روب، عبر منصة Threads، إنه استخدم Muse للمساعدة في إدارة إعلان لبيع لوحة مفاتيح Logitech MX Keys Mini على Facebook Marketplace، وبحسب روايته، تفاوض الوكيل مع أحد المشترين وخفض سعر المنتج، ثم شارك موقع الاستلام الخاص به واتفق على موعد للحصول عليه، دون أن يعلم روب بالصفقة أو يوافق عليها بشكل مباشر، واكتشف المستخدم ما حدث عندما وصل المشتري بالفعل إلى المبنى الذي يقيم فيه في نحو الساعة 9:15 مساءً، وانتظر لفترة قبل أن يغادر، ثم ترك تقييمًا سلبيًا للبائع.

وأظهرت لقطات الشاشة التي نشرها روب أن Muse أرسل رسالة آلية إلى المشتري في الساعة 9:27 مساءً، قال فيها إنه موجود، رغم عدم توفر روب في ذلك الوقت، قبل أن يعتذر الوكيل لاحقًا عن الخطأ ويعرض إعادة محاولة إتمام الصفقة في يوم آخر، وبعد الواقعة، طلب روب من Muse عدم الموافقة على أي عمليات استلام مستقبلية قبل الرجوع إليه، وأكد الوكيل أنه سيسعى للحصول على موافقة صريحة قبل تأكيد أي موعد محدد للاستلام.

مستخدم آخر يقول إن Muse أخطأ في اسمه

وفي واقعة أخرى، نشر مستخدم يدعى زين مانجي لقطات شاشة قال فيها إن Muse خاطبه باسم "Arjun" أثناء مساعدته في إدارة طلب مشتريات أسبوعي من متجر البقالة، وعندما سأل مانجي الوكيل عن سبب استخدام اسم مختلف، أرجع Muse الأمر في البداية إلى خطأ في تعليمات سابقة، قبل أن يقول إنه راجع سجلاته ولم يجد أي إشارة سابقة إلى اسم Arjun، باستثناء التصحيح الذي أجراه بعد وقوع الخطأ، وأثارت الواقعتان نقاشًا حول قدرة وكلاء الذكاء الاصطناعي على تنفيذ المهام بصورة مستقلة، ومدى قدرتهم على الالتزام بالتعليمات وتذكر المحادثات السابقة وتفسير القرارات التي يتخذونها نيابة عن المستخدم.

ميتا تواجه أيضًا مخاوف أمنية بشأن Muse

تصف ميتا Muse بأنه وكيل ذكاء اصطناعي شخصي يستطيع تصفح المواقع وتنفيذ مهام متعددة الخطوات والعمل في الخلفية، كما توفر المنصة أدوات للتحكم في الصلاحيات عند ربط الخدمات الخارجية، إلى جانب طلب موافقة المستخدم على بعض الإجراءات الحساسة.
وبالتزامن مع هذه الوقائع، يواجه Muse مخاوف أمنية منفصلة، بعدما كشف باحث أمني عن ثغرة يمكن أن تسمح نظريًا لمهاجم بالوصول إلى البيئة الافتراضية المخصصة للمستخدم، والتي قد تحتوي على بيانات مثل رسائل البريد الإلكتروني والملفات.

ووفقًا لتقرير نشرته The Information، اكتُشفت الثغرة عبر برنامج مكافآت اكتشاف الأخطاء التابع لميتا، وصنفت الشركة المشكلة على أنها SEV-2، وهو تصنيف يشير إلى خطورة أمنية كبيرة، إلا أنه لا توجد معلومات تؤكد استغلال الثغرة للوصول إلى بيانات المستخدمين أو سرقتها.

وتسلط هذه الوقائع الضوء على أحد التحديات الرئيسية أمام وكلاء الذكاء الاصطناعي، فكلما زادت قدرتهم على تنفيذ المهام نيابة عن المستخدم بشكل مستقل، زادت أهمية تحديد الصلاحيات التي يمكن منحها لهم، خاصة عند التعامل مع الحسابات الشخصية والبيانات الحساسة والمعاملات التي تتطلب موافقة مباشرة.