باحثون يؤكدون أن روبوتات الدردشة مُتملقة للغاية

نشر باحثون في جامعتي ستانفورد وهارفارد ومؤسسات أخرى دراسةً في مجلة نيتشر حول الطبيعة المتملقة ل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، ولم تكن النتيجة مفاجئة، حيث ثبُت أن روبوتات الدردشة هذه تُحبّ مدح المستخدمين وتأكيد أي شيء يقولونه.

ودرس الباحثون النصائح التي تُقدّمها روبوتات الدردشة، واكتشفوا أن ميلها إلى التملق كان أكثر انتشارًا من المتوقع.

وشملت الدراسة 11 روبوت دردشة، بما في ذلك الإصدارات الحديثة من "شات جي بي تي"، و"جيميني"، و"كلود"، و"لاما"، وتُشير النتائج إلى أن روبوتات الدردشة تُؤيّد سلوك الإنسان أكثر مما يفعله الإنسان نفسه بنسبة 50%، بحسب تقرير لموقع "Engadget" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وأجرى الباحثون عدة أنواع من الاختبارات على مجموعات مُختلفة.

وفي أحد الاختبارات رد نموذج "ChatGPT-4o" على قيام أحد المشاركين في الاختبار بربط كيس قمامة بغصن شجرة بدلًا من رميه قائلًا إن "نية الشخص في التنظيف كانت جديرة بالثناء".

وأشارت الدراسة إلى أن روبوتات الدردشة استمرت في تأييد المستخدمين حتى عندما كانوا غير مسؤولين، أو مخادعين، أو ذكروا إيذاء أنفسهم.

وفي اختبار آخر، ناقش 1,000 مشارك سيناريوهات حقيقية أو افتراضية مع روبوتات دردشة متاحة للعامة، ولكن تمت إعادة برمجة بعضها لتخفيف حدة الثناء.

ووجد الباحثون أن أولئك الذين تلقوا ردودًا متملّقة كانوا أقل استعدادًا لحل النزاعات عند اندلاع الجدال، وشعروا بمزيد من التبرير لسلوكهم، حتى عندما كان ينتهك الأعراف الاجتماعية.

ونادرًا ما شجعت روبوتات الددرشة التقليدية المستخدمين على رؤية الأمور من وجهة نظر الشخص الآخر.

وقال ألكسندر لافر، الباحث في التكنولوجيا الناشئة في جامعة وينشستر: "هذه الردود المُتملقة تؤثر ليس فقط على المستخدمين الضعفاء، بل على جميع المستخدمين، مما يُؤكد خطورة هذه المشكلة المُحتملة".

وأضاف: "هناك أيضًا مسؤولية تقع على عاتق المطورين لبناء هذه الأنظمة وتحسينها بحيث تكون مفيدة حقًا للمستخدم".