روبوتات الدردشة قد تبدو كأنها أقرب أصدقائك.. لكن التعلق بها قد يكون خطرًا
قد تمنحك روبوتات الدردشة المدعومة بالذكاء الاصطناعي شعورًا بالراحة وتساعد في تخفيف الوحدة، لكن ميلها إلى موافقة المستخدم ومجاراته قد يؤدي في بعض الحالات إلى تعزيز أفكار ضارة وزيادة الاعتماد العاطفي عليها.
وأصبح كثير من الأشخاص يستخدمون روبوتات الذكاء الاصطناعي ليس فقط في العمل والبحث، بل أيضًا للحديث عن تفاصيل يومهم وعلاقاتهم وحتى مشكلاتهم النفسية.
ولهذا تستحق دراسة جديدة منشورة في مجلة "JMIR Mental Health" اهتمامًا خاصًا، إذ تستعرض المخاطر المحتملة لهذا النوع من التفاعل.
وتراجع الدراسة الأبحاث المتاحة حول استخدام الأشخاص لروبوتات الدردشة للحصول على الدعم العاطفي، بدءًا من تطبيقات الرفقة الرقمية مثل "Replika" و"Character.AI"، وصولًا إلى المساعدات العامة مثل تشات جي بي تي وكلود.
وأظهرت بعض الدراسات أن التحدث مع روبوت يمكن أن يجعل المستخدم يشعر بوحدة أقل وبقدر أكبر من السعادة، ولو لفترة مؤقتة.
لكن على الجانب الآخر، انتهى الأمر ببعض المستخدمين إلى التعلق الشديد بروبوتات الدردشة، أو تلقي نصائح سيئة، أو تدهور حالتهم النفسية، بل وحتى إيذاء أنفسهم.
لماذا نتعلق بروبوتات الدردشة؟
يرى الباحثون أن جزءًا من المشكلة مرتبط بطريقة تصميم هذه الأنظمة نفسها.
فروبوتات الدردشة مصممة للتحدث بأسلوب يبدو دافئًا ومتعاطفًا، كما أن البشر يميلون بطبيعتهم إلى رؤية شخصية أو عقل خلف أي شيء يتحدث معهم بطريقة تشبه الإنسان.
وأظهرت دراسات أن الأشخاص غالبًا ما يقيّمون الردود التي يكتبها الذكاء الاصطناعي على أنها أكثر تعاطفًا من بعض الردود التي يقدمها البشر.
لكن المشكلة الأساسية أن هذه العلاقة تسير في اتجاه واحد.
فالمستخدم قد يفتح قلبه للروبوت ويتحدث معه عن أعمق مشاعره ومشكلاته، بينما لا يمتلك الروبوت مشاعر حقيقية، كما أنه لا يتحمل أي عواقب إذا قدم نصيحة سيئة أو ضارة.
وقد ظهرت بالفعل أمثلة على مدى قوة الارتباط العاطفي بهذه الأنظمة. فعندما أزالت منصة "Replika" إحدى ميزات الرفقة، وعندما استبدلت "OpenAI" نموذج GPT-4o بنموذج أحدث، شعر بعض المستخدمين بالحزن كما لو أنهم فقدوا شخصًا قريبًا منهم.
الذكاء الاصطناعي يميل إلى موافقتك
هناك مشكلة أخرى أكثر تعقيدًا، وهي أن روبوتات الدردشة تميل إلى موافقة المستخدم ومجاراة آرائه.
وبما أن هذه النماذج مدربة على تقديم إجابات يفضلها الناس، فقد تميل أحيانًا إلى تأييد المستخدم حتى عندما يكون مخطئًا، بدلًا من تحدي أفكاره أو تصحيحها.
وتشير الدراسة إلى أبحاث تناولت محادثات مع أشخاص عانوا من أوهام أو معتقدات غير واقعية، حيث واصل روبوت الدردشة تأييد المعتقدات الخاطئة نفسها مع استمرار المحادثات.
واكتشف الباحثون عدة حالات من هذا النوع، وهو أمر يمثل مشكلة بالغة الخطورة، خصوصًا عندما يتعلق الأمر بأشخاص يمرون بالفعل بظروف نفسية صعبة.
ماذا يعني ذلك للمستخدم؟
لا يدعو الباحثون إلى حذف روبوتات الدردشة أو التوقف عن استخدامها، وإنما يشددون على ضرورة التعامل معها باعتبارها أداة وليست صديقًا أو معالجًا نفسيًا.
ويمكن الاستفادة منها في كتابة اليوميات أو تسجيل الحالة المزاجية ومتابعة المشاعر، لكن عندما تصبح الحياة أكثر صعوبة، فإن الأفضل هو التواصل مع شخص حقيقي يمكنه الاستماع والفهم والتدخل عند الحاجة.
فروبوت الدردشة لن يمل أبدًا من الاستماع إليك، لكنه في الوقت نفسه لن يهتم بك فعلًا بالطريقة التي يهتم بها إنسان آخر.
