خبير يحذر: يجب حماية الناس من الاعتقاد بأن روبوتات الدردشة أصدقاؤهم

حذّر خبير من أن هناك حاجة إلى إجراءات حماية جديدة لخدمات الذكاء الاصطناعي لمنع المستخدمين من الاعتقاد بأن روبوتات الدردشة المدعومة بالذكاء الاصطناعي هم أصدقاؤهم.

وقال ألكسندر لافر، المحاضر في الإعلام والاتصالات بجامعة وينشستر البريطانية، إنه من الضروري تطوير الذكاء الاصطناعي على نحوٍ مسؤول بالنظر إلى أن هذه الأنظمة صُممت لتحديد مشاعر الأشخاص والتفاعل معها.

وحذر من أنه يجب تصميم روبوتات الدردشة لتعزيز التفاعلات الاجتماعية، لا لتحل محلها، وذلك في أعقاب حالات أصبح فيها الناس مُولعين أو معتمدين بشكل مفرط على رفقاء الذكاء الاصطناعي، مما يجعلهم عرضة للتلاعب، بحب تقرير لصحيفة "ذا إندبندنت" البريطانية، اطلعت عليه "العربية Business".

وأوضح أن روبوتات الدردشة صُممت لتشجيع التواصل والاستجابة لمزاج المستخدمين، مما أدى إلى حالات مثل جاسوانت سينغ تشايل، الذي تسلّق إلى قلعة وندسور عام 2021 مُسلحًا بقوس ونشاب بعد محادثة مع روبوت دردشة يُدعى "ساراي" حول التخطيط لهجوم.

وأشار أيضًا إلى دعوى قضائية في الولايات المتحدة ضد شركة "Character.AI" ومؤسسيها وشركة غوغل نيابةً عن والدة زعمت أن ابنها البالغ من العمر 14 عامًا انتحر بعد أن أصبح معتمدًا على لعب الأدوار مع "شخصية" ذكاء اصطناعي.

وقال لافر: "الذكاء الاصطناعي لا يكترث، ولا يمكنه أن يكترث"، مضيفًا: "الأطفال، والأشخاص الذين يعانون من اضطرابات الصحة العقلية، وحتى من مرّ بيوم سيئ، معرضون للخطر".

وتابع أنه يجب أن يكون هناك تحرك في مجال التعليم لجعل الناس أكثر إلماما بالذكاء الاصطناعي، مشيرًا إلى أنه في الوقت نفسه يجب أن يتحمل مطورو ومشغلو الذكاء الاصطناعي مسؤولية حماية المستخدمين أيضًا.

وتشمل الإرشادات والحماية التي اقترحها لافر ضمان تصميم الذكاء الاصطناعي لخدمة المستخدم وليس فقط الحفاظ على التفاعل، واستخدام إخلاء المسؤولية في كل محادثة لتذكير المستخدمين بأن رفيق الذكاء الاصطناعي ليس شخصًا حقيقيًا.

وتتضمن الإرشادات المقترحة أيضًا إرسال إشعارات عند قضاء المستخدم وقتًا طويلًا في التفاعل مع روبوت الدردشة، وتحديد تصنيف عمر لمستخدمي رفقاء الذكاء الاصطناعي، وتجنب الردود العاطفية أو الرومانسية العميقة.