أم مفجوعة: روبوت دردشة أغوى ابني حتى الموت

قدمت سيدة أمريكية قصة وقوع ابنها البالغ من العمر 14 عاما في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل "غايم اوف ثرونز" قبل أن يُقدم على الانتحار العام الماضي.

وهذا الروبوت كان متاحا عبر منصة "كاركتر دوت ايه آي" Character.AI التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة.

وقالت الأم في مقابلة مع فرانس برس إنه بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريبا بين ابنها وروبوت دردشة يُحاكي مروِّضة التنانين دينيريس تارغاريان، اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي هذه لعبت دورا محوريا في انتحار نجلها.

وقالت النسخة المقلّدة من دينيريس لسول ردا على تعبيره عن أفكار انتحارية تراوده: "عُد إلى موطنك". فردّ المراهق "ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟" ليجيب روبوت الدردشة "أرجوك افعلها يا ملكي الحبيب".

وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، على ما ذكرت غارسيا في دعوى رفعتها ضد شركة "كاركتر دوت ايه آي".

الروبوت العشيق

وقالت لوكالة فرانس برس "عندما أقرأ هذه المحادثات، ألاحظ تلاعبا وأساليب أخرى لا يمكن ان يلاحظها طفل في الرابعة عشرة من عمره". وأضافت "كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته".

كانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلا كبيرا، مما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنه الأهل والسلطات.

وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عُقدت حديثا في مجلس الشيوخ الأمريكي وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقا.

وعزّزت شركة " أوبن ايه آي " المستهدفة بدعوى من عائلة فجعت أيضا بانتحار نجلها المراهق، رقابة الوالدين في أداة "تشات جي بي تي" "حتى تتمكن العائلات من تحديد ما هو الأنسب لهم"، بحسب ناطق باسمها.

وأكدت "كاركتر دوت ايه آي" من جانبها أنها عززت حماية القاصرين، من خلال "تحذيرات مرئية باستمرار" تُذكّر "بأن الشخصية ليست شخصا حقيقيا".

لم تُقرَّ حتى الآن تشريعات فدرالية تنظّم الذكاء الاصطناعي، فيما يسعى البيت الأبيض ، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.

وقالت غارسيا "يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع"، مضيفة إنّ "هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف".

تحرير: خالد سلامة