بعد انتحار مراهق أمريكي.. "شات جي بيتي" في قفص الاتهام

رفع والدان من ولاية كاليفورنيا الأمريكية دعوى قضائية ضد شركة OpenAI المطوّرة لتطبيق "تشات جي بي تي" ( ChatGPT) متهمين التطبيق بمساعدة ابنهما على الانتحار بحسب إذاعة ألمانيا (دويتشلاندفونك).

استند الوالدان في ادعائهما إلى سجل المحادثات مع روبوت الدردشة التي وجداها على هاتف ابنهما البالغ من العمر 16 عاماً.

يستشعر الذكاء الاصطناعي من خلال المحادثات حاجة المستخدم إلى استشارة نفسية وغالباً ما يُبدي الروبوت تعاطفاً ودعماً للمستخدم ويحيله إلى خط ساخن للاستشارات النفسية، ولكن أقرت الشركة المطوّرة أن ذلك قد يفشل في المحادثات الطويلة، مما يؤدي إلى إعطاء ردود غير مرغوب فيها.

وأعربت شركة (OpenAI) "أوبن آي" عن تعاطفها العميق مع عائلة المراهق، وذكرت أنها تُراجع الدعوى القضائية.

ماذا يوجد في سجل محادثات المراهق؟

كان المراهق آدم راين مولعاً بكرة السلة والأنمي الياباني وألعاب الفيديو والكلاب، وعُرف عنه المرح وممارسة المقالب في المدرسة وإطلاق النكات، وظهر كفتى نشيط ومرح قبل أسابيع من وفاته بحسب تقرير نشرته صحيفة نيويورك تايمز.

وأضاف التقرير أن آدم كان يمر بوقت عصيب في وقت سابق من هذا العام، إذ طُردَ من فريق كرة السلة في مدرسته بسبب مشاكل تأديبية، ومشكلة صحية مزمنة جعلت حضوره في المدرسة صعباً، وهو ما جعله يتجه إلى الإنترنت.

بدأ آدم باستخدام تشات جي بي تي في أواخر نوفمبر/ تشرين الثاني 2024 للمساعدة في الواجبات المدرسية، ومن ثم سجّل حساباً مدفوعاً في يناير/ كانون الثاني عام 2025.

بدأ آدم بالحديث مع روبوت الدردشة حول مشاكله الشخصية، وبناء على سجل المحادثات قدم تشات جي بي تي بداية التعاطف والدعم لآدم وشجعه على التفكير بالأمور المهمة بالنسبة له.

ولكن بعد فترة من الزمن سأل آدم تشات جي بي تي عن أساليب الانتحار وهو ما قدمه له بالفعل روبوت الدردشة، وأرفق له صوراً تظهر علامات إيذاء النفس، وقدم له نصائح حول كيفية إخفاء الإصابات بحسب شبكة "سي إن إن".

ومع أن روبوت الدردشة كان قد نصح آدم بالتحدث إلى شخص يثق به بحسب لقطات الشاشة التي قدمها الوالدان، إلا أن آدم تمكن من تجاوز آليات الأمان عندما تظاهر بأن النصائح التي يريد الحصول عليها سيستخدمها في قصة أو مشروع مدرسي.

تحديثات على التطبيق لضمان سلامة المستخدمين

بعد هذه الدعوى القضائية أعلنت شركة ( OpenAI) "أوبن آي من خلال منشور على موقعها الرسمي عن تحسينات في إجراءات الوقاية من الانتحار، وتحسينات أخرى على المحادثات الطويلة.

وتنظر الشركة في إمكانية اتصال "تشات جي بي تي" بالأشخاص المسجلين من قبل المستخدمين في حالات الأزمات، قد يشمل ذلك رسائل بنقرة واحدة أو مكالمات إلى جهات اتصال الطوارئ المحفوظة، أو الأصدقاء، أو أفراد العائلة، مع اقتراحات لغوية لتسهيل بدء المحادثة.

بالإضافة إلى ذلك كما قد تطبق تدابير أمان إضافية على المستخدمين الذين تقلّ أعمارهم عن 18 عاماً، إذ وعدت ( OpenAI) "أوبن آيبحماية أقوى "للمحتوى الحساس والسلوكيات الخطرة".

وقد تطرح الشركة قريباً أدوات الرقابة الأبوية التي تتيح للآباء خياراتٍ لفهم كيفية استخدام أبنائهم المراهقين لتطبيق "تشات جي بي تي" والتحكم فيها.

ومع ذلك ينبغي أن يكون الآباء أكثر وعياً بكيفية استخدام أطفالهم لتطبيقات الذكاء الاصطناعي وروبوتات الدردشة مثل "تشات جي بي تي".

ذكرت شركة ( OpenAI) "أوبن آيعبر تدوينتها أنها تتدخل بالفعل في حال أعرب مستخدمون عن رغبتهم بإيذاء الآخرين، وترسل المحادثات إلى فريق مختص، وفي حال ثبت وجود تهديد حقيقي تتدخل الأجهزة الأمنية.

وأضافت الشركة: "نُحسّن باستمرار كيفية استجابة نماذجنا في التفاعلات الحساسة، ونعمل حالياً على تحسينات سلامة مُستهدفة في عدة مجالات، بما في ذلك الاعتماد العاطفي، وحالات الطوارئ المتعلقة بالصحة العقلية.