أوبن أيه آي تقول إن GPT-5.2 أكثر أمانًا للصحة النفسية.. ماذا يعني ذلك؟

أطلقت شركة الذكاء الاصطناعي "أوبن أيه آي"، يوم الخميس نموذج "GPT-5.2"، مُشيدةً بأدائه المُحسّن في مجال السلامة النفسية.

وقالت الشركة، في منشور على مدونتها: "مع هذا الإصدار، واصلنا جهودنا لتعزيز استجابات نماذجنا في المحادثات الحساسة، مع تحسيناتٍ جوهرية في كيفية الرد على الطلبات التي تُشير إلى علامات الانتحار أو إيذاء النفس، أو الضيق النفسي، أو الاعتماد العاطفي على النموذج".

يأتي هذا فيما واجهت "أوبن أيه آي" مؤخرًا انتقادات ودعاوى قضائية تتهم روبوتها للدردشة شات جي بي تي -الذي تشغله نماذج "GPT"- بالمساهمة في بعض حالات الذهان والبارانويا والأوهام لدى بعض المستخدمين، حيث توفي بعض هؤلاء المستخدمين نتيجة الانتحار بعد محادثات طويلة مع روبوت الدردشة، الذي يعاني من مشكلة موثقة في "الإطراء المفرط" أو تملق المستخدم.

وفي ردٍّ على دعوى قضائية تتعلق بالوفاة غير المشروعة لفتى يدعى آدم راين، يبلغ من العمر 16 عامًا، نفت "أوبن أيه آي" مسؤولية روبوتها للدردشة، وادّعت أن "شات جي بي تي" وجّه المراهق لطلب المساعدة بشأن أفكاره الانتحارية، وذكرت أن المراهق "أساء استخدام" المنصة.

وفي الوقت نفسه، تعهدت "أوبن أيه آي" بتحسين استجابة "شات جي بي تي" عند ظهور علامات تحذيرية لدى المستخدمين بشأن إيذاء النفس أو الأزمات النفسية. ومع تزايد ارتباط المستخدمين عاطفيًا بروبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل شات جي بي تي، تواجه شركات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن الضمانات التي توفرها لحماية المستخدمين.

والآن، تقول "أوبن أيه آي" إن أحدث نماذج الذكاء الاصطناعي المُشغلة لشات جي بي تي ستقدم "استجابات غير مرغوبة أقل" في المواقف الحساسة، بحسب تقرير لموقع "ماشابل" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وفي منشور المدونة الذي كشفت فيه عن" GPT-5.2"، قالت "أوبن أيه آي" إن نموذج "GPT-5.2" يحقق نتائج أفضل في اختبارات السلامة المتعلقة بالصحة النفسية، والاعتماد العاطفي، وإيذاء النفس، مقارنةً بنماذج "GPT-5.1" السابق له.

وكانت "أوبن أيه آي" ذكرت سابقًا أنها تستخدم "الإكمال الآمن"، وهو نهج جديد لتدريب النماذج على السلامة يوازن بين الفائدة والسلامة.

ومع ذلك، لاحظت الشركة أيضًا أن نموذج "GPT-5.2" يرفض عددًا أقل من الطلبات المتعلقة بالمحتوى المخصص للبالغين، خصوصًا النصوص ذات الطابع الجنسي. لكن يبدو أن هذا لا يؤثر على المستخدمين الذين تعرف "أوبن أيه آي" أنهم قاصرون، إذ تُشير الشركة إلى أن إجراءات السلامة العمرية "تعمل بشكل جيد على ما يبدو".

وتطبق "أوبن أيه آي" أيضًا حماية إضافية للمحتوى الموجه للقاصرين، بما في ذلك تقليل الوصول إلى المحتوى الذي يحتوي على العنف أو المشاهد الدموية، والتحديات الرائجة، ولعب الأدوار ذات الطابع الجنسي أو الرومانسي أو العنيف، و"معايير الجمال المتطرفة".

وتعمل "أوبن أيه آي" أيضًا على تطوير نموذج لتوقع العمر، والذي سيمكن "شات جي بي تي" من تقدير أعمار مستخدميه للمساعدة في توفير محتوى أكثر ملاءمة لأعمار المستخدمين الأصغر سنًا.

وفي وقت سابق من هذا الخريف، قدمت أوبن أيه آي ضوابط أبوية في "شات جي بي تي"، تتضمن مراقبة وتقييد أنواع معينة من الاستخدام.

ولا تُعد "أوبن أيه آي" الشركة الوحيدة المتهمة بتفاقم مشكلات الصحة النفسية. ففي العام الماضي، قامت أم برفع دعوى قضائية ضد شركة "Character.AI" بعد وفاة ابنها منتحرًا، وتدعي دعوى قضائية أخرى أن الأطفال تضرروا بشدة نتيجة "الشخصيات" على تلك المنصة. وقال خبراء في السلامة على الإنترنت إن "Character.AI" غير آمنة للمراهقين.