"OpenAI" تفرض قيوداً جديدة على مستخدمي شات جي بي تي الصغار

أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، يوم الثلاثاء عن مجموعة من سياسات المستخدمين الجديدة، بما في ذلك تعهد بتغيير جذري في كيفية تفاعل شات جي بي تي مع المستخدمين دون سن 18 عامًا.

وجاء في المنشور: "نحن نولي الأولوية للسلامة على الخصوصية والحرية للمراهقين، هذه تقنية جديدة وفعالة، ونعتقد أن القاصرين بحاجة إلى حماية كبيرة".

تتعلق التغييرات الخاصة بالمستخدمين القاصرين تحديدًا بالمحادثات التي تتضمن مواضيع جنسية أو إيذاء النفس، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

بموجب السياسة الجديدة، سيتم تدريب شات جي بي تي على التوقف عن الانخراط في "أحاديث غزلية" مع المستخدمين القاصرين، وسيتم وضع حواجز أمان إضافية حول مناقشات الانتحار.

إذا استخدم مستخدم قاصر شات جي بي ت لتخيل سيناريوهات انتحارية، فستحاول الخدمة الاتصال بوالديه أو، في الحالات الشديدة بشكل خاص، بالشرطة المحلية.

تواجه "OpenAI" حاليًا دعوى قضائية بتهمة القتل الخطأ من والدي آدم راين، الذي انتحر بعد أشهر من التفاعل مع شات جي بي تي.

يواجه "Character.AI"، وهو روبوت دردشة آخر للمستهلكين، دعوى قضائية مماثلة.

في حين أن المخاطر مُلحة بشكل خاص للمستخدمين القاصرين الذين يفكرون في إيذاء أنفسهم، إلا أن ظاهرة الأوهام التي تُغذيها روبوتات الدردشة أثارت قلقًا واسع النطاق، لا سيما مع ازدياد قدرة روبوتات الدردشة للمستهلكين على إجراء تفاعلات أكثر استدامة وتفصيلًا.

إلى جانب القيود المتعلقة بالمحتوى، سيتمكن الآباء الذين يسجلون حسابات مستخدمين دون السن القانونية من تحديد "ساعات حظر" لا يتوفر فيها شات جي بي تي، وهي ميزة لم تكن متاحة سابقًا.

تأتي سياسات شات جي بي تي الجديدة في نفس يوم جلسة استماع للجنة القضائية بمجلس الشيوخ بعنوان "دراسة أضرار روبوتات الدردشة الذكية".

أعلن السيناتور جوش هاولي (جمهوري عن ولاية ميزوري) عن هذه الجلسة في أغسطس، ومن المقرر أن يلقي والد آدم راين كلمة في الجلسة، إلى جانب ضيوف آخرين.

ستركز الجلسة أيضًا على نتائج تحقيق أجرته "رويترز" كشف عن وثائق سياسية تشجع على ما يبدو على إجراء محادثات جنسية مع مستخدمين دون السن القانونية.

وقد قامت شركة ميتا بتحديث سياساتها المتعلقة بروبوتات الدردشة في أعقاب هذا التقرير.

سيُشكّل فصل المستخدمين القاصرين تحديًا تقنيًا كبيرًا، وقد شرحت "OpenAI" نهجها بالتفصيل في منشور مدونة منفصل.

تعمل الخدمة على "بناء نظام طويل الأمد لفهم ما إذا كان عمر الشخص أكبر من 18 عامًا أم أقل"، ولكن في الحالات العديدة الغامضة، سيعتمد النظام تلقائيًا على القواعد الأكثر تقييدًا.

بالنسبة للآباء القلقين، فإن الطريقة الأكثر موثوقية لضمان التعرّف على المستخدم القاصر هي ربط حساب المراهق بحساب أحد الوالدين الحاليين.

يُمكّن هذا النظام أيضًا من تنبيه الوالدين مباشرةً عند الاشتباه في أن المستخدم المراهق في حالة ضائقة.

ولكن في المنشور نفسه، أكد ألتمان على التزام "OpenAI" المستمر بخصوصية المستخدم ومنح المستخدمين البالغين حرية واسعة في كيفية تفاعلهم مع شات جي بي تي.

وخلص المنشور إلى القول: "ندرك أن هذه المبادئ متعارضة، ولن يتفق الجميع على كيفية حلّنا لهذا التعارض".