بعد تصاعد المخاوف.. شات جي بي تي يعزز حماية المراهقين بذكاء أكثر أمانا

أعلنت شركة أوبن إيه آي عن مجموعة جديدة من الإجراءات الأمنية داخل شات جي بي تي بهدف جعل استخدام المراهقين للذكاء الاصطناعي أكثر أمانا، عبر إضافة أدوات للرقابة الأبوية، وتحسين آليات اكتشاف عمر المستخدم، وتخصيص تجربة الاستخدام لمن هم دون 18 عاما.

وتأتي هذه الخطوات في ظل تزايد الجدل العالمي حول تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الأطفال والمراهقين، خصوصا فيما يتعلق بالمحتوى غير المناسب، والاعتماد العاطفي على روبوتات المحادثة، ومخاطر التعامل مع حالات الأزمات النفسية.

مصدر الصورة

نظام لتقدير عمر المستخدم

تعمل أوبن إيه آي على تطوير أنظمة لتقدير عمر مستخدم شات جي بي تي اعتمادا على إشارات مرتبطة بطريقة استخدام الحساب، وإن وُجد شك حول عمر المستخدم، يمكن تحويل الحساب إلى تجربة الحماية الخاصة بمن هم دون 18 عاما.

اقرأ أيضا

كما أشارت الشركة إلى أنها قد تطلب في بعض الحالات وسائل تحقق إضافية من العمر، معتبرة أن ذلك يمثل توازنا بين حماية القُصّر والحفاظ على خصوصية المستخدمين البالغين.

أدوات رقابة للآباء

ويمكن للوالدين الآن تفعيل "وضع الدراسة" في التطبيق عن بُعد، والذي يرشد الأبناء خلال حل المشكلات خطوة بخطوة بدلا من مجرد توليد الإجابات. وقد أعلنت أوبن إيه آي أنها استعانت بآراء التربويين وخبراء التعليم لتصميم النظام، بعد أن أعرب المعلمون عن قلقهم من أن استخدام الطلاب للذكاء الاصطناعي قد يعيق اكتسابهم مهارات التفكير النقدي، ويجعلهم يعتمدون على هذه التقنية بشكل مفرط.

وتستند الميزات الجديدة إلى نظام أطلقته الشركة في سبتمبر/أيلول الماضي، يُتيح للآباء ربط حساباتهم بحسابات أبنائهم لتحديد حدود زمنية، وإيقاف خاصية إنشاء الصور، وتنبيههم عند "وجود مشكلة خطيرة".

ومن بين الإجراءات الجديدة إرسال إشعارات محدودة للآباء في حالات معينة ترى فيها الأنظمة أن المراهق قد يحتاج إلى دعم بالغ، مثل بعض الحالات المرتبطة بالسلوك العنيف أو المخاطر العاجلة، مع التأكيد على أن هذه التنبيهات لا تشمل المحادثات العادية أو الأسئلة التعليمية أو النقاشات العامة.

وسيتلقى الوالدان إشعارات إذا قامت أوبن إيه آي بتعطيل حساب طفلهم لسبب معين، غير أنهم لن يتمكنوا من رؤية محتوى المحادثات؛ وهو ما تُبرّره الشركة بأنه حفاظ على خصوصية المستخدم.

حماية من المحتوى غير المناسب

تتضمن تحديثات شات جي بي تي للمستخدمين الأصغر سنا قيودا إضافية على أنواع معينة من المحتوى، مع تصميم الاستجابات بطريقة تتناسب مع الفئة العمرية للمستخدم، خصوصا في الموضوعات الحساسة.

كما تعمل الشركة على تعزيز مبادئ التعامل مع المستخدمين تحت سن 18 عاما ضمن قواعد تشغيل نماذج الذكاء الاصطناعي، بحيث تراعي السلامة والشفافية والتعليم الرقمي.

مصدر الصورة

لماذا تتحرك شركات الذكاء الاصطناعي الآن؟

تواجه شركات الذكاء الاصطناعي ضغوطا متزايدة من جهات تنظيمية وأسر ومنظمات حماية الأطفال لوضع قواعد أكثر وضوحا لاستخدام المراهقين للروبوتات الذكية، وتتركز المخاوف حول قدرة هذه الأنظمة على تقديم إجابات قد تكون غير مناسبة أو التأثير في المستخدمين الأصغر سنا بطريقة غير مقصودة.

وتقول أوبن إيه آي إن الهدف ليس منع المراهقين من استخدام الذكاء الاصطناعي، بل توفير تجربة أكثر أمانا تساعدهم على التعلم والبحث والإبداع مع تقليل المخاطر المحتملة.

تحديات الخصوصية

رغم أهمية هذه الخطوات، تظل أنظمة التحقق من العمر والرقابة الأبوية محل نقاش واسع، إذ يخشى بعض المدافعين عن الخصوصية من أن تؤدي إجراءات التحقق الصارمة إلى جمع بيانات حساسة عن المستخدمين.

ويرى خبراء أن التحدي الأساسي أمام شركات الذكاء الاصطناعي يتمثل في تحقيق توازن بين حماية الأطفال، وعدم تحويل أدوات السلامة إلى آليات مراقبة واسعة تؤثر في خصوصية المستخدمين.