الصين تشدد الرقابة على روبوتات الدردشة الذكية لحماية المستخدمين

تعتزم الصين فرض قيود جديدة صارمة على روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، في خطوة تستهدف الحد من تأثيرها العاطفي على المستخدمين، خصوصًا في القضايا الحساسة مثل الانتحار، وإيذاء النفس، والمقامرة، وفق مسودة لوائح تنظيمية نُشرت السبت.

وبحسب المسودة الصادرة عن إدارة الفضاء الإلكتروني الصينية، تستهدف القواعد الجديدة ما يُعرف بـ "خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر"، وهي الأنظمة التي تحاكي الشخصية الإنسانية وتتفاعل مع المستخدمين عاطفيًا عبر النصوص أو الصور أو الصوت أو الفيديو.

ومن المقرر أن يستمر فتح باب الملاحظات العامة حتى 25 يناير المقبل.

ويرى خبراء أن هذه الخطوة تمثل سابقة عالمية، إذ ستكون الصين أول دولة تحاول تنظيم الذكاء الاصطناعي ذي الطابع الإنساني أو الأنثروبومورفي، بحسب تقرير نشرته شبكة "سي إن بي سي" واطلعت عليه "العربية Business".

وقال وينستون ما، أستاذ القانون المشارك بجامعة نيويورك، إن اللوائح الجديدة تعكس انتقالًا "من سلامة المحتوى إلى سلامة المشاعر"، في ظل الانتشار السريع لتطبيقات "الرفيق الرقمي" والمشاهير الافتراضيين في الصين.

قيود مشددة على المحتوى والتفاعل

وتنص المسودة على حظر توليد أي محتوى يشجع على الانتحار أو إيذاء النفس، أو يتضمن عنفًا لفظيًا أو تلاعبًا عاطفيًا قد يضر بالصحة النفسية للمستخدمين.

وفي حال أبدى المستخدم نية صريحة للانتحار، تُلزم القواعد شركات التقنية بتدخل بشري فوري، مع التواصل مباشرة مع ولي الأمر أو شخص محدد مسبقًا.

كما تحظر اللوائح على روبوتات الدردشة إنتاج محتوى يتعلق بالمقامرة أو المواد الإباحية أو العنف، مع فرض قيود خاصة على استخدام القُصر لتقنيات "الصحبة العاطفية" القائمة على الذكاء الاصطناعي، بما في ذلك اشتراط موافقة أولياء الأمور وتحديد فترات زمنية للاستخدام.

وتلزم القواعد المنصات بمحاولة التحقق من عمر المستخدمين حتى في حال عدم الإفصاح عنه، وتطبيق إعدادات خاصة بالقُصر عند الشك، مع إتاحة آلية للاعتراض.

كما تُلزم الشركات بتنبيه المستخدمين بعد ساعتين من التفاعل المتواصل مع الذكاء الاصطناعي، وإجراء تقييمات أمنية إلزامية للروبوتات التي يتجاوز عدد مستخدميها مليون مسجل أو 100 ألف مستخدم نشط شهريًا.

ورغم التشدد، شجعت الوثيقة استخدام الذكاء الاصطناعي الشبيه بالبشر في مجالات نشر الثقافة ورعاية كبار السن.

توقيت حساس مع موجة اكتتابات

ويأتي هذا التحرك التنظيمي في وقت تقدمت فيه شركتا "Z.ai" و"Minimax"، وهما من أبرز مطوري روبوتات الدردشة في الصين، بطلبات اكتتاب عام أولي في بورصة هونغ كونغ.

وتُعرف "Minimax" بتطبيق "Talkie AI"، الذي يتيح التفاعل مع شخصيات افتراضية، ويضم عشرات الملايين من المستخدمين النشطين شهريًا.

ولم تُعلق الشركتان على تأثير القواعد المقترحة على خطط الطرح، إلا أن التوقيت يسلط الضوء على تصاعد التدقيق التنظيمي في هذا القطاع سريع النمو.

قلق عالمي متزايد

ولا يقتصر الجدل حول تأثير الذكاء الاصطناعي العاطفي على الصين، إذ تتزايد المخاوف عالميًا بشأن تأثير هذه التقنيات على السلوك البشري والصحة النفسية.

وكان سام ألتمان، الرئيس التنفيذي لشركة OpenAI، قد أقر مؤخرًا بصعوبة تعامل روبوتات الدردشة مع محادثات الانتحار، في وقت أعلنت فيه الشركة تعيين مسؤول جديد لتقييم مخاطر الذكاء الاصطناعي، من الصحة النفسية إلى الأمن السيبراني.

وتعكس الخطوة الصينية سعي بكين المتواصل لتشكيل قواعد حوكمة عالمية للذكاء الاصطناعي، في وقت يتزايد فيه اعتماد الأفراد على هذه التقنيات، حتى في العلاقات الشخصية، ما يفتح الباب أمام أسئلة أخلاقية وتنظيمية غير مسبوقة.