حذر المجلس الوطني لحقوق الإنسان من خطورة تطور نظم الذكاء الاصطناعي في تزييف الوعي الجماعي، مؤكداً أن هذه التقنيات لم تعد مجرد أدوات تكنولوجية ناشئة، بل أصبحت، بعد التطورات المتسارعة والإصدارات الحديثة ركيزة مؤثرة في الحياة اليومية للأفراد.

وأوضح المجلس، في التقرير السنوي برسم 2024، أن هذه المنصات باتت قادرة على معالجة النصوص والصور معاً، وهو ما لم يكن متاحًا في النماذج السابقة، مضيفًا أن هذا التحول البنيوي يشير إلى انتقال نظم الذكاء الاصطناعي من مرحلة التجريب إلى مرحلة الاندماج الملموس في النسيج الاجتماعي والاقتصادي.

وأشار المصدر ذاته إلى أن المغرب صنف في المرتبة الثانية عالميًا من حيث استخدام منصة “ChatGPT”، واحتل المرتبة 101 عالميًا و13 على مستوى منطقة الشرق الأوسط وشمال إفريقيا في مؤشر جاهزية الحكومات للذكاء الاصطناعي لسنة 2024، بمعدل إجمالي بلغ 41.78 نقطة من بين 188 دولة.

واعتبر المجلس أن الفرص التي توفرها هذه النظم لتحقيق أهداف التنمية المستدامة على المستويات الاقتصادية والاجتماعية والبيئية كبيرة، معتبراً أنها تسهم في تعزيز فعلية الحقوق والحريات الرئيسية، لكنه في الوقت ذاته عبّر عن قلقه من المخاطر والتداعيات المحتملة، وخاصة ما تعلق منها بظاهرة التزييف العميق (Deepfake) التي تتيح إنتاج مقاطع سمعية وبصرية بالغة الواقعية، تستهدف النساء بشكل خاص، مشيرًا إلى التطور الكبير على مستوى الكم والكيف لهذه الظاهرة خلال سنة 2024.

وأكد المجلس أن خطر هذه التقنيات يتضاعف حين تُستخدم لتزييف الوعي الجماعي، مشيرًا إلى انتشار محتويات رقمية ترفيهية مصممة بتقنية التزييف العميق على مواقع التواصل الاجتماعي، تستعمل شخصيات ورموزًا ثقافية مغربية للتعبير عن مواقف ومضامين تمس جوهر الهوية والثقافة المغربية، مضيفًا أن آليات التخصيص الخوارزمي التي تعتمدها منصات التواصل الاجتماعي تعمل على ترشيح هذه المواد وإعادة توجيهها نحو الفئات الأكثر تفاعلاً معها، ما يؤدي إلى تكوين فضاءات رقمية مغلقة “فقاعات رقمية” يمكن أن تعزز التحيزات القائمة وتكرس سوء الفهم وزيادة احتمالية تكوين أحكام غير متوازنة على الثقافة المغربية.

وأثنى المجلس على مبادرة المملكة المغربية التي أطلقت، بتنسيق مشترك مع الولايات المتحدة الأمريكية، “مجموعة أصدقاء الذكاء الاصطناعي من أجل التنمية المستدامة” داخل الأمم المتحدة، موضحًا أن هذه المجموعة المفتوحة أمام كافة الدول الأعضاء تسمح للخبراء من مختلف المناطق بتبادل أفضل الممارسات في اعتماد تقنيات الذكاء الاصطناعي.

وأضاف أن هذه المبادرة جاءت بعد اعتماد الجمعية العامة للأمم المتحدة، في مارس 2024، لأول قرار أممي حظي بإجماع 193 دولة بشأن الذكاء الاصطناعي، بمبادرة المغرب والولايات المتحدة، حول اغتنام الفرص التي توفرها نظم الذكاء الاصطناعي المأمونة والموثوقة لأغراض التنمية المستدامة.

كما سجل المجلس بإيجابية اعتماد المملكة للاستراتيجية الوطنية للمغرب الرقمي 2030 في يوليوز 2024، والتي تقوم على أربعة محاور أساسية تشمل تعزيز حكامة الأمن السيبراني، تقوية أمن ومرونة الفضاء السيبراني الوطني، تطوير القدرات ونشر الوعي المجتمعي، وتوطيد التعاون الإقليمي والدولي، مشيرًا إلى أن المغرب صنف ضمن الفئة الأولى كنموذج يحتذى به في الأمن السيبراني حسب المؤشر العالمي للأمن السيبراني GCI للاتحاد الدولي للاتصالات لسنة 2024، بمعدل 97.5/100.

غير أن المجلس لم يغفل تسجيل التحديات المستمرة، مؤكداً استمرار بروز الهجمات السيبرانية التي تؤثر سلبًا على حقوق الإنسان، من انتهاك الخصوصية وتعطيل الوصول إلى المعلومات إلى تهديد حرية التعبير والأمن الشخصي، مشيرًا إلى أن المغرب تعرض سنة 2024 لما مجموعه 644 هجومًا سيبرانيًا، وفقًا لمعطيات المديرية العامة لأمن نظم المعلومات، فضلاً عن حوالي 13 مليون هجوم سيبراني استهدف المغرب وفقًا لمعطيات “Kaspersky”، إضافة إلى أكثر من 6.4 مليون محاولة تصيد احتيالية و1.6 مليون ملف ضار تم حظرها.

وأكد المجلس أن أهم التحديات تكمن في توظيف التكنولوجيات الحديثة لتسهيل ارتكاب الجرائم، ملاحظًا إطلاق منصة “إبلاغ” من طرف المديرية العامة للأمن الوطني في يونيو 2024، والتي تتيح للمواطنين التبليغ عن التهديدات والمخاطر التي تهدد الأمن العام، خاصة في الفضاء الرقمي، موضحًا أن الجرائم السيبرانية ارتفعت بنسبة 40% لتبلغ 8.333 قضية، في حين سجل الابتزاز الرقمي 3.265 محتوى مرتبطًا به، بينما تراجعت قضايا الابتزاز الجنسي عبر الإنترنت بنسبة 23%، مسجلة 391 قضية.

وشدد المجلس على ضرورة أن تراعي استراتيجية التحول الرقمي حقوق الأشخاص المسنين وذوي الإعاقة والفئات الهشة رقميًا، مؤكدًا على التزامه بالحق في الولوج للإنترنت للجميع، باعتباره جوهر المشاركة وتمكين التنمية الاقتصادية وتعزيز مجموعة من الحقوق والحريات الرئيسية، مضيفًا أن جودة الربط لها أثر مباشر على المساواة ومحاربة التمييز.

ولفت المجلس إلى انخراط الجامعات المغربية في ورش الرقمنة والذكاء الاصطناعي، مشيرًا إلى ارتفاع عدد الطلبة المسجلين في مختلف مسالك الرقمنة والذكاء الاصطناعي من حوالي 10.000 خلال الموسم الجامعي 2022-2023 إلى أزيد من 21.000 خلال الموسم الجامعي 2023-2024، في أفق بلوغ 22.500 خريج سنويًا ابتداءً من سنة 2027، مع تعزيز التكوينات المتعلقة بحقوق الإنسان والأثر المحتمل للرقمنة على الحقوق والحريات.

وأوضح المجلس أن مجموع الاشتراكات في الإنترنت تجاوز 40 مليون اشتراك بنهاية دجنبر 2024، بمعدل نفاذ بلغ 109.21%، ما يعكس تطورًا في شمولية النفاذ للخدمات الرقمية وتقليص الفجوة الرقمية، داعيًا إلى استخدام الذكاء الاصطناعي لتحسين حياة الفئات المهمشة وتمكين الأشخاص في وضعية إعاقة من أدوات تعزز استقلاليتهم، ومشدداً على رفع مستوى الوعي بالمخاطر المرتبطة بهذه التقنيات، لا سيما التحيزات الخوارزمية، وإعادة إنتاج الصور النمطية، وجمع المعطيات الشخصية بشكل غير مشروع.

وجدد المجلس التأكيد على التوصيات الحقوقية الخاصة بوضع إطار قانوني ينظم استخدامات الذكاء الاصطناعي وفق مقاربة حقوقية، خاصة في القطاعات الحيوية كالعدالة والتعليم والصحة، ودعم الاستراتيجية الرقمية الوطنية باعتماد استراتيجية وطنية خاصة بالذكاء الاصطناعي تراعي الأبعاد الحقوقية والثقافية والبيئية في تصميم الخوارزميات، مؤكدًا التزامه بإعداد تقارير موضوعاتية مستقبلية حول القضايا الناشئة، بما فيها الذكاء الاصطناعي وحقوق الإنسان، في أفق 10 دجنبر 2028.