أثار تداول صور إباحية مزيفة لنساء راشدات وقاصرات، على منصات رقمية مختلفة، غضبا واستنكارا واسعين، وسط تساؤلات متزايدة حول المسؤولية القانونية والأخلاقية لتطبيقات الذكاء الاصطناعي التوليدي.

هذه الصور التي تنتج بدون علم أو موافقة الضحايا، اعتبرت شكلا جديدا من أشكال العنف الرقمي والتشهير، مستهدفة كرامة النساء وسمعتهن، وأثارت جدلا واسعا على المستوى الوطني والدولي حول ضعف الرقابة والضوابط القانونية والتقنية لهذه التطبيقات.

في هذا السياق، وجه الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب سؤالا كتابيا إلى وزيرة الانتقال الرقمي وإصلاح الإدارة، مطالبا بإيضاح تقييم الوزارة لمخاطر هذه التطبيقات، والإجراءات الوقائية والتشريعية والتقنية التي تعتزم اتخاذها لحماية النساء والقاصرات من هذه الممارسات، فضلا عن سبل تقنين استعمال الذكاء الاصطناعي داخل المغرب.

وأشار الفريق البرلماني، من خلال السؤال الذي تقدمت به النائبة خديجة الزومي، إلى تورط بعض تطبيقات الذكاء الاصطناعي التوليدي، مثل تطبيق “Grok”، في إنتاج صور إباحية ومشيئة لأشخاص حقيقيين، بدون علمهم أو موافقتهم، خصوصا لنساء وقاصرات، وهو ما أثار موجة استنكار واسعة على الصعيد الدولي.

وأوضحت البرلمانية أن هذه الصور المزيفة لا تمس النساء فحسب، بل تحمل آثارا نفسية واجتماعية خطيرة، قد تؤدي إلى التشهير والابتزاز وحتى تفكك الأسر، ما يجعل هذه الظاهرة قضية وطنية ذات أبعاد قانونية وأمنية واجتماعية.

وتشير مؤشرات دولية إلى أن عددا من الدول اتخذت بالفعل إجراءات تقيد أو تحظر بعض تطبيقات الذكاء الاصطناعي التوليدي بعد ثبوت قصور الضوابط التقنية والأخلاقية في منع إنتاج محتوى إباحي مزيف، وهو ما دفع الفريق البرلماني إلى المطالبة بتفعيل آليات وقائية مماثلة على الصعيد الوطني، وتحيين الإطار القانوني الجاري به العمل.

وشددت الزومي على ضرورة تقنين تطبيقات الذكاء الاصطناعي من طرف وزارة الانتقال الرقمي، والتنسيق مع باقي القطاعات المعنية لضمان حماية الحقوق الرقمية للمواطنات، ووقف أي استغلال للتقنيات الحديثة في انتهاك كرامة الإنسان، خاصة الفتيات القاصرات، ضمن توجه وطني شامل لمواجهة العنف الرقمي وحماية المجتمع من آثار التشهير الرقمي.