حجم أزمة غروك ينكشف.. روبوت الدردشة أنتج 3 ملايين صورة جنسية في 11 يومًا

بدأ نطاق الصورة الحقيقية لمشكلة التزييف العميق بواسطة روبوت الدردشة غروك يتضح مع استمرار التحقيقات الجارية التي تُجرى على منصة إكس المدمج بها "غروك" ومع شركة الذكاء الاصطناعي الناشئة إكس إيه آي، بشأن ضوابط الأمان الخاصة بروبوت الدردشة.

وفقًا لتقرير صادر عن مركز مكافحة الكراهية الرقمية وتحقيق مشترك لصحيفة نيويورك تايمز، تمكن غروك من إنتاج ما يقدر بثلاثة ملايين صورة جنسية، بما في ذلك 23,000 صورة يُحتمل أن تظهر أطفالًا خلال فترة 11 يومًا بين 29 ديسمبر و8 يناير، وذلك رغم ما يُفترض أن يكون حملة من "إكس إيه آي" على "تفكيك" الصور المزيفة الجنسية.

اختبر مركز مكافحة الكراهية الرقمية عينة من ردود أداة التحرير بنقرة واحدة الخاصة بغروك، والتي لا تزال متاحة لمستخدمي منصة إكس، ووجد أن أكثر من نصف ردود روبوت الدردشة تضمنت محتوى جنسيًا، بحسب تقرير لموقع "ماشابل" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

ووجدت صحيفة نيويورك تايمز أن ما يُقدّر بنحو 1.8 مليون صورة من أصل 4.4 مليون صورة على غروك كانت ذات طبيعة جنسية، بعضها يُصوّر شخصيات مؤثرة ومشهورة. وربطت الصحيفة أيضًا بين الارتفاع الحاد في استخدام "غروك" وبين منشورات الرئيس التنفيذي إيلون ماسك التي ظهر فيها مرتديًا ملابس بحر نسائية، والتي أنشأها غروك.

وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، للصحيفة: "هذا إساءة (استخدام) على نطاق الصناعة للنساء والفتيات"، مضيفًا: "كانت هناك أدوات لإزالة الملابس، لكنها لم تمتلك أبدًا الانتشار وسهولة الاستخدام أو الاندماج في منصة كبيرة كما فعل إيلون ماسك مع غروك".

تعرض "غروك" لانتقاداتٍ حادةٍ بسبب إنتاجه مواد استغلال جنسي للأطفال، وذلك بعد ورود تقارير تفيد بأن روبوت الدردشة المدمج في منصة إكس أنشأ صورًا لقاصرين بملابس فاضحة. وأقرّت المنصة بالمشكلة، وقالت إنها تعمل على إصلاح "الثغرات في إجراءات الحماية" بشكلٍ عاجل.

وتخضع شركة إكس إيه آي، مطورة غروك، لتحقيقاتٍ من قِبل العديد من الحكومات الأجنبية وولاية كاليفورنيا لدورها في إنتاج صورٍ مُفبركةٍ ذات طابعٍ جنسي أو "عارية" لأشخاصٍ وقاصرين. بل إن بعض الدول حظرت المنصة مؤقتًا ريثما تستمر التحقيقات.

لطالما حذرت جهات مراقبة السلامة على الإنترنت الجمهور من دور الذكاء الاصطناعي التوليدي في ازدياد أعداد المواد الجنسية التي تنطوي على استغلال جنسي للأطفال، إضافة إلى الصور الحميمة غير الرضائية.