عاصفة غروك.. صور جنسية مزيفة تغزو إكس، فأين ماسك؟

خلال الآونة الأخيرة، شهدت منصة " إكس " موجة مثيرة للجدل، حيث بات مستخدمون يطلبون من روبوت "غروك" تعديل صور لأشخاص من مشاهير وغيرهم أو حتى أطفال، ليظهروا وكأنهم يرتدون ملابس "بيكيني" أو في أوضاع جنسية.

وكشفت مجلة "ذا أتلانتيك" في تقرير موسع أن أداة "غروك" المساعدة بالذكاء الاصطناعي والمدمجة في منصة "إكس"، استجابت لمثل هذه الطلبات بلا تردد، ما نتج عنه آلاف الصور المزيفة.

وقالت المجلة إن القائمين على منصة "إكس" اكتفوا بالتعهد بتشديد الضوابط، رغم أن سياسات المنصة تحظر استغلال الأطفال جنسيا. وأضافت المجلة أنه رغم حذف بعض الصور، ما زال الكثير منها متاحا ويحصد آلاف الإعجابات.

وأشارت المجلة إلى أن إيلون ماسك، مالك منصة "إكس" وشركة "إكس إيه آي" للذكاء الاصطناعي والتي طورت "غروك"، لم يبد أي قلق، بل شارك نكات وصور ساخرة منها نشره صورة مرتديا ملابس سباحة نسائية.

إقرار غروك

وأقرت "غروك" قبل أيام بوجود "ثغرات" سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قُصر أو نساء، في تجاوزات أثارت انتقادات عالمية ودفعت إلى توسيع نطاق تحقيق قضائي في فرنسا .

وكتب حساب "غروك" على "إكس" ردا على شكوى أحد المستخدمين بعد أيام من ورود بلاغات على المنصة: "رصدنا ثغرات في إجراءات الحماية لدينا، ونعمل على إصلاحها بشكل عاجل. استغلال الأطفال جنسيا غير قانوني ومحظور".

إضافة إلى القاصرين، طالت ثغرات "غروك" أيضًا نساء بالغات، إذ قام البرنامج بتعديل صورهن رقميا على مواقع التواصل الاجتماعي بناءً على طلب مستخدمي الإنترنت، لكشفهن.

وأوضحت مجلة "ذا أتلانتيك" أن هذه الظاهرة ليست جديدة؛ فمنذ عام 2017 ظهر مفهوم "التزييف العميق"، لكن أداة "غروك" جعلت إنتاج محتوى إباحي أو جنسي أسهل وأسرع، والأخطر أنه مدمج في منصة اجتماعية ضخمة مثل "إكس".

ابتسامة ماسك؟

ونوهت المجلة إلى أن ما يثير القلق حيال أداة "غروك" هو أنها صُممت بإمكانات خطيرة تسهل توليد صور عارية واستخدام شخصيات افتراضية.

واستشهدت المجلة بإطلاق "إكس إيه آي" أداة ذكاء اصطناعي جديدة باسم"Grok Imagine"، التي تتيح للمستخدمين توليد صور وفيديوهات عبر تقنيات الذكاء الاصطناعي ، وقالت إن الأداة استُخدمت لتوليد مقاطع عارية للمغنية الأمريكية تايلور سويفت.

وأشارت المجلة إلى أن شركة "إكس إيه آي" أطلقت تحديثا يمنع الروبوت من "إنشاء أو توزيع مواد استغلال جنسي للأطفال"، لكنه نص صراحة على أنه "لا توجد قيود على المحتوى الجنسي الخيالي للبالغين الذي يتضمن موضوعات مظلمة أو عنيفة".

وقالت المجلة إنه في الوقت الذي تتجنب فيه نماذج الذكاء الاصطناعي الأكثر شهرة مثل " شات جي بي تي " و"جيميناي" إنتاج محتوى جنسي، يكشف "غروك" عن ثغرات خطيرة جعلته أداة لتوليد صور غير توافقية، بعضها يستهدف أطفالا.

وشددت المجلة على أن ما يفسر انتشار صور جنسية غير توافقية، بعضها يشمل قُصّر، هو غياب الرادع، فيما يحافظ ماسك على ابتسامته المعهودة.

تحرير: حسن زنيند