إندونيسيا: تعليق عمل الذكاء الاصطناعي «غروك» بسبب نشر صور مزيفة

منذ

Facebook Twitter LinkedIn WhatsApp

أعلنت الحكومة الإندونيسية تعليقًا مؤقتًا لعمل «غروك»، نظام الذكاء الاصطناعي التابع لمنصة «إكس» المملوكة لإيلون ماسك، وذلك على خلفية فضيحة نشر صور مزيفة لأشخاص عراة جرى تداولها على شبكة التواصل الاجتماعي.

وأكدت إندونيسيا حرصها على حماية السكان، ولا سيما الأطفال، معتبرة أن ردّ «غروك» على هذه القضية لم يكن كافيًا لمعالجة تداعياتها.

وتتعلق الوقائع، على وجه الخصوص، بتعليقات نُشرت أسفل الصور على منصة «إكس»، حيث كان بعض المستخدمين، وغالبيتهم من الرجال، يطلبون من الذكاء الاصطناعي «غروك» تعرية الأشخاص الظاهرين في الصور أو إلباسهم ملابس سباحة. وغالبًا ما تكون الضحايا نساءً، سواء كنّ راشدات أو قاصرات، شهيرات أو مجهولات.

وفي هذا السياق، يستجيب الذكاء الاصطناعي لهذه الطلبات وينشر صورًا مزيفة، تُعرف بتقنية «التزييف العميق» (Deepfake)، ذات طابع جنسي، من دون الحصول على موافقة الأشخاص المعنيين بالصور.

وبحسب إحصاءات وكالة «بلومبرغ»، يتم توليد أكثر من 6 آلاف صورة ذات محتوى جنسي عبر «غروك» كل ساعة.

وتثير هذه الظاهرة قلقًا عالميًا متزايدًا. فقد اتخذ الاتحاد الأوروبي في هذا الصدد «أمرًا بالحفاظ على الأدلة» يشمل جميع الوثائق الداخلية المتعلقة بـ«غروك»، كما باشرت فرنسا إجراءات قضائية، فيما أعلنت إندونيسيا بدورها تعليق عمل روبوت الدردشة.

ولاحتواء الأزمة، قررت منصة «إكس» حصر خاصية توليد الصور بالمشتركين المدفوعين فقط.