رسالة تحذير من آبل لغروك.. والسبب صور مزيفة خادشة

عاد تطبيق غروك التابع للملياردير الأميركي إيلون ماسك إلى الواجهة مجدداً، بسبب اتهامات بتوليد صور مزيفة ذات طابع جنسي.

فقد كشفت مصادر مطلعة بأن شركة آبل هددت في رسالة بإزالة "غروك" من متجر التطبيقات بسبب تلك الصور المُزيّفة العميقة

وأوضحت آبل، في رسالة وجهتها إلى أعضاء في مجلس الشيوخ الأميركي أنها هدّدت بشكل خاص في يناير بإزالة تطبيق الذكاء الاصطناعي غروك من App Store، بعد فشل شركة xAI في اتخاذ إجراءات كافية لمنع التطبيق من إنشاء صور مزيفة عميقة عارية أو ذات طابع جنسي، وفق ما نقلت شبكة "إن بي سي".

"غالبيتهم من المشاهير"

فيما بين تحقيق أجرته "أن بي سي" أن عشرات الصور ومقاطع الفيديو المولدة بالذكاء الاصطناعي لأشخاص حقيقيين، نشرت علنًا على منصة إكس خلال الشهر الماضي.

وأظهر المحتوى أشخاصا، غالبيتهم من المشاهير، تم التلاعب بصورهم بواسطة الذكاء الاصطناعي لتغيير مظهرهم وملابسهم بطريقة مثيرة للجدل، ما أثار مخاوف متجددة بشأن إساءة استخدام هذه التقنيات وانتهاك الخصوصية.

كما أشار إلى أن برنامج الذكاء الاصطناعي "غروك" لا يزال يُنتج صورًا جنسية لأشخاص دون موافقتهم، على الرغم من تعهد الشركة قبل أشهر بوقف التزييف العميق المسيء بعد ردود فعل غاضبة من الجمهور وتحقيقات حكومية.

على الرغم من أن عدد الصور الجنسية المزيفة التي أنشأها "غروك" ونُشرت على منصة "إكس" قد انخفض بشكل ملحوظ منذ يناير الماضي.

شركة إكس تنفي

في المقابل، أكدت شركة "إكس إي آي" في منشور مساء أمس الثلاثاء أنها تحظر بشكل صارم إنشاء مقاطع أو صور مزيفة عميقة من دون موافقة أصحابها، أو استخدام أدواتها لتجريد أشخاص حقيقيين من ملابسهم.

كما شددت الشركة على أنها تطبّق مجموعة واسعة من إجراءات الحماية لمنع مثل هذا الاستخدام المسيء، من بينها المراقبة المستمرة للاستخدام العلني، وتحليل محاولات التحايل في الوقت الحقيقي، والتحديثات المتكررة للنماذج، وفلاتر الأوامر، إلى جانب ضمانات إضافية.