والدة أحد أبناء إيلون ماسك تقاضي شركته xAI بسبب صور غروك العارية

رفعت آشلي سانت كلير، والدة أحد أبناء إيلون ماسك، دعوى قضائية يوم الخميس ضد شركته للذكاء الاصطناعي "xAI"، متهمةً الشركة بالإهمال والتسبب في أذى نفسي لها، وذلك من خلال تمكين مستخدمي روبوت الدردشة "غروك"، الذي طورته الشركة، من إنشاء صور مزيفة بتقنية التزييف العميق لها في أوضاع فاضحة، وعدم اتخاذها إجراءات كافية للحد من هذا السلوك بعد شكواها.

تأتي الدعوى بعد أسابيع من ردود الفعل الغاضبة المتزايدة ضد قدرة "غروك" على إنشاء صور مزيفة دون موافقة أصحابها، مما يسمح للمستخدمين بإزالة الملابس عن أشخاص في الصور التي يتم رفعها إلى الخدمة، وغالبًا ما تُستبدل الملابس بملابس سباحة أو ملابس غير لائقة.

وقد رُفعت دعوى سانت كلير في محكمة ولاية نيويورك، لكنها نُقلت سريعًا إلى المحكمة الفيدرالية للمنطقة الجنوبية من نيويورك بناءً على طلب من شركة "xAI"، بحسب تقرير لسي إن بي سي، اطلعت عليه "العربية Business".

وجاء في الدعوى أن سانت كلير أبلغت "xAI" بأن المستخدمين يقومون بإنشاء صور مزيفة بتقنية التزييف العميق لها "كطفلة ترتدي بيكيني" و"كبالغة في أوضاع جنسية صريحة"، وطلبت منع "غروك" من إنشاء هذه الصور دون موافقتها.

وتزعم الدعوى أنه رغم تأكيد "غروك" لها أن "صورها لن تُستخدم أو تُعدَّل دون موافقة صريحة في أي عمليات توليد أو ردود مستقبلية"، واصلت "xAI" السماح للمستخدمين بإنشاء المزيد من الصور الفاضحة المولدة بالذكاء الاصطناعي لها، وبدلًا من ذلك اتخذت إجراءً انتقاميًا تمثل في وقف تحقيق الدخل من حسابها على منصة إكس التابعة لإيلون ماسك.

يوم الخميس، رفعت "xAI" دعوى قضائية ضد سانت كلير في محكمة فيدرالية بولاية تكساس، متهمة إياها بانتهاك شروط خدمة "xAI"، ومطالبة بتعويضات تزيد عن 75 ألف دولار. وقالت "xAI" في دعواها إن أي دعاوى ضد الشركة يجب رفعها إما في المحكمة الفيدرالية بالمنطقة الشمالية من تكساس أو في محاكم ولاية تكساس في مقاطعة تارانت بولاية تكساس.

في الأسبوع الماضي، قيّدت منصة إكس قدرات روبوت الدردشة غروك على الرد عبر ميزة "@Grok"، لمنعه على ما يبدو من إنشاء صور تُظهر أشخاصًا بملابس سباحة أو ملابس داخلية فاضحة دون موافقتهم. لكن هذه القدرات متاحة في تطبيق غروك المستقل وموقع غروك الإلكتروني، وفي تبويب غروك المخصص على منصة إكس.

وبدأ غروك منذ أسابيع في إنشاء سيل من الصور الجنسية المُولّدة بالذكاء الاصطناعي، حيث وصل معدل إنتاجه إلى آلاف الصور في الساعة خلال الأسبوع الماضي، وفقًا للباحثين. وقد نُشرت العديد من هذه الصور علنًا على منصة إكس.

وأثار إنشاء هذه الصور الجنسية غير الرضائية وانتشارها ردود فعل عالمية، شملت عدة تحقيقات حكومية ودعوات لمتاجر تطبيقات الهواتف الذكية لحظر منصة إكس أو تقييدها. غير أن الجهات التنظيمية وشركات تقنية أخرى توقفت حتى الآن عن فرض قيود على التطبيق.

وتزعم دعوى سانت كلير أن خاصية غروك التي تسمح للمستخدمين بإنشاء صور مزيفة دون موافقة أصحابها تُعد عيبًا في التصميم، وأن الشركة كان بإمكانها توقع استخدام هذه الخاصية لمضايقة الناس بصور غير قانونية.

وجاء في الدعوى أن الأشخاص الذين ظهروا في الصور المزيفة، بمن فيهم سانت كلير، عانوا من ضائقة نفسية شديدة.