الوجه المظلم للذكاء الاصطناعي.. مقاطع الفيديو المصنوعة عبر تطبيق "سورا 2" تثير الجدل 

في الوقت الذي يتحدث فيه كبار عمالقة التكنولوجيا عن مستقبل أكثر ابتكاراً بفضل الذكاء الاصطناعي، تفجّرت موجة جدل واسعة بعدما تحولت أداة "سورا 2" من "OpenAI" إلى منصة لإنتاج محتوى مسيء ومحمّل بالعنصرية والتنمر على الوزن.

القصة بدأت عندما أشاد الرئيس التنفيذي لـ"نتفليكس"، تيد ساراندوس، بقدرات الذكاء الاصطناعي وما يوفره من أدوات تساعد على رواية القصص بشكل أفضل وأسرع.

لكن الواقع على الأرض بدا مختلفاً تماماً، إذ غمرت مواقع التواصل الاجتماعي سيل من المقاطع الساخرة القاسية، المنتجة عبر "سورا 2"، والتي تستهدف أشخاصاً بسبب مظهرهم أو عرقهم، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business".

من بين أكثر الأمثلة انتشاراً، مقطع تخطى حاجز المليون مشاهدة يُظهر امرأة بدينة أثناء قفزها بالحبال، قبل أن ينهار الجسر تحتها في مشهد مصنوع رقمياً بالكامل.

وفي مقطع آخر لا يقل عنصرية، تظهر امرأة سمراء تسقط عبر أرضية أحد مطاعم الوجبات السريعة، في تلميح فجّ يجمع بين التنمر على الوزن والتمييز العِرقي.

كما ظهرت فيديوهات أخرى لسائقي توصيل ينهار بهم مدخل المنزل أو أشخاص ينتفخون بعد تناول الطعام.

المقلق أكثر أن عدداً كبيراً من المتابعين اعتقد أن هذه المقاطع حقيقية، بفضل جودة سورا 2 التي تجعل من الصعب التمييز بين المشاهد المصطنعة والواقعية.

أزمة أخلاقية تتجاوز حدود المحتوى السيئ

يرى خبراء أن المشكلة لا تتوقف عند حدود الذوق السيئ، بل تكمن في أن أدوات الذكاء الاصطناعي باتت تمكّن أي شخص، مهما كانت نواياه، من إنتاج محتوى مسيء بكميات هائلة وفي ثوانٍ معدودة، بعدما كان الأمر يحتاج سابقاً إلى خبرات وتقنيات وإنتاج معقد.

هذه الظاهرة، بحسب مراقبين، تكشف أيضاً فشل أدوات الحماية والضوابط التي تتحدث عنها شركات الذكاء الاصطناعي، والتي يفترض أن تمنع نشر المحتوى العنصري والمسيء، إلا أن المقاطع المنتشرة حالياً تثبت العكس.

لماذا يجب أن نهتم؟

الانتشار السريع لهذه الفيديوهات لا يمثل مجرد تنمر رقمي، بل يساهم في تشكيل تصورات سلبية لدى ملايين المستخدمين، خاصة الأطفال والمراهقين الذين قد لا يدركون أن ما يشاهدونه غير حقيقي.

وكلما حصدت هذه المقاطع مشاهدات عالية، زاد عدد من يحاولون تقليدها أملاً في الحصول على الشهرة السريعة، ما يخلق دائرة مغلقة من المحتوى المسيء الذي يتحول إلى "ترند".

حتى الآن لم تُصدر "OpenAI" تعليقاً على هذا النوع من إساءة الاستخدام، ما فتح الباب أمام نقاش واسع حول الجهة المسؤولة عندما تتحول أدوات الذكاء الاصطناعي إلى وسيلة لإيذاء الآخرين.

ويرجّح محللون أن تدخل الجهات التنظيمية قريباً على خط الأزمة، في ظل التوسع الهائل لهذه الأدوات وقدرة أي مستخدم على إنتاج محتوى خطير بضغطة زر.

التحدي الأكبر اليوم هو كيفية وضع حدود لهذا الإبداع كي لا يأتي على حساب القيم الإنسانية الأساسية.