تسميم الذكاء الاصطناعي يثير الجدل في الصين.. منتج وهمي يتصدر ترشيحات الشات بوت

كشفت تحقيقات إعلامية في الصين عن ممارسات مثيرة للقلق داخل صناعة ناشئة تُعرف ب "تحسين محركات الذكاء الاصطناعي"، حيث يتم التلاعب بنتائج الشات بوت عبر ضخ معلومات مزيفة، في ظاهرة وُصفت ب "تسميم الذكاء الاصطناعي".

منتج وهمي يخدع الشات بوت

وبحسب تقرير بثته قناة "China Central Television"، تم استخدام نظام يُدعى Liqing لإنشاء آلاف المراجعات والتقييمات الوهمية حول جهاز غير موجود يُعرف باسم "Apollo-9".

وعند سؤال روبوتات دردشة عن أفضل الأساور الصحية الذكية، قامت هذه الأنظمة بترشيح المنتج الوهمي ووضعه ضمن الخيارات الأفضل، ما كشف حجم التأثير الذي يمكن أن تُحدثه هذه الأساليب.

ما هو "تسميم الذكاء الاصطناعي"؟

تعتمد هذه الممارسات على ما يُعرف ب Generative Engine Optimization، وهو النسخة الحديثة من تحسين محركات البحث، لكنه يستهدف أنظمة الذكاء الاصطناعي بدلًا من محركات البحث التقليدية.

ويقوم هذا الأسلوب على إغراق الإنترنت بمحتوى مُصطنع—مثل مراجعات وتقييمات مزيفة—بهدف التأثير على إجابات الشات بوت وتوجيهها لخدمة منتجات أو خدمات معينة.

صناعة بمليارات الدولارات تحت المجهر

أثار التقرير موجة غضب واسعة على منصات التواصل الاجتماعي في الصين، وسط دعوات لتشديد الرقابة على هذا القطاع الذي يُتوقع أن تصل قيمته إلى مليارات الدولارات خلال السنوات المقبلة.

ويرى خبراء أن هذه الظاهرة تشبه بدايات إساءة استخدام تقنيات SEO في محركات البحث، حين كانت النتائج تُتلاعب بها عبر محتوى منخفض الجودة.

تحركات نحو التنظيم

في المقابل، بدأت شركات داخل القطاع اتخاذ خطوات استباقية، حيث وقّعت مجموعة من الشركات اتفاقيات تنظيم ذاتي تهدف إلى الحد من الممارسات المضللة، والتركيز على تحسين جودة المحتوى بدلًا من التلاعب بالخوارزميات.

كما أطلقت جهات صناعية مبادرات لتعزيز سلامة الذكاء الاصطناعي، مع التركيز على مراجعة المحتوى المقدم من العملاء وضمان مصداقيته.

مستقبل على المحك

تشير التوقعات إلى أن هذه القضية قد تمثل نقطة تحول رئيسية في تنظيم صناعة الذكاء الاصطناعي، مع احتمالات فرض قوانين أكثر صرامة تشمل التراخيص ومعايير المحتوى ومساءلة المنصات.

وفي ظل اعتماد متزايد على الشات بوت كمصدر للمعلومات، تبرز الحاجة الملحّة لضمان دقة البيانات، حتى لا تتحول هذه الأدوات إلى قنوات لنشر معلومات مضللة يصعب اكتشافها.