شعار المساعد الذكي Copilot من مايكروسوفت (رويترز)

كشف تقرير أن متعاقدين بشريين كانوا يراجعون محرر الصور في مساعد الذكاء الاصطناعي "كوبيلوت" من شركة مايكروسوفت، كانوا قادرين على رؤية طلبات المستخدمين والصور التي يرفعونها والتعديلات التي ينشئها الذكاء الاصطناعي.

وأظهرت وثائق أن بعض هذه المهام تتضمن مواد جنسية أو مزعجة أو قد تكون غير قانونية. ومع ذلك، لا تتمثل مهمة المراجعين في الإبلاغ عن المحتوى، بل يتقاضون أجورًا لتقييم مدى جودة تنفيذ "كوبيلوت" للطلب، بحسب تقرير لموقع "404 Media" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وفي مهمة نموذجية، يتلقى المتعاقد طلب المستخدم والصورة الأصلية، إلى جانب تعديلين أنشأهما "كوبيلوت"، ويتعين عليه تحديد النسخة التي تتبع التعليمات بشكل أفضل.

ويغطي التقييم أربعة جوانب؛ إذ يتحقق المراجعون مما إذا كان "كوبيلوت" قد نفذ التعديل المطلوب، وأبقى الأجزاء غير المرتبطة بالصورة دون تغيير، وتجنب العيوب المرئية، وأنتج صورة جيدة بشكل عام. فإذا طلب المستخدم من النظام، على سبيل المثال، إضافة كوب إلى طاولة، فينبغي أن يكون الكوب هو التغيير الوحيد.

كما توجّه التعليمات -التي اطلع عليها موقع "404 Media"- المتعاقدين بالاعتماد على أحكامهم الشخصية. إذ تنص إحدى التعليمات على: "ثق بحدسك؛ فعند إلقاء نظرة سريعة على الصورتين المعدلتين جنباً إلى جنب، أيّهما تبدو لك للوهلة الأولى أفضل من حيث التعديل؟ إن انطباعك الأولي كمشاهد بشري له أهميته".

وتتابع التعليمات: "عندما تكون في حيرة، اعتمد على انطباعك الأول. الحدس البشري جيد في اكتشاف الفروق الدقيقة في الجودة التي يصعب وصفها".

لكن العديد من المهام تتجاوز تعديل الصور الاعتيادي. وقال متعاقدون إنهم شاهدوا طلبات لتكبير صدور النساء، أو تقصير تنوراتهن، أو إظهار المزيد من سيقانهن، أو وضع أشخاص في أوضاع جنسية. وشملت مهام أخرى موادًا تروّج لفقدان الشهية، وصورًا ذات طابع جنسي تتضمن شخصيات كرتونية للأطفال.

وقال أحد المتعاقدين لـ"404 Media": "الوجوه دائمًا غير محجوبة، والعديد من الطلبات ذات طبيعة جنسية وموافقتها موضع شك".

ولا توظف "مايكروسوفت" المراجعين لمراقبة هذه الطلبات أو تحديد ما إذا كان ينبغي لـ"كوبيلوت" قبولها، بل تتمثل مهمتهم في تقييم جودة استجابته. وفي بعض الحالات، يعني ذلك تحديد أي المخرجات يتطابق بشكل أكبر مع طلب المستخدم لإجراء تعديل ذي طابع جنسي.

وقال متعاقدون آخرون إنهم كانوا يفتحون المهام أحيانًا دون معرفة محتواها.

وتشير الوثائق إلى أن ما لا يقل عن مئات المراجعين البشريين يرون أحيانًا محتوى أرسله مستخدمو "كوبيلوت". وهذا يعني أن الصور التي يرفعها المستخدمون للتعديل قد يطلع عليها متعاقد كجزء من عملية "مايكروسوفت" لتقييم النموذج.

وتُعد شركة "بروليفيك" (Prolific) واحدة على الأقل من الشركات التي توظف متعاقدين لهذا العمل، وهي توفر خدمات الملاحظات البشرية لضبط التفضيلات، وتقييمات السلامة، ومعايير قياس أداء أنظمة الذكاء الاصطناعي.

ولم ترد "بروليفيك" على طلب "404 Media" للتعليق. وقال متحدث باسم "مايكروسوفت" للموقع: "تستخدم مايكروسوفت بيانات العملاء كما هو موضح في شروط الاستخدام الخاصة بنا، بما في ذلك لتحسين منتجاتنا وإنفاذ قواعد السلوك الخاصة بنا".

وتستخدم شركات التكنولوجيا منذ فترة طويلة متعاقدين لمراقبة المحتوى المنشور على الإنترنت وتصنيف البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي.

لكن المهام الموكلة إلى متعاقدي "كوبيلوت" والموضحة في الوثائق تخدم غرضًا مختلفًا. فبدلًا من فحص المواد بحثًا عن مخاطر تتعلق بالسلامة، يقارن المتعاقدون بين المخرجات للمساعدة في تحسين دقة محرر الصور واتساقه وقدرته على اتباع الطلبات.