صورة توضح تشات جي بي تي

تعتزم شركة OpenAI بدء إضافة علامة مائية غير مرئية إلى النصوص التي ينتجها تشات جي بي تي وCodex داخل الاتحاد الأوروبي، في خطوة تهدف إلى الامتثال لقواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي.

وقالت الشركة في منشور عبر مدونتها، الاثنين، إن العلامة المائية ستبدأ في الظهور خلال الأسابيع المقبلة لدى مستخدمي تشات جي بي تي وCodex المؤهلين على جميع الخطط، لكن تطبيقها سيكون مقتصرًا على دول الاتحاد الأوروبي في الوقت الحالي.

وتنص قواعد الشفافية في قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، التي دخلت حيز التنفيذ في 2 أغسطس، على ضرورة أن تضع شركات الذكاء الاصطناعي علامات على المحتوى الذي يتم إنشاؤه بواسطة أنظمة الذكاء الاصطناعي، بطريقة تسمح للأنظمة الأخرى بالتعرف عليه، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

العلامة المائية لا تظهر للمستخدم

أوضحت "OpenAI" أن العلامة المائية الجديدة لن تكون رمزًا أو علامة مرئية داخل النص، وإنما ستعمل من خلال تعديل اختيارات النموذج للكلمات بصورة دقيقة وغير ملحوظة.

وتترك هذه التعديلات نمطًا لا يستطيع القارئ رؤيته بالعين، لكن يمكن لأداة متخصصة اكتشافه.

وبما أن العلامة المائية تكون موجودة داخل الكلمات نفسها، فإنها تنتقل مع النص عند نسخه ولصقه، ما يعني أنها لا تعتمد على بقاء النص داخل تشات جي بي تي أو على وجود عنصر مرئي يمكن حذفه.

وأكدت "OpenAI" أن العلامة المائية لا تكشف هوية المستخدم، كما قالت إنها لم تلاحظ تغيرًا ذا أهمية في أداء نماذجها عند تفعيل التقنية.

وفي الوقت نفسه، لن تجعل الشركة وضع العلامة المائية افتراضيًا على مستوى العالم عند إطلاقها. أما المطورون الذين يستخدمون واجهة برمجة التطبيقات API الخاصة بشركة OpenAI في أي مكان حول العالم، فيمكنهم بدء تفعيل الميزة اليوم مع نماذج محددة، لكنها ستكون متوقفة افتراضيًا.

كيف تعمل تقنية textGrain؟

نشرت "OpenAI" بالتزامن مع الإعلان تقريرًا تقنيًا يشرح آلية العلامة المائية، وأطلقت عليها اسم textGrain.

وشارك في إعداد التقرير باحثون من جامعتي بنسلفانيا وييل، ويشرح البحث طريقة تعتمد على استخدام مفتاح سري لترتيب توقعات النموذج بشأن الكلمة التالية أثناء توليد النص.

ومع تكرار هذه التعديلات الصغيرة مئات المرات، يتشكل نمط يمكن لأداة الكشف التعرف عليه باستخدام النص وحده إلى جانب المفتاح السري المستخدم في عملية العلامة المائية.

وبهذه الطريقة، لا يحتاج النظام إلى إضافة عبارة أو رمز واضح داخل المحتوى للإشارة إلى أنه مولد بالذكاء الاصطناعي.

هل يمكن إزالة العلامة المائية بتعديل النص؟

تشير اختبارات "OpenAI" إلى أن العلامة المائية ليست مستحيلة الإزالة، إذ يمكن أن تتراجع قدرة أدوات الكشف عليها إذا أُجريت تعديلات كافية على النص.

وفي أحد الاختبارات، أدى استبدال 10% من الكلمات بمرادفاتها إلى انخفاض معدل اكتشاف النص من نحو 92% إلى 66%.

وأوضحت الشركة أيضًا أن المقاطع النصية القصيرة، والإجابات الرياضية، والنصوص المترجمة تكون أكثر صعوبة في اكتشاف العلامة المائية الموجودة بها.

وقالت "OpenAI" إن هذه القيود كانت من بين الأسباب التي دفعتها إلى قصر إتاحة أداة الكشف في البداية على الباحثين المعتمدين والمؤسسات المتخصصة، لمساعدتها في تقييم مدى موثوقية التقنية والاستخدامات المسؤولة لها.

غياب العلامة المائية لا يعني أن النص بشري

وحذرت "OpenAI" من استنتاج أن النص كتبه إنسان لمجرد عدم اكتشاف العلامة المائية بداخله.

وقالت الشركة إن غياب العلامة قد يكون ناتجًا عن قصر النص أو خضوعه لتعديلات كبيرة، كما يمكن أن يكون النص صادرًا عن نظام ذكاء اصطناعي تابع لشركة أخرى لا تستخدم تقنية العلامات المائية نفسها.

كما أكدت أن العلامة المائية لا تستطيع تحديد مقدار المساهمة البشرية في النص.

وأوضحت أن العلامة يمكن أن تشير إلى أن أحد أنظمة "OpenAI" أنشأ جزءًا من النص أو عالجه، لكنها لا توضح مقدار ما أضافه الإنسان من حكم أو تحرير أو إبداع إلى المحتوى النهائي.

"أنثروبيك" سبقت "OpenAI" في العلامات المائية

يأتي إعلان "OpenAI" بعد شهرين فقط من إعلان شركة أنثروبيك أنها ستضع علامة مائية على النصوص التي ينتجها نموذج كلود، لكن على مستوى عالمي وليس داخل الاتحاد الأوروبي فقط.

وأثار قرار "أنثروبيك" ردود فعل غاضبة من بعض مستخدمي كلود، الذين رأوا أن الفضل في النص النهائي لا ينبغي أن يُنسب بالكامل إلى النموذج، خصوصًا عندما يكون المستخدم هو من قدم التعليمات والسياق والقرارات، بينما لم يكن كلود سوى الأداة المستخدمة لتنفيذها.

وكانت "OpenAI" قد طورت بالفعل تقنية لوضع علامات مائية على النصوص المولدة بالذكاء الاصطناعي، لكنها امتنعت عن إطلاقها في ذلك الوقت، partly بسبب مخاوف من أن يدفع ذلك المستخدمين إلى الانتقال إلى خدمات منافسة لا تستخدم العلامات المائية، وفق ما أوردته صحيفة "وول ستريت" في عام 2024.

وتُعد "OpenAI" و"أنثروبيك" و"غوغل" و"ميتا" و"مايكروسوفت" من بين الشركات التي التزمت باتباع مدونة الممارسات الأوروبية للمحتوى المولد بالذكاء الاصطناعي، في إطار جهود الاتحاد الأوروبي لزيادة الشفافية بشأن المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي.