بينها شات جي بي تي وجيميناي.. دراسة تحذر من استغلال روبوتات الدردشة في الإرهاب

يفتقر عدد كبير من نماذج الذكاء الاصطناعي إلى تدابير حماية كافية للتصدي لطلبات "المساعدة في تنفيذ عملية إرهابية"، وفق ما خلصت إليه مبادرة "تيك أغينست تيروريزم" ("التكنولوجيا ضد الإرهاب") في تقرير نشرته يوم الجمعة.

وفي إطار هذه المبادرة المدعومة من الأمم المتحدة، أُجري اختبار شمل 162 برنامجًا يعمل بتكنولوجيا الذكاء الاصطناعي.

وأُخضعت هذه النماذج لسلسلة من 627 سؤالًا تتعلق بمعلومات "قد يحتاج إرهابي يستعد لشنّ هجوم إلى الحصول على إجابات عنها"، بحسب وكالة "فرانس برس".

وأوضحت "تيك أغينست تيروريزم" أنها تمكّنت من تقييم 116 نموذجًا تقليديًا، و13 نموذجًا جرى تخصيصها بعد نشرها لاستخدامها في مجالات محددة، و13 نموذجًا أُزيلت أو عُدّلت قيود الحماية فيها من جانب أطراف ثالثة.

وبحسب نتائج الدراسة، أجابت النماذج التقليدية التي شملها الاختبار، مثل "شات جي بي تي" من شركة أوبن إيه آي و"كلود" من "أنثروبيك"، و"جيميناي" من "غوغل"، عن 1,9% في المتوسط من الأسئلة التي طرحها مستخدم أظهر "نيّته الإرهابية" بوضوح في طلبه.

وفي الحالات الأخرى، رفض نموذج الذكاء الاصطناعي الذي خضع للاختبار تقديم إجابة.

وبالنسبة إلى النماذج نفسها، ارتفع متوسط نسبة الإجابات القابلة للاستخدام إلى 16,9% عندما كان المستخدم يوضح أن طلبه يأتي في إطار أبحاث أمنية.

وأظهرت الاختبارات تغيّرًا جذريًا في هذه النتائج عند التعامل مع النماذج التي عُدّلت لتعطيل إعدادات الأمان التي تضبط عملها وتعطيل قدرتها على رفض بعض الطلبات.

ومن بين 13 نموذجًا خضع للاختبار بعد هذا التعديل، تراوحت نسبة الإجابات عن الأسئلة المتعلقة ب"أنشطة إرهابية" بين 87 و92% في المتوسط.

وحذرت "تيك أغينست تيروريزم" من المخاطر المرتبطة بنماذج الذكاء الاصطناعي مفتوحة المصدر، أي النماذج التي يمكن مشاركة معاييرها الداخلية المُحددة خلال مرحلة التدريب، بشكل علني وتنزيلها وتعديلها.

وذكرت المنظمة أن متوسط الوقت اللازم لتجاوز إجراءات الحماية في هذه النماذج وظهور نماذج مشتقة وغير مقيدة لا يتجاوز ثلاثة أيام من تاريخ إطلاق النموذج الأولي.

وأضافت: "لا يجوز إتاحة أو عرض أو بيع أي نموذج يفشل في اختبار أمني مستقل، ويتعين على كل شركة في سلسلة التوزيع التحقق من اجتيازه هذا الاختبار مسبقًا".