هل بدأ عصر قراصنة الذكاء الاصطناعي؟ وكيل آلي يخترق أكبر مستودع للنماذج

تعرضت منصة "هاغينغ فيس" التي تستضيف نماذج الذكاء الاصطناعي مفتوحة المصدر لهجوم سيبراني شنه وكيل آلي يعتمد على التقنية وتمكن من الوصول إلى مجموعات البيانات الداخلية وبيانات الاعتماد السحابية الموجودة بالمنصة، وفق تقرير موقع "بي سي ماغازين" التقني الأمريكي.

وتعد "هاغينغ فيس"، التي تتخذ من مدينة نيويورك مقرا لها، إحدى أكبر المنصات التي توفر خدمات الذكاء الاصطناعي مفتوح المصدر وتضم أكثر من مليوني نموذج ذكاء اصطناعي من مختلف الشركات حول العالم بما فيها " أوبن إيه آي"، فضلا عن النماذج الصينية، وفق التقرير.

اقرأ أيضا

وأعلنت المنصة عن الاختراق في الأيام الماضية فور اكتشافه، ثم كشفت فحوصها الأمنية اللاحقة آلية تنفيذه التي تضمنت استخدام وكيل ذكاء اصطناعي نفذ عشرات آلاف الإجراءات المؤتمتة داخل أنظمتها الداخلية.

واستغل المهاجم آلية رفع البيانات والنماذج في المنصة، إذ رفع المهاجم مجموعة بيانات خبيثة إلى خوادم الشركة تستغل ثغرة تنفيذ الشيفرات عند تحميل مجموعات البيانات داخل المنصة، ثم تحركت الشيفرة الخبيثة لتحصل على وصول إلى مستويات متنوعة من البيانات ورموز الوصول وتبدأ في جمعها، وفق تقرير "بي سي ماغازين".

مصدر الصورة

وتمكنت المنصة من إيقاف الهجوم عبر إزالة الشيفرة الخبيثة وتعديل الصلاحيات المختلفة ورموز الوصول التي تسربت من داخلها.

ويكشف تقرير موقع "بي سي ماغازين" أن أسلوب الهجوم الذي تعرضت له المنصة يتطابق مع سيناريو "وكيل الذكاء الاصطناعي المهاجم" الذي حذر منه خبراء الأمن السيبراني وتوقعوه منذ صعود وكلاء الذكاء الاصطناعي وتطور النماذج في الآونة الأخيرة.

وما تزال الجهة التي تقف وراء الهجوم مجهولة حتى الآن، فضلا عن كون نموذج الذكاء الاصطناعي الذي تم استغلاله لتشغيل الوكيل مجهولا، وذكرت المنصة في بيانها احتمالية استخدام المهاجم لنموذج كسرت حمايته أو نموذج دون قيود أمن سيبراني فعالة، مضيفة أنها ما زالت تجري التحقيقات اللازمة.

وأوضح البيان أن بيانات المستخدمين والنماذج المفتوحة المتاحة للعامة لم تتأثر بالهجوم، ورغم ذلك فإن "هاغينغ فيس" ستتواصل مع أي جهة أو فرد يشتبه في تأثره بالهجوم بشكل مباشر.

ورغم هذا، نصحت المنصة مستخدميها بتغيير بياناتهم الموجودة في المنصة وتحديث رموز الوصول إلى النماذج الخاصة لتعزيز أمنهم الشخصي وحماية النماذج التي يستخدمونها.

ولا يعد هذا الهجوم الأول الذي تتعرض له منصة "هاغينغ فيس"، إلا أنه الأول من نوعه الذي يستغل وكلاء الذكاء الاصطناعي بشكل رئيسي.

الذكاء الاصطناعي يدافع ضد الذكاء الاصطناعي

ويؤكد تقرير "بي سي ماغازين" أن المنصة اعتمدت على نماذج الذكاء الاصطناعي لمواجهة الهجوم واكتشافه وإيقافه في الوقت المناسب، وذلك رغم أن نماذج الدفاع مقيدة بضوابط الأمان، بينما هاجم الوكيل بنموذج مكسور القيود.

ومن بين النماذج التي استخدمتها المنصة، كان نموذج "جي إل إم 5.2" الصيني مفتوح المصدر الذي أحدث ضجة كبيرة في الآونة الأخيرة، وهو الذي تمكن من اكتشاف 17 ألف نشاط مشبوه، فضلا عن استخدام نموذج "ميثوس" من شركة أنثروبيك الأمريكية لمواجهة الهجوم أيضا.

فإن كنت من مستخدمي منصة "هاغينغ فيس" وتعتمد على نماذج الذكاء الاصطناعي المتاحة بها، فهناك مجموعة من الخطوات التي يمكنك القيام بها لحماية بياناتك داخل المنصة وخارجها. وتتضمن هذه الخطوات تغيير رموز الوصول سواء كانت كلمات مرور أو رموز وصول برمجية إلى النماذج المتاحة بالمنصة، خاصة إن كنت تستخدم هذه النماذج في معالجة بيانات حساسة.