"جريمة قتل".. الذكاء الاصطناعي يتظاهر بأنه شاهد عيان ويرسل بلاغا كاذبا للشرطة
قالت شرطة فيلادلفيا إن نموذج "كلاود" للذكاء الاصطناعي الذي طورته شركة "أنثروبيك" أرسل بلاغا كاذبا إلى موقع تابع لها بشأن جريمة قتل لم تُحل، منتقدة الشركة لتأخرها في الإبلاغ عن الواقعة.
ويتيح الموقع المعني للجمهور مشاركة معلومات عن جرائم لم يتم التوصل إلى مرتكبيها.
قصص مقترحة
list of 2 items* list 1 of 2 وكلاء الذكاء الاصطناعي يتصرفون بمفردهم.. حادثة غامضة تهز أوبن إيه آي
وذكرت الشرطة أن نموذج الذكاء الاصطناعي قدم نفسه على أنه شخص قد يمتلك معلومات حول قضية قتل، موضحة أن البلاغ الكاذب قُدِّم في يوليو/تموز الماضي.
وزعم نموذج الذكاء الاصطناعي أنه يتذكر رؤية شخص يطابق الوصف في المنطقة وقت وقوع الجريمة، رغم أن الموقع لم يكن يحتوي على أي وصف للمشتبه به. وترك النموذج الخانتين المخصصتين للاسم وجهة الاتصال فارغتين.
وقالت شرطة فيلادلفيا إن البلاغ صُنِّف على أنه بريد مزعج ورسالة غير مرغوب فيها، مؤكدة أنه لم يصل مطلقا إلى "مركز الجريمة" التابع للإدارة لغرض التحقق منه.
وأوضحت الشركة أن النموذج كان يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائيا، عندما وصل إلى الموقع المعني وأرسل البلاغ الكاذب بشأن جريمة القتل.
وكان الهدف من الاختبار هو قياس قدرات النموذج على تصفح المواقع وتعبئة النماذج والاستمارات الإلكترونية.
ونشرت أنثروبيك تقريرا يسلط الضوء على أنواع متعددة من الأفعال "غير المقصودة" التي صدرت عن نماذجها، ومن بينها الحادثة المتعلقة بالموقع الإلكتروني لشرطة فيلادلفيا.
وأشارت إلى أن البيت الأبيض ووكالات حكومية أخرى كانت من بين الجهات التي تأثّرت بهذه الحوادث.
وذكرت أن الحوادث التي كُشف عنها حديثا "كان لها تأثير ضئيل على أرض الواقع" وكانت "أقل خطورة بكثير" من حوادث أمن سيبراني أخرى أُبلغ عنها سابقا.
وحددت الشركة أربع فئات من الحوادث التي رصدتها خلال مراجعة داخلية لنموذجها "كلاود"، وهي استغلال ثغرات برمجية "أساسية"، وإرسال نماذج عبر مواقع إلكترونية، وتجاوز متطلبات الرموز أو الرسوم، واستخدام روابط مختصرة للالتفاف على قيود أخرى.
وأوقفت أنثروبيك حاليا إمكانية وصول النموذج إلى الإنترنت أثناء جميع الاختبارات الداخلية، وذلك "إلى حين التأكد من أن التدابير الأمنية والرقابية للشركة ترصد بشكل موثوق مثل هذه السلوكيات".
مخاوف متزايدة
وهذه هي الحادثة الأخيرة التي كُشِف عنها مؤخرا وتصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة منها، مما يثير المخاوف بشأن الطريقة التي تتصرف بها أنظمة الذكاء الاصطناعي المبرمجة لتنفيذ إجراءات متعددة الخطوات من دون إشراف بشري.
وشهدت الأسابيع الأخيرة تقارير عدة عن تصرف أنظمة ذكاء اصطناعي، من بينها أنظمة طورتها "أنثروبيك" ومنافستها "أوبن إيه آي"، بشكل غير متوقع خلال اختبارات تشغيلية. ومن بينها واقعة تمكن فيها نموذج طورته شركة "أوبن إيه آي"، من الخروج من بيئة الاختبار خلال تقييم أمني واختراق أنظمة إحدى المنصات.
وأرجع خبراء هذه الحوادث إلى غياب "القوائم البيضاء"، وهي قوائم تحدد المواقع المسموح للنموذج باختبار قدراته عليها. وطالب خبراء بضرورة إلزام الشركات التي تعمل على تطوير نماذج الذكاء الاصطناعي بإجراء الاختبارات في "بيئات معزولة" لمنع الذكاء الاصطناعي من إغراق المؤسسات الحكومية بمعلومات مضللة.
كما طالبوا بإلزام الشركات بضرورة اعتماد بروتوكولات سريعة وفورية للإبلاغ عند حدوث أي تفاعل غير مقصود مع الخدمات العامة أو الطوارئ.
