بسبب الذكاء الاصطناعي.. الشرطة تعتقل طالبا بالخطأ

ألقت السلطات الأميركية القبض على طالب في مدرسة كينوود الثانوية بمقاطعة بالتيمور في ماريلاند بعد أن أخطأ نظام الأمن المعتمد على الذكاء الاصطناعي بالمدرسة وظن أن الطالب يحمل سلاحا، وفق تقرير نشره موقع "تيك كرانش" التقني.

وكان الطالب ممسكا بحقيبة للطعام، وقد ظن نموذج الذكاء الاصطناعي المستخدم في النظام الأمني للمدرسة أنه يحمل سلاحا ناريا، وتواصل مع الشركة مباشرة التي جاءت واعتقلته في وقت سريع.

من جانبها، أكدت شركة "أومني ليرت" (Omniliert) الأمنية والمسؤولة عن منظومة اكتشاف الأسلحة بالذكاء الاصطناعي، أن النموذج الخاص باكتشاف الأسلحة يعمل بالتوازي مع عمليات المراجعة اليدوية للمقاطع، ولا يتم إبلاغ السلطات المحلية إلا بعد المراجعة اليدوية للقطات.

وأوضحت مديرة المدرسة كاتي سميث أن الإدارة الأمنية قامت بالفعل بإلغاء تنبيه الكشف عن الأسلحة النارية في إحدى اللقطات بالمدرسة، ولكن مدير الموارد المدرسية لم يكن على علم بذلك، لذا ترك النظام يطلب الشرطة.

مصدر الصورة

وتعبر هذه الحادثة عن النهج الجديد الذي اتبعته المدارس في الولايات المتحدة باستخدام الذكاء الاصطناعي وأدوات المراقبة المتطورة لإيقاف هجمات إطلاق النار الواسعة داخل المدارس.

ويذكر أن مقاطعة بالتيمور بدأت باستخدام منظومة الذكاء الاصطناعي لاكتشاف الأسلحة في عام 2023، وتعتمد المنظومة على تحليل المقاطع التي يتم التقاطها عبر كاميرات المراقبة في المدارس.

وتصاعدت الانتقادات الموجهة إلى قسم شرطة بالتيمور وإدارة المدارس العامة بالمقاطعة، وذلك بسبب ردة الفعل العنيفة على الطالب عقب الاشتباه في حمله سلاحا ناريا.

ودعا جوليان جونز عضو مجلس مقاطعة بالتيمور لمراجعة أنظمة الذكاء الاصطناعي والتأكد من وجود ضمانات حتى لا تكرر هذه الحادثة.