الحكومة الأميركية اعتمدت على أداة ذكاء اصطناعي قديمة.. والنتائج كارثية

مصدر الصورة

تستعد حكومة ترامب في الأيام القادمة لإلغاء مجموعة من العقود المتعلقة بوزارة شؤون المحاربين القدامى خلال هذا العام، وذلك ضمن أنشطة إدارة الكفاءة الحكومية التي يرأسها إيلون ماسك ويعمل بها مجموعة من المهندسين التابعين له، وبحسب التقرير الذي قدمه موقع "بروبوبليكا" (ProPublica)، فإن إدارة الكفاءة الحكومية اعتمدت على نموذج ذكاء اصطناعي عتيق وأقل تطورًا، فكانت النتيجة تضخم مبالغ قيمة عقود، وتقدير خاطئ للحالة الصحية للمحاربين القدامى.

وعلى سبيل المثال، أخطأ النموذج في أكثر من مرة بقراءة قيمة عقود الرعاية الصحية لبعض المحاربين القدامى، وجعل قيمة العقد تصل إلى 34 مليون دولار بدلًا من 34 ألف دولار، وبحسب تقرير "بروبوبليكا" فإن إدارة الكفاءة قدمت تقريرًا يضم أكثر من 2000 عقد.

من غير المعروف، إن كانت هذه العقود جميعًا معرضة للإنهاء أم لا تزال قيد المناقشة، إذ قامت وزارة المحاربين القدامى بإنهاء 600 عقد، منها 20 عقدا كانت في تقرير إدارة الكفاءة، وقد رفضت وزارة المحاربين القدامى توضيح أي تفاصيل لأعضاء مجلس الشيوخ الديمقراطيين الذين حاولوا الوصول إلى حقيقة الأمر.

ومن خلال مصادره، استطاع موقع "بروبوبليكا" المهتم بحالات إساءة استخدام السلطة التعرف إلى مجموعة من العقود التي تم إنهائها، منها عقدٌ لصيانة جهاز تسلسل الجينات المُستخدم لتطوير علاجات أفضل للسرطان. وعقدٌ آخر لتحليل عيّنات الدم دعمًا لمشروع بحثي لوزارة شؤون المحاربين القدامى، فضلًا عن مشروع آخر لقياس كفاءة فرق التمريض في التعامل مع المحاربين القدامى.

كما استطاع الموقع الوصول إلى الكود المستخدم من نموذج الذكاء الاصطناعي، الذي يتعرف إلى العقود، ثم شاركه مجموعة من خبراء الذكاء الاصطناعي والعقود عموما، حيث انتقد كثير منهم استخدام الذكاء الاصطناعي في هذا الجانب مع وصف هذا الاستخدام بأنه مشكلة عميقة.

وفي مقابلة أجراها الموقع مع ساهيل لافينجيا، الذي كان أحد المبرمجين العاملين في إدارة الكفاءة الحكومية بإمرة إيلون ماسك، وفي هذه المقابلة، اعترف لافينجيا، أن الإدارة قامت ببعض الأخطاء، وذلك خلال فترة عمله التي لم تتجاوز شهرين.

وأضاف لافينجيا "لن أنصح أحدًا بتشغيل الكود الخاص بي واتباع التعليمات البرمجية الواردة فيه". الأمر أشبه بحلقة من مسلسل "أوفيس" (Office)، حيث يقود ستيف كاريل سيارته إلى البحيرة لأن خرائط غوغل تطلب القيادة إلى البحيرة، مشيرًا إلى أنه أنهى الأداة الخاصة به لفحص العقود خلال 24 ساعة من عمله في إدارة الكفاءة الحكومية، وذلك بالاعتماد على الذكاء الاصطناعي لكتابة الكود الذي يفحص أكثر من 90 ألف عقد في وزارة المحاربين القدامى.