خطأ فادح: ذكاء اصطناعي من "غوغل" اخترع عضواً ليس في جسم الإنسان

ارتكب نظام ذكاء اصطناعي جديد للرعاية الصحية من شركة غوغل، يحمل اسم "Med-Gemini"، خطأً فادحًا مؤخرًا أثار حيرة كبيرة في الأوساط الطبية.

وأثناء مراجعة مسح دماغي، أشار نظام الذكاء الاصطناعي إلى وجود مشكلة في عضو يسمى "basilar ganglia"، لكن المشكلة هي أنه لا وجود لهذا العضو في جسم الإنسان.

ربما كان النظام يقصد الـ"basal ganglia" أي "العقد القاعدية"، وهي جزء حقيقي من الدماغ يُساعد في التحكم في الحركة والانفعالات، لكنه خلط بينها وبين "basilar artery" أي "الشريان القاعدي"، وهو جزء مختلف تمامًا، بحسب تقرير لموقع "The Verge" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

ويُظهر اسم العضو الذي اخترعه نظام الذكاء الاصطناعي وهو "basilar ganglia" أنه دمج أسماء "العقد القاعدية" و"الشريان القاعدي" بالإنجليزية.

وقد يبدو هذا النوع من الخطأ بسيطًا، لكن في المجال الطبي، قد تكون له عواقب خطيرة.

وظهر هذا الخطأ في ورقة بحثية نشرتها "غوغل" في وقت سابق من هذا العام لعرض قدرات "Med-Gemini"، وأيضًا في منشور للشركة بمدونتها.

ولم يُلاحظ أحد في "غوغل" المشكلة في البداية، لكن طبيب الأعصاب، برايان مور، هو من لاحظ الخطأ وأبلغ الشركة.

وقامت "غوغل" بتصحيح منشور المدونة سرًا، واستبدلت "basilar ganglia" بـ "basal ganglia"، لكنها لم تُشر إلى هذا التعديل. أما الورقة البحثية فلا تزال حتى الآن دون تحديث.

وقالت "غوغل" لاحقًا إن الأمر مجرد خطأ مطبعي، لكن العديد من الأطباء لم يقتنعون بهذا التفسير، ويقولون إن هذا مثال واضح على هلوسة الذكاء الاصطناعي، حيث يختلق النظام شيئًا ما ويقدمه على أنه حقيقة.

الأمر الأكثر إثارة للقلق هو أن "غوغل" بدأت بالفعل اختبار هذا الذكاء الاصطناعي في بيئات المستشفيات الحقيقية. وأظهر نموذج آخر من نماذجها أيضًا، وهو "MedGemma"، علامات خلل، حيث أعطى في بعض الحالات التشخيص الصحيح عند طرح سؤال مفصل، ولكن عند طرح سؤال أبسط، أغفل المشكلة تمامًا.

وقال الخبراء إن الذكاء الاصطناعي يمكن أن يساعد بالتأكيد في مجال الرعاية الصحية، ولكنه يتطلب إشرافًا دقيقًا، إذ تبدو هذه الأدوات واثقة، حتى عندما تكون خاطئة.