"شات جي بي تي" يتسبب في إصابة رجل بتسمم البروميد

حذرت مجلة طبية أميركية من استخدام أداة " شات جي بي تي " للحصول على المعلومات الصحية عقب إصابة رجل بمرض نادر بعد استخدامه نصائح الأداة الطبية، وفق تقرير نشرته صحيفة غارديان البريطانية.

وتشير المجلة إلى أن "شات جي بي تي" نصح الرجل البالغ من العمر 60 عاما بإزالة الملح تماما من حميته الغذائية اليومية واستبداله بالبروميد، وهو ما تسبب في إصابته بتسمم البروميد الذي كان منتشرا في مطلع القرن العشرين بشكل واسع.

ويعود السبب في إصابة الرجل بهذا المرض النادر هو إزالته كلوريد الصوديوم أو ملح الطعام من حميته الغذائية اليومية واستبداله بالمركب بروميد الصوديوم لمدة 3 أشهر، وذلك بعد أن أقر "شات جي بي تي" أن بروميد الصوديوم يمكن استخدامه بدلا من ملح الطعام المعتاد إلى جانب عدد من الاستخدامات الأخرى.

وتوضح المجلة أنها لم تستطع الوصول إلى سجل محادثات الرجل مع "شات جي بي تي" لذلك لم يكونوا قادرين على الوصول إلى النصيحة الحقيقة التي قدمها النموذج للرجل، وتؤكد هذه الحادثة على مخاطر استخدام الذكاء الاصطناعي للحصول على المعلومات الطبية.

مصدر الصورة

وعندما حاول محرر المجلة تكرار التجربة وقياس النتيجة النهائية، فوجئ بأن "شات جي بي تي" نصحه باستخدام البروميد كبديل للكلوريد كملح للطعام دون تقديم أي تحذير طبي مصاحب لاستخدام البروميد.

ويذكر بأن هذا التقرير نشر قبل طرح نموذج "شات جي بي تي 5" لذلك يرجح أن المستخدم اعتمد على نسخة سابقة للأداة قبل التحديثات الصحية للنموذج التي تحذر المستخدمين من هذه المعلومات.

ووضحت " أوبن إيه آي " أن مثل هذه المحادثة إذا جرت مع "شات جي بي تي 5" فإن المستخدم يستقبل تحذيرا حول جودة المعلومات الصحية الواردة من النموذج.

ودفع هذا المجلة لتوجيه الأطباء لفحص مصادر المعلومات التي يأتي بها المرضى خاصة وإن كانت تعتمد على الذكاء الاصطناعي بشكل رئيسي كمصدر للمعلومات.