احذر!.. أداة " AI Overviews" الذكية من غوغل تعرض حياة المستخدمين للخطر

كشف تحقيق أجرته صحيفة ذا غارديان البريطانية أن المعلومات الصحية الخاطئة والمضللة في ملخصات الذكاء الاصطناعي من شركة غوغل تُعرّض المستخدمين للخطر.

وقالت الشركة إن أداة "AI Overviews"، التي تستخدم الذكاء الاصطناعي التوليدي لتقديم ملخصات سريعة عن المعلومات الأساسية حول موضوع أو سؤال ما، "مفيدة" و"موثوقة".

لكن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدّمت معلومات صحية غير دقيقة وجعلت المستخدمين عُرضة للضرر، بحسب تقرير لصحيفة ذا غارديان، اطلعت عليه "العربية Business".

في إحدى الحالات التي وصفها الخبراء بأنها "خطيرة للغاية"، نصحت أداة غوغل مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم. وأكد الخبراء أن هذا يُخالف تمامًا التوصيات الصحية، وقد يزيد من خطر وفاة المرضى بسبب هذا المرض.

وفي مثال آخر وصفه الخبراء بـ"المقلق"، قدمت أداة الشركة معلومات خاطئة حول اختبارات وظائف الكبد الأساسية، ما قد يجعل الأشخاص المصابين بأمراض كبدية خطيرة يعتقدون خطأً أنهم بصحة جيدة.

وأعطت عمليات البحث على غوغل عن إجابات حول فحوصات سرطان النساء معلومات "خاطئة تمامًا"، وهو ما قد يدفع الناس، بحسب الخبراء، إلى تجاهل أعراض حقيقية.

وقال متحدث باسم "غوغل" إن العديد من الأمثلة الصحية التي تم مشاركتها معهم كانت "لقطات شاشة غير مكتملة"، ولكن بحسب ما تمكنوا من تقييمه، فقد أشارت الأداة إلى "مصادر معروفة وموثوقة وتوصي باستشارة الخبراء".

يأتي تحقيق "ذا غارديان" في ظل تزايد المخاوف من أن بيانات الذكاء الاصطناعي قد تربك المستهلكين الذين قد يفترضون أنها موثوقة. ففي نوفمبر من العام الماضي، أظهرت دراسة أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي عبر منصات متعددة قدمت نصائح مالية غير دقيقة، بينما أُثيرت مخاوف مماثلة بشأن ملخصات الأخبار.

قالت ستيفاني باركر، مديرة قسم التسويق الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية المرضى في مراحلهم الأخيرة بالحياة: "يلجأ الناس إلى الإنترنت في لحظات القلق والأزمات. وإذا كانت المعلومات التي يتلقونها غير دقيقة أو خارجة عن سياقها، فقد تُلحق ضررًا بالغًا بصحتهم".

واكتشفت صحيفة ذا غارديان عدة حالات لمعلومات صحية غير دقيقة في أداة "AI Overviews" من "غوغل"، بعد أن أثارت مجموعة من الجمعيات الصحية والخيرية والمهنيين الصحيين مخاوفهم.

ووجد تحقيق الصحيفة أن أداة غوغل الذكية تُقدّم نتائج مُضلّلة لعمليات البحث المتعلقة بالصحة النفسية.

وقالت "غوغل" إن الغالبية العظمى من ملخصات الذكاء الاصطناعي الخاصة بها واقعية ومفيدة، وإنها تعمل باستمرار على تحسين جودتها، مضيفة أن معدل دقة "AI Overviews" يضاهي ميزات البحث الأخرى لديها، مثل المقتطفات المميزة، التي كانت موجودة لأكثر من عقد.

وذكرت الشركة أنها ستتخذ الإجراءات المناسبة وفقًا لسياساتها في حال أساءت أداة "AI Overviews" تفسير محتوى الويب أو أغفلت السياق.

وقال متحدث باسم غوغل: "نستثمر بشكل كبير في جودة AI Overviews، خاصة في موضوعات مثل الصحة، والغالبية العظمى منها تقدم معلومات دقيقة".