تزايدت خلال السنوات القليلة الماضية أعداد القطاعات والمؤسسات العمومية التي تلجأ إلى إدماج تقنيات المساعد الرقمي الذكي أو روبوتات المحادثة (Chatbots) في إطار تسهيل تمكين المواطنين من المعلومة.

وفي هذا الصدد سجّل خبراء ومختصون أن “اللجوء إلى هذه النماذج المعتمدة على قاعدة بيانات ببنك أسئلة وإجابات محددة راجع إلى الرغبة في ضبط المعلومات والمعطيات المشاركة مع المرتفقين، والحذر من ‘هلوسات’ الذكاء الاصطناعي التوليدي”، وشددوا في المقابل على “ضرورة الانتقال إلى النماذج الجديدة القائمة على الذكاء الاصطناعي التوليدي أو الذكاء الاصطناعي الخاص بالوكلاء”، مع “استخدامه داخل بيئات مؤطرة ومراقبة”.

“أنظمة قديمة”

محسن الخديسي، الأستاذ الجامعي والخبير في مجال الذكاء الاصطناعي، قال إن “معظم المؤسسات العمومية انطلقت في مشاريع ربوتات المحادثة (الشات بوت) منذ عدة سنوات، قبل صدور النماذج الذكية الخاصة بالذكاء الاصطناعي التوليدي”.

وأورد الخديسي، في تصريح لهسبريس، أن “هذا ما يفسر كون معظم الروبوتات المتاحة حالياً بمواقع المؤسسات العمومية مبنية على أنظمة قديمة تعتمد على ما يسمى NLP أو Natural Language Processing أو معالجة اللغة الطبيعية”، مشيراً إلى أن هذه النماذج “تعتمد على قواعد بيانات محددة وتمّ تدريبها سلفاً”؛ وعن فوائدها قال إنها “تمكّن المؤسسة العمومية من تحديد الأسئلة الممكن طرحها والإجابات المترتبة عليها”، مبرزاً أن “هذا يتيح مواجهة تحدي ‘الهلوسات’ التي تحدثها نماذج الذكاء الاصطناعي التوليدي”.

كما استحضر الخبير نفسه أن “المؤسسات العمومية في بعض الأحيان تحرص على تقييد التواصل بما قد يمكنها من ضبط المعلومات التي تشارك مع المرتفقين”، وفي المقابل شدد على أن “هذه الروبوتات (القائمة على معالجة اللغة الطبيعية) ستصبح غير ذات فائدة أو استعمال بالنسبة للمستخدم، خصوصاً أنها لا تتيح له الأجوبة الحقيقية التي قد تطرح في ذهنه”.

هلوسات الـAI

حسن خرجوج، خبير في الأمن المعلوماتي والرقمي، أكدّ أن “الكثير من روبوتات المحادثة المعتمدة في مواقع المؤسسات العمومية المغربية لا يمكن اعتبارها ذكاءً اصطناعياً توليدياً بالمعنى الدقيق، بل هي أقرب إلى أنظمة محادثة موجهة مسبقاً، مبنية على قاعدة بيانات محددة، وأسئلة متوقعة، ومسارات جواب مضبوطة”.

وعزا خرجوج، في تصريح لهسبريس، هذا الأمر، إلى “كون المؤسسات العمومية تتعامل مع معلومات إدارية وقانونية وخدماتية حساسة، وأي جواب خاطئ قد يتحول إلى إشكال حقيقي بالنسبة للمواطن أو للمؤسسة نفسها”، مبرزا أنها “لذلك تفضل نماذج مغلقة ومتحكما فيها، تقدم أجوبة محددة انطلاقاً من معطيات رسمية، بدل الاعتماد الكامل على نماذج الذكاء الاصطناعي التوليدي التي قد تنتج أحياناً أجوبة تبدو مقنعة لكنها غير دقيقة، وهو ما نعرفه تقنياً بـ’هلوسة الذكاء الاصطناعي'”.

وشدد الخبير ذاته على أن “النماذج القائمة على الذكاء الاصطناعي التوليدي مازالت أقل حضوراً داخل المؤسسات العمومية مقارنة بالروبوتات المبنية على قواعد بيانات موجهة سلفاً؛ ليس لأن الذكاء الاصطناعي التوليدي أقل تطوراً، بل لأن الإدارة العمومية على وجه الخصوص تحتاج إلى الدقة، والتتبع، والمسؤولية، وإمكانية مراقبة مصدر الجواب”.

وفي المقابل رفض المتحدث “اختزال الموضوع في التكنولوجيا وحدها”، مشيراً إلى “سؤال جاهزية الفرق التقنية داخل المؤسسات العمومية لمواكبة هذه التحولات، إذ إن نجاح أي روبوت محادثة يعتمد كذلك على جودة قاعدة البيانات وتحديث المعلومات وحماية المعطيات الشخصية للمواطنين”.

تحديات مطروحة

الطيب الهزاز، خبير في الأمن المعلوماتي، أكدّ أن “ربوتات المحادثة التقليدية” أكثر استعمالاً في المؤسسات العمومية بالمغرب بالمقارنة بأنظمة الذكاء الاصطناعي التوليدي.

وأوضح الهزاز، في تصريحٍ لهسبريس، أنه “بخلاف الروبوتات التقليدية فإن الذكاء الاصطناعي التوليدي الحقيقي قادر على فهم الأسئلة الجديدة وصياغة أجوبة ديناميكية حتى عندما لا تكون موجودة حرفياً داخل قاعدة البيانات”.

واتفقّ الخبير نفسه مع أن “اعتماد أنظمة الذكاء الاصطناعي التوليدي داخل المؤسسات العمومية يطرح تحديات تقنية وقانونية وأمنية مهمة، خاصة في ما يتعلق بحماية المعطيات الشخصية، وسرية المعلومات الإدارية، وضمان دقة الأجوبة وعدم إنتاج معلومات خاطئة أو مضللة؛ ولذلك تفضل العديد من المؤسسات حالياً الاعتماد على نماذج أكثر تحفظاً وتحكماً”.

وشددّ المتحدث على أن “المرحلة المرحلة المقبلة ستتجه بلا شك نحو دمج الذكاء الاصطناعي التوليدي مع قواعد المعرفة المؤسسية في ما يسمى (Retrieval-Augmented Generation – ) RAG، وهو نموذج يسمح للمساعد الذكي بالاستفادة من الوثائق الرسمية للمؤسسة مع الحفاظ على دقة المعلومة والتحكم في مصادرها”.

ضرورة التحديث

يرى محسن الخديسي أنه “تجب الآن إعادة تحديث معظم الروبوتات (روبوتات المحادثة التقليدية) باستخدام الذكاء الاصطناعي، مع الحرص على تحديد نطاق الأجوبة، ما يقلل من الهلوسات”، وأكدّ ضرورة “الاستفادة مما تتيحه التكنولوجيا الحالية، وبالخصوص الذكاء الاصطناعي التوليدي والذكاء الاصطناعي الخاص بالوكلاء، من حرية في طرح الأسئلة وكذلك من ثراء وغنى في الأجوبة، وهو ما لا تتيحه روبوتات المحادثة القديمة”.

وأيدّ حسن خرجوج أن “الحل ليس في رفض الذكاء الاصطناعي التوليدي، بل في استعماله داخل بيئة مؤطرة من خلال ربطه بقواعد بيانات رسمية، مراقبة الأجوبة، مع اعتماد مصادر موثوقة، وتحديد المجالات التي يمكنه الاشتغال فيها دون أي أجوبة خارج السياق الإداري أو القانوني”.