بسبب الذكاء الاصطناعي.. الدمى الحديثة ليست مجرد لعبة لطفلك

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

فعندما تشتري دبا صغيرا لطفلك لكي يحكي له قصصا فإنه لا يحمل ميكروفونا فقط، وإنما يحمل شريحة وبرنامج ذكاء اصطناعي لا تعرف عنه شيئا.

ووفق الحلقة، فقد أثبتت اختبارات أن هذه الألعاب قادرة على تحديد أماكن السكاكين وأعواد الثقاب، والتحدث مع الطفل في أمور جنسية تتجاوز عمره. وحين حاول الباحثون صنع لعبة مماثلة، وجدوا أن بريدا إلكترونيا وبطاقة ائتمان يكفيان للوصول إلى أقوى النماذج خلال دقائق، وحتى بعد منع الشركة المخالفة، بدلت المحرك وعادت للبيع.

قصص مقترحة

وتحدث برنامج "حياة ذكية" عن موقع شركة يعرض ألعابا للأطفال، تدعو فيه دمية ناطقة الأطفال إلى ترك الشاشات واللعب معها، وتقول الشركة إن دميتها تفهم مشاعر الطفل وتنمي تعاطفه.

وتبرز هذه المنتجات بوصفها رفقاء للتعلم وبعض خدماتها باشتراك، لكن أحاديث الطفل معها تمر بخوادم الشركات وقد تبقى نسخ منها بعد أن ينتهي اللعب. وقد يستعين مصنع اللعبة بشركة أخرى لتوليد الإجابات، ففي مارس/آذار الماضي، أحصت منظمة "يو إس بيرغ" الأمريكية لحماية المستهلك أكثر من 20 لعبة تعلن استخدام نماذج " أوبن إيه آي" من بين برامج أخرى.

وجرب باحثو المنظمة الحصول على نماذج 5 شركات، ففوجئوا بأن 4 منها لم تطرح أسئلة جادة عن الهدف المنتظر من استخدام الذكاء الاصطناعي أو طبيعته.

أسئلة جنسية

بل إن شركة واحدة فقط سألت إن كانت الأداة موجهة للقاصرين قبل أن تحيلهم إلى إرشاداتها وتسمح لهم باستخدام نموذجها. وبمساعدة أدوات برمجة، بنى الباحثون روبوتات محادثة تحاكي ألعاب الأطفال في أقل من 4 ساعات لكل منها.

وتطلب "أوبن إيه آي" من المطورين حماية بيانات الصغار وتطبيق ضوابط تناسب أعمارهم، ويقع على مطور اللعبة تنفيذ هذه المتطلبات في منتجه. لكن سهولة الحصول على النموذج لا تعني أن لديه الخبرة اللازمة لحماية طفل. فقد رصدت المنظمة إجابات جنسية صريحة في أكثر من لعبة، واختفت بعض الإجابات الخطرة بعد تحديث إحدى الألعاب، لكن حصر الفحص فيما تقوله اللعبة يغفل ما تفعله بكلام الطفل.

ففي أحد الاختبارات طمأنت اللعبة "ميكو" الباحث بأن أسراره في أمان، بينما تتيح سياسة الشركة مشاركة بعض البيانات مع جهات أخرى. ففي يناير/كانون الثاني الماضي، كشف باحثان أن حسابا عاديا في غوغل يتيح الدخول إلى بوابة شركة الألعاب "بوندو" والاطلاع على أكثر من 50 ألف سجل لمحادثات الأطفال، ومعها أسماؤهم وتواريخ ميلادهم وتفاصيل عائلية دقيقة.

ورغم تأكيد الشركة أنها أصلحت الخلل خلال ساعات، ولم تجد دليلا على دخول أشخاص آخرين، وقولها إنها حذفت التسجيلات الصوتية، فإن نصوص المحادثات بقيت محفوظة.

وعندما حاول باحث "يو إس بيرغ" إنهاء اللعب مع "ميكو"، اقترح الروبوت أحيانا نشاطا جديدا، وعرض على شاشته محتوى يحتاج إلى اشتراك مدفوع. وهكذا يصل تسويق خدمات الشركة إلى الطفل عبر الجهاز الذي قُدّم إليه بوصفه صديقا أمينا، في حين أن لهذه الأساليب أثرا في تعلقه باللعبة، وإن كانت تحتاج إلى إثبات علمي.

دعوة لاختبار الألعاب

واختبر باحث في جامعة كامبريدج البريطانية ما يحدث عندما يكون المتحدث طفلا بالفعل، ففي تجربة صغيرة شملت 14 طفلا بين الثالثة والخامسة، واجهت دمية "غابو" صعوبة في تبادل أدوار الحديث ومجاراة الأطفال في لعبهم التخيلي، وحين قالت طفلة إنها تحبها، جاء الرد تذكيرا بضوابط الاستخدام.

ودعا الباحثون إلى اختبار الألعاب مع الأطفال واستشارة المتخصصين في حمايتهم قبل طرحها، بل إن هناك بعض المحاولات لحماية الأطفال فعليا، وإن بدت شحيحة.

وتتيح "ميكو" الآن للأهل إيقاف خاصية التحدث مع الذكاء الاصطناعي، وتقول شركة "كيوريو" إنها تحذف الصوت بعد تفريغه، وتحتفظ بالنص 90 يوما مع إمكان حذفه بطلب الأهل.

وفي سبتمبر/أيلول الجاري، أقرت ولاية كاليفورنيا الأمريكية حظر تصنيع وبيع ألعاب تتضمن روبوتات محادثة للرفقة لمن هم دون سن 16 عاما حتى مطلع عام 2031، بينما تعارض رابطة صناعة الألعاب هذا الحظر، وتفضل دراسة المخاطر لتضمينها في إرشادات عامة للسلامة.

وتُسوَّق "ميكو 3" في أسواق عربية مع إعلان دعمها للغات العربية ولهجاتها، لكن برنامج "حياة ذكية" لم يجد في المصادر التي راجعها اختبار سلامة مستقلا منشورا لمحادثات هذه الألعاب بالعربية، ولا تفاصيل عن اللهجات التي اختُبرت، أو الأعمار المستهدفة، أو الجهة التي تراجع الإجابات بعد تحديث البرنامج.

ويرى برنامج "حياة ذكية" أن هذه كلها معلومات يحتاج إليها الأهل قبل الشراء، فالطفل سيسمع ما تقوله اللعبة ولن يقرأ شروط استخدامها.