صورة تعبيرية لشعار شركة OpenAI (رويترز)

انتقد موظف سابق في شركة أوبن إيه آي كان يعمل على سلامة نماذج الذكاء الاصطناعي التابعة للشركة، ما اعتبره ثقافة غير كافية لإدارة المخاطر داخل الشركة الأميركية، داعيًا إلى الاستفادة من تجارب قطاعي الطاقة النووية والطيران.

ونشر الموقع الإلكتروني لمجلة "ذي أتلانتيك" يوم السبت هذه الدعوة التي تأتي في أعقاب دعوات مماثلة وجهت خلال الأسابيع الأخيرة.

ورأى ديفيد روبنسون الذي يقول إنه تولى إعداد التقارير المتعلقة بالسلامة في "أوبن إيه آي" خلال إطلاق 12 نموذجًا مختلفًا، أن الحوادث التي أعلنتها المجموعة منذ بداية الصيف تعكس ثقافة تتسم بالتساهل وعدم الدقة، بحسب ما نقلته وكالة "فرانس برس".

وأوضح أن الأخطاء والقصور التي سمحت لعدد من نماذج الذكاء الاصطناعي بالوصول الذاتي إلى الإنترنت واختراق عشرات المواقع الإلكترونية والمنصات، مرتبطة "بالسرعة والمرونة" اللتين يعمل بهما مُشغّلو هذه التكنولوجيا.

وقال إن "بيئة تسمح بحدوث مثل هذه الأمور ليست مكانًا مناسبًا لتطوير ذكاء اصطناعي قد يصبح أكثر ذكاء منّا وقد لا يُؤدي ما نتوقعه منه".

وبعد أن أمضى ثلاث سنوات ونصف سنة في "اوبن ايه آي"، اقترح روبنسون تبنّي ثقافة إدارة المخاطر نفسها المتبعة في قطاعي الطاقة النووية المدنية والطيران، مع مستويات متعددة من الرقابة والتخطيط الدقيق.

وقال "بهذه الطريقة، لا يُفضي الخطأ البشري العرضي والحتمي إلى كارثة".

وشدد على مفهوم الامتثال، أي التزام النماذج بالقيم الإنسانية وتوجيهات مصمميها.