هل "غروك" يعكس أفكار ماسك؟ تسريبات تكشف تأثير الملياردير على الذكاء الاصطناعي

مصدر الصورة

خرج مجموعة من خبراء سلامة الذكاء الاصطناعي في موجة من الانتقادات العلنية ضد شركة "إكس إيه آي" المملوكة لإيلون ماسك بعد موجة من التغريدات "المعادية للسامية" من روبوت الذكاء الاصطناعي الخاص بها "غروك"، وذلك وفق تقرير موقع "تيك كرانش التقني".

وتزايدت التغريدات المعادية للسامية حتى بعد إيقاف الشركة عمل الروبوت، وعاد " غروك 4.0″ مجددا للعمل وبدأ في إثارة الجدل مجددا عندما اكتشف موقع "تيك كرانش" التقني ومواقع أخرى أن الروبوت يعتمد على آراء إيلون ماسك في المسائل الحساسة.

كما قام الروبوت بمشاركة مجموعة من الصور التي أثارت الجدل عبر حسابه الرسمي، وهو ما دفع خبراء سلامة الذكاء الاصطناعي إلى مهاجمة الشركة وانتقاد سياستها في التعامل مع سلامة الذكاء الاصطناعي فيما وصفه بعضهم بأنه "غير مسؤول" و"مستهتر"، كما جاء في تقرير "تيك كرانش".

وأشار التقرير إلى تغريدة من بوعز باراك أستاذ علوم الحاسوب في جامعة هارفارد قال فيها "أقدّر العلماء والمهندسين في إكس إيه آي، لكن الطريقة التي تم بها التعامل مع السلامة غير مسؤولة تماما".

وانتقد باراك تحديدا غياب بطاقات التقييم الخاصة بنموذج "غروك"، إذ لم تقم "إكس إيه آي" بنشر هذه البطاقات، وهي ضرورية لتقييم إجراءات السلامة التي تتبعها الشركة أثناء اختبار النموذج وتدريبه، وبدونها يصبح من الصعب معرفة إجراءات السلامة المتبعة، وذلك وفق ما جاء في التقرير.

ويضيف التقرير أن "أوبن إيه آي" و" غوغل " تتمتعان بسمعة متباينة فيما يتعلق بنشر بطاقات التقييم، إذ رفضت "أوبن إيه آي" نشر بطاقات التقييم في نموذج "جي بي تي 4.1" مدعية أنه نموذج ريادي وكشف هذه البطاقات يكشف أسراره، أما "غوغل" فقد تأخرت في كشف بطاقات التقييم وإجراءات الأمان لنموذج "جيميناي 2.5 برو" عدة أشهر.

لكن تقوم هاتان الشركتان عادة بنشر بطاقات التقييم الخاصة بكل نموذج قبل طرحه والدخول في مرحلة الإنتاج النهائية، لذلك يمكن اعتبار هذه الحالات استثناء لهذا الأمر حسب ما جاء في التقرير.

كما اتفق صموئيل ماركس -وهو باحث في مجال سلامة الذكاء الاصطناعي في "أنثروبيك"- مع تعليق باراك قائلا إن عدم نشر بطاقات التقييم هو خطوة متهورة من جانب "إكس إيه آي"، وفق ما جاء في تقرير "تيك كرانش".

ويشير التقرير أيضا إلى منشور في أحد المنتديات يدعى "ليس رونغ" (lessWrong) ادعى فيه أحد المستخدمين مجهولي الهوية أن "غروك 4" لا يحتوي على أي حواجز أمان ذات معنى استنادا إلى اختبارات الشركة.

وسواء كان هذا الادعاء حقيقيا أم لا فإن الأزمة التي تسبب فيها روبوت "غروك" جعلت العالم يكتشف أن الشركة لم تضع مجهودا كافيا في سياسات الأمان، وذلك وفق ما جاء في التقرير.

وبينما رفضت الشركات الثلاث "أوبن إيه آي" و"إكس إيه آي" و"أنثروبيك" التعليق على هذه التغريدات قال دان هندريكس مستشار السلامة في شركة "إكس إيه آي" ومدير مركز سلامة الذكاء الاصطناعي في تغريدة عبر منصة إكس إن الشركات أجرت تقييمات لخطورة روبوت "غروك 4" ولكن لم تشارك هذه الاختبارات علنا.

وهو الأمر الذي تسبب في المزيد من الانتقادات للشركة، إذ أوضح ستيفن أدلر -وهو باحث مستقل في مجال الذكاء الاصطناعي، والذي قاد سابقا فرق السلامة في "أوبن إيه آي"- أثناء حديثه مع "تيك كرانش" أن عدم نشر نتائج اختبارات الأمان هو أمر أكثر خطورة من نتائج هذه الاختبارات.

ويشير التقرير إلى التناقض بين سياسات إيلون ماسك العلنية في انتقاد أمان الذكاء الاصطناعي والمخاطر النابعة منه، ولكن في الوقت نفسه لا يهتم كثيرا بإجراءات الأمان المتبعة عالميا من قبل الشركات الأخرى، وذلك قد يدفع الحكومات والهيئات الحقوقية حول العالم إلى استحداث قوانين تنظيمية لصناعة الذكاء الاصطناعي.