رئيس أنثروبيك داريو أمودي يدعو شركات الذكاء الاصطناعي إلى إبطاء التطوير بسبب مخاطر الذكاء الفائق

منذ

جاء إعلان أمودي بعد أيام قليلة من كشف شركة للذكاء الاصطناعي أن نماذجها تُستخدم في هجمات إلكترونية، وحملات دعائية، وأبحاث بيولوجية خطرة.

دعا الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي، السبت، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير هذه التكنولوجيا القوية، في وقت تتزايد فيه المخاوف من مخاطر أنظمة حاسوبية **فائقة الذكاء**.

ويشير مصطلح **الذكاء الفائق** إلى المرحلة النظرية التي تتجاوز فيها قدرات أنظمة الذكاء الاصطناعي مستوى الذكاء البشري.

وجاءت تصريحاته بعد أيام قليلة من قرار الباحث في الذكاء الاصطناعي جاكوب كوكسون، الذي غادر شركة "أوبن إيه آي" لينضم إلى "أنثروبيك"، ترك القطاع نهائيا، متهما الشركتين الأميركيتين و"عمالقة" الصناعة الآخرين بأنهم "يلعبون بحياتنا" في سباق تطوير نماذج قادرة على تحسين نفسها ذاتيا.

وكتب أمودي في مقال على موقعه الشخصي (المصدر باللغة الإنجليزية) : "علينا أن نُبطئ الوتيرة التي نعزز بها قدرات نماذج الذكاء الاصطناعي. سيبدو التقدم سريعا رغم ذلك، وعلينا أن نحسن استغلال الوقت الذي نكسبه".

وأضاف: "الذكاء الاصطناعي ينطوي على مخاطر، وبما أنه تكنولوجيا بالغة القوة، فإن هذه المخاطر جسيمة".

وقال أمودي: "عدم تطوير هذه التكنولوجيا يحرم البشرية من فوائدها أو يترك الذكاء الاصطناعي ببساطة في أيدي قوى استبدادية، في حين أن تطويرها بسرعة مفرطة تصرف متهور. لقد حاولنا البحث عن طريق وسط". وأمودي هو الشريك المؤسس لشركة "أنثروبيك" المطوِّرة لنموذج الذكاء الاصطناعي "كلود"، والتي أنشأها مع شقيقته دانييلا في 2021.

وأضاف الرئيس التنفيذي لـ"أنثروبيك": "لكنني خلال الأشهر القليلة الماضية أصبحت مقتنعا بأن التعامل الكامل مع هذه المخاطر يتطلب قدرا أكبر من الحذر".

وتتردد أصداء تصريحات أمودي مع دعوة سابقة أطلقتها "أنثروبيك" في مطلع حزيران/يونيو إلى إبطاء أو تعليق عمليات التطوير. وفي أواخر تموز/يوليو، قال سام ألتمان، رئيس شركة "أوبن إيه آي" المنافسة لـ"أنثروبيك" والمطوِّرة لبرنامج المحادثة "تشات جي بي تي"، إن المطورين قد يحتاجون طوعا إلى "كبح جماح" هذا التقدم السريع لمنح المجتمع فرصة لمواكبة التطورات.

وفي الفترة نفسها تقريبا من بيان حزيران/يونيو، وقّع أكثر من 1.000 موظف في شركات رائدة بمجال الذكاء الاصطناعي، بينهم أمودي نفسه، عريضة تدعو الحكومة الأميركية إلى المساعدة في "تنظيم وتيرة التقدم على جبهة تطوير أنظمة الذكاء الاصطناعي الآلية بشكل متعمَّد".

وكشفت "أوبن إيه آي" أنه خلال الاختبارات خرجت نماذج الذكاء الاصطناعي من بيئتها المقيدة، واتصلت بالإنترنت وتسللت إلى موقع "هاجينغ فيس" الذي يستخدمه المطورون لتخزين الشيفرات البرمجية وتبادلها.

وفي مطلع هذا الأسبوع، دق الباحث جاكوب كوكسون، البالغ من العمر 27 عاما، ناقوس الخطر بعد أن أمضى الأعوام الثلاثة الماضية في مرحلة ما قبل تدريب نماذج الذكاء الاصطناعي، أولا في "أوبن إيه آي" ثم هذا العام في منافستها "أنثروبيك" التي كان يعتبرها أكثر حذرا في نهجها.

وتُعد مرحلة ما قبل التدريب الخطوة التي تمتص فيها نماذج الذكاء الاصطناعي كميات هائلة من البيانات بمختلف أنواعها، من صور ومقاطع فيديو وتسجيلات صوتية، ما يساعدها على فهم المحتوى ثم توليد الصور أو الإجابة عن أسئلة المستخدمين على منصات المحادثة.

وقال كوكسون في سلسلة منشورات على منصة "إكس" يوم الثلاثاء: "لا تتصرف أي من الشركتين بمسؤولية. إنهما تسابقان الزمن للوصول مباشرة إلى ذكاء فائق قادر على تحسين نفسه، ويلعبان بحياتنا".

وأضاف: "الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي يؤمنون بجدية بأنها قد تقتلنا جميعا بحلول نهاية هذا العقد".

تمت ترجمة هذا النص بمساعدة الذكاء الاصطناعي ونشره في الأصل باللغة الإنجليزية.