"ديب سيك" تكشف أخيرًا عن تكلفة تدريب نموذجها للذكاء الاصطناعي

قالت شركة الذكاء الاصطناعي الصينية الناشئة " ديب سيك" إنها أنفقت 294 ألف دولار على تدريب نموذجها البارز "R1"، وهو مبلغ أقل بكثير من الأرقام المعلنة من منافسيها الأميركيين، وذلك في ورقة بحثية من المرجح أن تُثير الجدل حول مكانة بكين في سباق تطوير الذكاء الاصطناعي.

وهذا هو أول تقدير تُصدره الشركة لتكاليف تدريب نموذج "R1"، وظهر في مقال يوم الأربعاء في المجلة الأكاديمية "نيتشر" خضع لمراجعة الأقران، بحسب "رويترز".

ودفع إصدار "ديب سيك" لما وصفته بأنظمة ذكاء اصطناعي منخفضة التكلفة في يناير المستثمرين العالميين إلى بيع أسهم التكنولوجيا خشية أن تُهدد النماذج الجديدة هيمنة شركات الذكاء الاصطناعي البارزة، بما في ذلك "إنفيديا".

ومنذ ذلك الحين، اختفت الشركة ومؤسسها ليانغ وينفنغ إلى حد كبير عن الأنظار، باستثناء طرح بعض التحديثات الجديدة للمنتجات.

وذكرت مقالة مجلة نيتشر، التي أدرجت ليانغ كأحد المؤلفين المشاركين، أن تكلفة تدريب نموذج "R1" الذي يركز على الاستدلال بلغت 294,000 دولار، واستخدم 512 شريحة "Nvidia H800". ولم تتضمن نسخة سابقة من المقالة، نُشرت في يناير، هذه المعلومات.

وتشير تكاليف تدريب نماذج اللغة الكبيرة، التي تُشغّل روبوتات الدردشة المدعومة بالذكاء الاصطناعي، إلى النفقات المتكبدة نتيجة تشغيل مجموعة من الشرائح القوية لأسابيع أو أشهر لمعالجة كميات هائلة من النصوص والرموز.

وقال سام ألتمان، الرئيس التنفيذي لشركة الذكاء الاصطناعي الأميركية العملاقة "OpenAI"، في عام 2023، إن تكلفة تدريب النماذج الأساسية تجاوزت بكثير 100 مليون دولار، على الرغم من أن شركته لم تُقدّم أرقامًا مُفصّلة لأيٍّ من نماذجها.

وقد شكّكت بعض الشركات والمسؤولين الأميركيين في بعض تصريحات "ديب سيك" حول تكاليف تطويرها لنماذجها والتقنية التي استخدمتها.

وصُممت رقائق "H800" المذكورة من قِبل شركة إنفيديا للسوق الصينية بعد أن حظرت الولايات المتحدة في أكتوبر 2022 تصدير الشركة لرقائق الذكاء الاصطناعي الأكثر قوة "H100" و"A100" إلى الصين.

وقال مسؤولون أميركيون، لرويترز في يونيو، إن "ديب سيك" لديها إمكانية الوصول إلى "كميات كبيرة" من رقائق "H100" التي تم شراؤها بعد تطبيق ضوابط التصدير الأميركية. وأبلغت "إنفيديا" رويترز آنذاك أن "ديب سيك" استخدمت رقائق "H800" التي حصلت عليها بشكل قانوني، وليس رقائق "H100".

وفي وثيقة معلومات تكميلية مرفقة بمقال "نيتشر"، أقرت الشركة لأول مرة بامتلاكها لرقائق "A100"، وقالت إنها استخدمتها في المراحل التحضيرية من التطوير.

وسبق أن ذكرت "رويترز" أن أحد أسباب نجاح "ديب سيك" في جذب ألمع العقول في الصين هو كونها واحدة من الشركات المحلية القليلة التي تشغل عنقود حوسبة فائقة قائمًا على شرائح "A100".

تقطير النماذج

ردت "ديب سيك" لأول مرة -وإن كان بشكل مباشر- على تأكيدات مستشار كبير في البيت الأبيض وشخصيات أميركية أخرى في مجال الذكاء الاصطناعي في يناير بأنها قامت عمدًا بـ"تقطير" نماذج شركة "OpenAI" إلى نماذج خاصة بها.

ودأبت "ديب سيك" على الدفاع عن تقنية التقطير باعتبارها تُحقق أداءً أفضل للنماذج، بينما تكون أرخص بكثير في التدريب والتشغيل، مما يُتيح وصولًا أوسع إلى التقنيات المدعومة بالذكاء الاصطناعي نظرًا لاحتياجات هذه النماذج العالية من حيث استهلاك الطاقة.

ويشير هذا المصطلح إلى تقنية يتعلم من خلالها نظام ذكاء اصطناعي من نظام آخر، مما يسمح للنموذج الأحدث بجني ثمار استثمارات الوقت والجهد الحاسوبي التي بُذلت في بناء النموذج السابق، ولكن دون التكاليف المرتبطة بذلك.

وقالت "ديب سيك" في يناير إنها استخدمت نموذج الذكاء الاصطناعي مفتوح المصدر "لاما" من شركة ميتا في بعض النسخ المُحسّنة من نماذجها الخاصة.