بعد أيام من طرح أقوى نماذجها.. كبير علماء أوبن إيه آي يحذر: لا أحد مستعد للعواقب

حذر كبير علماء شركة الذكاء الاصطناعي أوبن إيه آي، جاكوب باتشوكي، في منشور على مدونة الشركة من أن مختبرات الذكاء الاصطناعي بحاجة إلى التريث وأن لا أحد مستعد لعواقب التطور السريع والمتواصل لهذه التقنية.

ويأتي تحذير باتشوكي بعد أيام من إطلاق الشركة نموذجا جديدا عالي الكفاءة وصفه رئيس الشركة غريج بروكمان بأنه نموذج ذكاء اصطناعي عام فائق، وأن قدراته تقارب قدرات البشر وتفوقها.

اقرأ أيضا

وأعرب باتشوكي في منشور مطول على مدونة الشركة أمس الأحد تحت عنوان "عقل فضائي " ( An Alien Mind) عن قلقه من أن "لا أحد مستعد لعواقب التطور السريع والمتواصل للذكاء الاصطناعي".

وأضاف أنه على الرغم من سعي أوبن إيه آي لإيجاد حلول تقنية داخلية لتحسين التحكم في وكلاء الذكاء الاصطناعي الأقوياء، "إلا أن هناك حاجة إلى تدخلات أوسع نطاقا". وأشار تحديدا إلى مخاوف من أن الوكلاء المستقلين بشكل متزايد قد يتعلمون التهرب من الرقابة البشرية، واختراق أنظمة الحاسوب، وخداع الناس لتحقيق أهدافهم.

وحذر كبير علماء أوبن إيه آي من أن الذكاء الاصطناعي قد يدخل قريبا مرحلة التحسين الذاتي المتكرر، حيث تبدأ أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة في قيادة تطوير الجيل القادم من الذكاء الاصطناعي.

وقال إنه يتوقع بشدة، استنادا إلى نتائج أوبن إيه آي الداخلية، أن يستمر معدل التقدم الحالي في الذكاء الاصطناعي في مرحلة التحسين الذاتي المتكرر.

وكتب: "إذا استمر تطوير الذكاء الاصطناعي على مساره الحالي، فمن المرجح أن تمثل الأنظمة التي سنشهدها في السنوات القليلة المقبلة قفزات نوعية في القدرات، مساوية أو أكبر من حيث الحجم، وأن تقود تطويرها الذاتي بشكل متزايد ".

مصدر الصورة

ودعا إلى وجوب التعامل مع هذا الأمر "بحذر شديد"، محذرا من أنه يخشى ألا يكون أحد مستعدا لعواقب الصعود السريع المستمر في ذكاء الآلة.

وأضاف أن نماذج الذكاء الاصطناعي أصبحت قادرة بشكل متزايد على اختراق أنظمة الحاسوب والهروب منها، مما قد يسمح لوكلاء الذكاء الاصطناعي بالتأثير المباشر على البنية التحتية الحيوية دون وجود كيان مادي.

وتأتي هذه التصريحات بعد أيام من طرح أسترا الذي تصفه أوبن إيه آي بأنه نموذجها الأكثر ذكاء وأمانا حتى الآن. وصمم للتعامل مع استخدام الحاسوب، والتصفح، وهندسة البرمجيات، والرياضيات، والأمن السيبراني، وسير العمل المؤسسي.

وتؤكد الشركة أن أسترا حقق تقدما كبيرا في اختبارات الأمان والالتزام بالتعليمات، وأصبح أكثر موثوقية بشكل كبير، مشيرة إلى أنه يلتزم بالقواعد والحدود المفروضة عليه تماما مقارنة بالنسخ الأخرى التي قد تتصرف بشكل غير مصرح به إذا رُفعت عنها أنظمة الحماية.

ومع ذلك، صرّح باتشوكي بأنه على الرغم من إحراز الشركة تقدما في مجال الأمان والالتزام بالتعليمات، فإن الفجوة بين قدرات الذكاء الاصطناعي والقدرة على مراقبة هذه القدرات والتحكم بها لا تزال مصدر قلق.

وأضاف أن الشركة ستواصل العمل على تعزيز المواءمة والمراقبة، وهي على استعداد لإيقاف أي توسع إضافي إذا لزم الأمر. لكنه جادل بأن الحلول التقنية وحدها لن تكون كافية، ودعا إلى تدخلات أوسع، بما في ذلك جهود منسقة لإبطاء تطوير الذكاء الاصطناعي عندما تعجز تدابير السلامة عن مواكبة هذا التطور.