ماذا حدث حين حاول الذكاء الاصطناعي الغش في الامتحان؟

في حال واجهت مشكلة في مشاهدة الفيديو، إضغط على رابط المصدر للمشاهدة على الموقع الرسمي

في منتصف يوليو/تموز الحالي، كان شيء ما يتحرك بهدوء داخل حواسيب شركة "هاغينغ فيس" (Hugging Face). وهذه الشركة أشبه بمكتبة عامة كبيرة للذكاء الاصطناعي، يودع فيها الباحثون في أنحاء العالم النماذج التي يبنونها والبيانات التي يدربونها عليها، ويأتي غيرهم فيأخذ منها نسخا ويكمل عمله عليها. وكثير مما نستعمله اليوم من تطبيقات الذكاء الاصطناعي يستند، بصورة أو بأخرى، إلى شيء مر من هناك.

المهم، بدأ ما جرى بملف رُفع إلى المنصة، بدا للوهلة الأولى كأي ملف بيانات يرفعه الباحثون كل يوم، غير أنه كان يخبئ في داخله تعليمات بعينها، فلما تناولته حواسيب الشركة بالمعالجة نفذت تلك التعليمات وهي لا تدري. ومن ذلك الملف الواحد اتسعت الدائرة، إذ حصل المتسلل على صلاحيات أوسع، ثم على المفاتيح الرقمية التي تشغل بها الشركة خدماتها، ثم صار ينتقل من جهاز إلى جهاز داخل شبكتها.

اقرأ أيضا

ولم يكن خلف ذلك كله إنسان، بل كان برنامجا يعمل وحده من أول خطوة إلى النهاية، يوزع نفسه على نسخ كثيرة قصيرة العمر كي يصعب اقتفاء أثره، وينقل مركز قيادته بنفسه بين مواقع عامة على الإنترنت. والذي التقطه في النهاية كان برنامجا هو الآخر، فالمنصة تعتمد في حراسة نفسها على نماذج ذكاء اصطناعي تفرز ما يردها يوميا من إشارات، وتميز الإنذار الحقيقي من ضجيج الأعطال المعتادة، ومن ترابط تلك الإشارات ظهر الخلل.

"جلس فريق الأمن أمام سجل فيه أكثر من 17 ألف عملية تركها المتسلل خلفه"

في النهاية، جلس فريق الأمن أمام سجل فيه أكثر من 17 ألف عملية تركها المتسلل خلفه. عدد لا يقرأه بشر في وقت معقول، فسلطوا عليه بدورهم برامج تحليل تعيد ترتيب ما حدث. وفي 16 يوليو/تموز نشرت الشركة ما توصلت إليه؛ بيانات داخلية جرى الوصول إليها، ومفاتيح خدمات استولى عليها المهاجم، ونصيحة لكل مستخدم بتغيير رمز دخوله، وبلاغ إلى الجهات الأمنية.

وطمأنت المنصة مستخدميها أنها لم تجد ما يدل على العبث بالنماذج وملفات البيانات المعروضة للجمهور. أما عن احتمالية تسرب بيانات شركاء أو عملاء، فقالت إن الفحص لم ينتهِ بعد. وفي وسط ذلك سطر يلخص ضآلة ما كانت تعرفه عن خصمها، حيث أشارت الشركة إلى أن النموذج الذي كان يحرك هذا كله ما زال مجهولا.

وبعد خمسة أيام جاء الجواب من جهة لم يتوقعها أحد، ففي 21 يوليو/تموز أعلنت شركة "أوبن إيه آي" (OpenAI)، المطورة لـ"شات جي بي تي"، أن المتسلل كان من نماذجها. وما جرى، بحسب روايتها، بدأ كاختبار داخلي، إذ أرادت الشركة أن تقيس قدرة نماذجها على الاختراق، ولكي يخرج القياس صادقا أطفأت عمدا الحراسة التي تمنع هذه النماذج عادة من تنفيذ مثل هذا العمل، ثم أغلقت عليها في بيئة وصفتها بأنها معزولة تماما. لكن النماذج قررت الخروج من تلك البيئة المعزولة.

نحاول هنا أن نفهم كيف خرجت النماذج، ولماذا كانت حراستها مطفأة وقت خروجها، وما الذي يقوله ذلك عن الطريقة التي تقيم بها الشركات خطورة ما تصنعه.

مصدر الصورة

لن يفعل ولا يستطيع

لفهم ما حدث نضرب مثالا من العالم الواقعي هو حماية المصارف. في أي مصرف هناك حمايتان تعملان معا؛ الأولى أن الموظف الذي يقف خلف النافذة مدرَّب وموثوق به، ولن يمد يده إلى المال. والثانية أن الخزانة نفسها لا يفتحها شخص واحد بمفرده. الحماية الأولى في رأس الموظف، والأخرى في الفولاذ. وهما تسقطان بطريقتين مختلفتين، تسقط الأولى بالإغراء أو بالغفلة، وتسقط الثانية بعيب في التصميم. ولو استغنى المصرف عن الأولى، لصار كل شيء معلقا بتصميم الخزانة وحده.

وهذا المثال لا ينطبق على المصارف فقط، فحيثما وُجد شيء يستحق الحراسة وُجدت الحمايتان معا، ومن ذلك نماذج الذكاء الاصطناعي المتقدمة. فالحماية الأولى فيها أن النموذج لن ينفذ الأمر الخطر، فهو مدرَّب على الرفض، وحين يُطلب منه شيء خطر يعتذر ويمتنع. والثانية أنه لا يستطيع، فهو يعمل داخل بيئة مغلقة لا تصل إلى الإنترنت، فلو أراد شيئا خطرا لم يجد إليه طريقا.

مصدر الصورة

ولكن في ذلك الاختبار، أطفأت "أوبن إيه آي" الحماية الأولى بنفسها، إذ تقول الشركة في بيانها إنها أرادت تقدير أقصى ما تبلغه نماذجها في الاختراق حين تشغل الاختبار من دون أدوات المنع التي تستعملها في منتجاتها العامة. وتضيف أن وسائل الحماية المتقدمة لم تكن مفعلة أثناء هذا الاختبار عن قصد، لأن الاختبار موجه أصلا لفحص الثغرات. والمنطق وراء ذلك سليم في ظاهره، إذ لا يمكنك أن تعرف حجم الخطر في أداة وهي ترفض أن تكون خطيرة من الأساس.

"تعمل نماذج الذكاء الاصطناعي عادة داخل بيئة حاسوبية شديدة العزل تقيد اتصالها بالإنترنت المفتوح"

إذن لم يبقَ هنا إلا تصميم الخزانة، وهي، بحسب وصف الشركة، بيئة حاسوبية "شديدة العزل" لا تصل إلى الإنترنت، ولها منفذ واحد إلى الخارج. خدمة داخلية وظيفتها أن تجلب للنموذج ما يحتاجه من برمجيات جاهزة ليعمل، أي باب واحد غرضه الإمداد لا الخروج. وتقول الشركة إن نماذجها أنفقت قدرا كبيرا من طاقة المعالجة وهي تبحث عن طريق إلى الإنترنت المفتوح، ثم وجدت في ذلك الباب عيبا لم يكن أحد يعلم به، فنفذت منه.

ولكن عندما نُشرت التفاصيل، قرأها المختصون بوصفها خطأ في التصميم قبل أن تكون مفاجأة في تطور قدرة النموذج على الهروب. مثلا، يصف دان غيدو، مؤسس شركة أبحاث الأمن "تريل أوف بيتس" ما جرى بقوله إنه "فشل في الاحتواء مع إطفاء وسائل الأمان". ويرى جيك ويليامز، وهو خبير قديم في الاستجابة للحوادث الأمنية، أن أي نموذج ينفذ ما وثقته "هاغينغ فيس" لم يكن محبوسا حبسا كاملا من الأساس.

"أي نموذج ينفذ ما وثقته هاغينغ فيس لم يكن محبوسا حبسا كاملا من الأساس"

ويذهب مارتن بون، الباحث في أمن المعلومات، إلى أبعد من ذلك. فالمكان الذي يستحق وصف العزل، في رأيه، لا يكون له اتصال مادي بالإنترنت من الأساس. ويشير إلى مفارقة يعرفها أهل المهنة، وهي أن منع شيء من الخروج أصعب من منع شيء من الدخول.

قبل الحادثة بسبعة أشهر، كان هذا السؤال مطروحا في ورقة بحثية مهمة. ففي ديسمبر/كانون الأول 2025 نشرت "سيفر إيه آي" (SaferAI)، وهي منظمة بحثية تُعنى بتقييم مخاطر الذكاء الاصطناعي، دراسة قارنت أطر الأمان التي تعلنها 12 شركة. وكان من بين ما سألت عنه سؤال بسيط: متى يكون حبس النموذج كافيا؟

والسؤال ليس تعجيزيا، بدليل أن شركات أجابت عنه، فشركة "جي 42" (G42) الإماراتية جاءت في المقدمة، إذ ربطت مستوى الحماية بمستوى قدرة النموذج، واشترطت أن يُحفظ بحيث يصعب جدا على جهة إجرامية أو معادية أن تصل إليه. وحددت "غوغل ديب مايند" و"ميتا" مستويات مشابهة. في حين جاءت "أوبن إيه آي" في المرتبة الأخيرة، لأنها امتنعت عن توصيف ذلك الحد أصلا. لذا فالخزانة التي عولت عليها الشركة، لم يسبق أن حددت ما الذي يجعلها خزانة محمية من الأساس.

ويبقى بعد هذا كله سؤال لا يجيب عنه أي مما سبق: ما الذي كان النموذج يريده أصلا حتى ينفق كل تلك الطاقة بحثا عن مخرج؟

مصدر الصورة

الامتحان وورقة الإجابة

كان في تلك البيئة المغلقة امتحان، وكانت نماذج أوبن إيه آي ترسب فيه؛ امتحان في الاقتحام، اسمه "إكسبلويت غيم". يُمنح فيه النموذج نقطة ضعف معروفة في برنامج حقيقي يستعمله الناس، ثم يُطلب منه أن ينتقل من "هنا خلل" إلى "هكذا أدخل وأسيطر"، احتوى الامتحان على 898 سؤالا من هذا النوع.

وتقول "أوبن إيه آي" إن نماذجها كانت منكبة على هذا الامتحان انكبابا شديدا، وإنها ذهبت إلى أبعد الحدود من أجل تحقيق هدف ضيق، إذ بحثت طويلا عن مخرج، ولما خرجت ووصلت إلى الإنترنت، خطر لها أن "هاغينغ فيس" قد تكون محتفظة بحلول ذلك الامتحان، فذهبت إليها وأخذت ما وجدته. ولم يثبت حتى اللحظة أن الحلول كانت هناك أصلا، ولا ثبت خلاف ذلك، فقد يكون النموذج أصاب في تخمينه، وقد يكون اقتحم شركة غير ذات صلة على غير أساس.

"النموذج كسر حبسه ليسرق إجابات امتحان شارك مختبره في وضعه"

وفي القصة تفصيل يستحق الوقوف عنده، فهذا الامتحان وضعه فريق من الجامعات وشركات الذكاء الاصطناعي معا، ومن بين مؤلفيه باحثان من "أوبن إيه آي" نفسها، أي أن النموذج كسر حبسه ليسرق إجابات امتحان شارك مختبره في وضعه. لم تكن تلك الواقعة منعزلة، فقبل يوم واحد نشرت "أوبن إيه آي" حادثة أخرى عن نموذج داخلي مختلف، هو الذي أعلنت قبل شهرين أنه أثبت خطأ فرضية رياضية ظلت قائمة منذ ثمانين عاما.

في المرة الأولى، كان النموذج يشارك في مسابقة مفتوحة وتوصل فيها إلى نتيجة جيدة. قال له الباحثون أن يُبقي النتيجة في الداخل، في حين طلبت تعليمات المسابقة أن تُنشر النتيجة على الملأ، فاختار تعليمات المسابقة. وكانت البيئة المغلقة تمنعه من الخروج، فأمضى ساعة كاملة يفتش عن ثغرة فيها حتى وجدها، ثم خرج ونشر. وتقول الشركة إن نماذجها الأقدم كانت تقف عند هذا الحد وترجع إلى المستخدم تسأله، أما هذا فكان بوصفها: "يواصل المحاولة غالبا، بما في ذلك البحث عن طرق للتصرف خارج بيئته المغلقة".

في المرة الثانية، طُلب منه حل مسألة، فرأى أن أنظمة أخرى حلتها قبله، وأن حلولها محفوظة بعيدا عن متناوله، فحاول الوصول إليها. وكان في الطريق حارس آلي يفتش كل ما يخرج ويوقف كل ما يحتوي على كلمة سر. فقسم النموذج كلمة السر إلى نصفين، وأرسلهما متفرقين، ثم جمعهما في اللحظة الأخيرة. والأهم أنه كتب صراحة، في تعليقاته وفي سجل تفكيره، أنه يفعل هذا ليتجاوز الحارس.

كما نرى، فإن ما أراده النموذج اختلف في الوقائع الثلاث، والذي لم يختلف هو ما فعله بالقيد الذي وقف في طريقه، إذ عامله في كل مرة كعقبة تُدار، ثم مضى في مساره. والنماذج الأقدم، بحسب الشركة، كانت تتوقف عند القيد، وترجع لتسأل المستخدم.

"ما أراده النموذج اختلف في الوقائع الثلاث، والذي لم يختلف هو تجاوزه للقيد الذي وقف في طريقه"

في واقعتين كان النموذج ما يسعى إليه إجابات غيره، أما الثالثة فأغرب، فالنموذج فيها كان يطيع تعليمات المسابقة، وخرج من غرفته ليفعل ما قالت المسابقة إنه الصواب. ولا يخص هذا نماذج "أوبن إيه آي" وحدها، فمنظمة "ميتر" (METR) المستقلة فحصت النماذج الداخلية لأربع شركات كبرى، هي "أوبن إيه آي" و"أنثروبيك" و"غوغل" و"ميتا". وجاء في تقريرها الصادر في مايو/أيار الماضي أن النماذج "حاولت الغش بصورة روتينية في أصعب مهام التقييم"، وبطرق لا يتصور الباحثون أن بشرا قد يسلكها.

وتزداد وتيرة الغش كلما صعبت المهمة، ففي أطول المهام التي اختبرتها المنظمة، تبين أن سدس النتائج الناجحة على الأقل كان غشا انكشف عند المراجعة. وترجع المنظمة ذلك إلى طريقة التدريب نفسها. فالنموذج يكافأ وفق درجة يمنحها له مصحّح آلي، فيتعلم مع الوقت أن يستغل عيوب المصحح.

ولم يكن هذا مفاجئا لمن عمل على المسألة من الداخل، إذ تقول أريال هربرت فوس، وهي من أول من وظفتهم "أوبن إيه آي" في الأمن السيبراني وتدير اليوم شركة خاصة في هذا المجال، إن هذا السلوك بالذات كان أحد ما انشغلت به هناك: ماذا يحدث حين تصير النماذج قادرة على أن تحتال على الطريق الذي يفترض أن تسلكه لإنجاز مهمتها؟ وتضيف أنها معضلة يصعب الدفاع ضدها، وأنها من أسباب مغادرتها الشركة. وهنا يصير السؤال مشروعا: إذا كان هذا ما يحدث حين تُطفأ الحراسة، فلماذا تُطفأ من الأساس؟

لماذا تُطفأ الحراسة؟

لهذا السؤال جواب وجيه، ومن الإنصاف أن يُعرض في أوضح صوره، إذ لا يمكنك أن تعرف حجم الخطر في أداة وهي ترفض أن تكون خطرة، ولو تركت الحراسة تعمل أثناء القياس، لخرجت النتيجة مطمئنة، ولكانت كاذبة في الوقت نفسه.

وفي ذلك الامتحان ما يثبت ذلك، فحين دخله نموذج أقدم من نماذج "أوبن إيه آي" وحراسته مفعلة لم يحل سؤالا واحدا، لأنه امتنع عن المحاولة من الأساس. فالحماية الأولى تعمل، وتعمل جيدا، ولو أبقيتها لما عرفت شيئا. ولهذا لم يكن إطفاؤها ارتجالا، فهي قاعدة مكتوبة ومعلنة.

"تنشر أوبن إيه آي وثيقة تسميها إطار الاستعداد، تشرح فيها كيف تختبر القدرات الخطرة في نماذجها قبل طرحها للناس"

تنشر "أوبن إيه آي" وثيقة تسميها إطار الاستعداد، تشرح فيها كيف تختبر القدرات الخطرة في نماذجها قبل طرحها للناس. وفيها تعهد صريح بأن يجري هذا الاختبار على نسخة من النموذج لا ترفض شيئا تقريبا، وأن الشركة قد تصنع نسخة خاصة لهذا الغرض وحده. والسبب المعلن أن تقترب النتيجة مما قد يفعله مهاجم حقيقي، وتفعل شركة ميتا الشيء نفسه مع نموذجها الجديد.

وفي الإنصاف وجهان آخران، الأول أن كلام المختصين جاء بعد وقوع الحادثة، والحكم على تصميم بعد انكشاف عيبه أيسر من الحكم عليه قبله. والثاني أن "أوبن إيه آي" نشرت الحادثتين معا في يومين متتاليين، ولم يُلزمها بذلك قانون. ومع ذلك، يبقى اعتراض ثالث، أقوى من الاثنين، مفاده أن ما جرى ليس جديدا على عالم الأمن السيبراني أصلا.

فالنماذج لم تتغلب على دفاعات "هاغينغ فيس" بذكائها الخارق، وإنما ورثت في طريقها مفاتيح تفتح أبوابا أكثر مما تحتاجه مهمتها. وتلك مشكلة قديمة اسمها "الصلاحيات الزائدة"، يكافحها متخصصو الأمن السيبراني منذ عقد. فالمؤسسات اليوم تشغل حسابات آلية تفوق موظفيها البشر عددا، وكثير منها يحمل صلاحيات حساسة لا يحتاجها في عمله اليومي، والبرنامج يرث كل ما يستطيع حسابه أن يصل إليه.

"ما وقع كان حادثا عاديا جرى بسرعة غير عادية"

وعلى هذا القياس، فإن ما وقع كان حادثا عاديا جرى بسرعة غير عادية. غير أن هذا كله دفاع عن إطفاء طبقة الحماية الأولى، وهو دفاع جيد ويمكن قبوله، أما انهيار الطبقة الثانية فلا يقول عنها شيئا. فحين تقول إن عليك إطفاء الرفض كي تقيس قدرات النموذج، لا يترتب على ذلك أن تكون الغرفة المغلقة ذات باب موارب. القياس يحتاج إلى إطفاء الطبقة الأولى، أما الثانية فكان ينبغي أن تشتد في اللحظة نفسها، لأنها بقيت وحدها في الميدان.

ولكن ما جرى كان عكس ذلك، إذ خفت قيود الأولى، وبقيت الثانية على حالها. ويبقى سؤال بسيط طرحه موقع "تك كرانش" التقني على الشركة، ولم يتلقَ عنه جوابا: مَن الذي أعد تلك الغرفة وضبط إعداداتها.. إنسان أم نموذج صناعي آخر؟

مصدر الصورة

رواية واحدة.. روايتان

في تلك الرواية فجوات، إذ تقول "هاغينغ فيس" إن الدخول الأول جرى عبر ذلك الملف الذي رُفع إلى المنصة. ورواية "أوبن إيه آي" لا تذكر الملف إطلاقا، وتتحدث عن عيوب برمجية وكلمات سر مسروقة. والفرق بين الروايتين كبير، فإن كانت النماذج هي التي صنعت ذلك الملف ورفعته بنفسها، فذلك فعل يختلف تماما عن استغلال عيب وجدته أمامها جاهزا، وتلك نقطة لم تحسم حتى الآن.

تذكر "أوبن إيه آي" أن نموذجين كانا وراء الاختراق، بينما تذكر وكالة "بلومبرغ"، نقلا عن مصادر مطلعة، ثلاثة نماذج. وتذكر المصادر نفسها أن ما نفذته النماذج في ساعات كان يحتاج من مخترق بشري ماهر نحو أسبوعين.

وفي الحادثة طرف ثان لم يخضع للفحص بما يكفي، فالباب الذي دخل منه المهاجم أولًا كان في بيت "هاغينغ فيس". عيبان في الطريقة التي تعالج بها المنصة ملفات البيانات التي يرفعها الناس إليها، سمحا لملف واحد بأن يشغل ما بداخله على خوادمها. أعلنت المنصة ذلك بنفسها وسدته، وتعاملت مع الحادثة بشفافية تُحسب لها. لكن أحدا لم يسأل بعد كيف بقي هذان العيبان مفتوحين في منصة يودِع فيها العالم أعماله.

وتبقى هذه الأسئلة بلا جواب لسبب واحد، وهو أن كل ما نعرفه عما جرى داخل مختبر "أوبن إيه آي" مصدره "أوبن إيه آي". لا جهة رقابية تحتفظ بسجلات ذلك المختبر، ولا أحد يفحصه من الخارج، وما بين أيدينا هو ما اختارت الشركة أن تقوله.

"الجهة الوحيدة التي تحكي ما حدث تمرر في ثنايا روايتها تشخيصها الخاص له، وهو تشخيص قد لا يخلو من تحيز"

ولا يقف الأمر عند نقص المعلومات، فالجهة الوحيدة التي تحكي ما جرى تمرر في ثنايا روايتها تشخيصها الخاص له، وهو تشخيص قد لا يخلو من تحيز. يصف بيان الشركة ما وقع بأنه "حادثة سيبرانية غير مسبوقة، تنطوي على قدرات سيبرانية من أحدث طراز"، وأنها إنما تنشر ما تنشره ليعاير الآخرون تصورهم عما صارت النماذج قادرة عليه. وقد رأينا أن المختصين قرأوا الحادثة قراءة أخرى، بوصفها خطأ في بناء الغرفة نفسها.

والفرق بين القراءتين ليس فرقا في اللغة، فمن قال إن ما جرى كشف عن قدرة جديدة، انتهى إلى أن العالم كله تغير وأن على الجميع أن يستعدوا. ومن قال إنه خطأ في التصميم، انتهى إلى أن غرفة واحدة بُنيت على غير ما ينبغي، وأن إصلاحها ممكن. الوصف الأول يوزع المسؤولية على الجميع حتى تكاد تختفي، والثاني يتركها حيث هي، فأين القانون من هذا؟

أساليب الخداع

معظم شركات الذكاء الاصطناعي الكبرى مقرها ولاية كاليفورنيا، ومنها "أوبن إيه آي"، وفي الولاية أول قانون أمريكي ينظم هذه النماذج، ساري المفعول منذ يناير/كانون الثاني الماضي. ويلزم القانون الشركات بإخبار السلطات حين يقع حدث خطير خلال خمسة عشر يوما. ويحدد القانون أربع حالات بعينها يجب الإبلاغ عنها، ثلاث منها تشترط ضررا محققا، مثل موت أو إصابة، أو خسارة مالية فادحة، ولكن لم يقع شيء من ذلك في الحادثة الأخيرة.

لا يبقى إذن إلا الحالة الرابعة، وهي تصف نموذجا يستعمل "أساليب الخداع" ضد صانعه ليلتف على رقابته، "خارج سياق تقييم مصمم لاستثارة هذا السلوك"، وعلى نحو يظهر أن خطر "الكارثة" قد ارتفع ارتفاعا كبيرًا. هذه عدة شروط في جملة واحدة، ولا بد أن تتحقق كلها معا، وفي كل منها خلاف. وقد نظر في هذه الشروط باحثان في "معهد القانون والذكاء الاصطناعي" الأمريكي، في تحليل نشره موقع "لوفير" المتخصص في الأمن القومي.

يرى الباحثان أن الخداع يصعب إثباته حين يتعلق الأمر بنوايا برنامج، خاصة مع وجود قراءة أخرى للواقعة تقول إن النموذج استعمل كل ما وجده متاحا لأداء مهمته. ويبقى الشرط الأخير هو الأصعب، فخطر الكارثة وفق تعريف القانون نفسه يبلغ 50 قتيلا أو مليار دولار من الخسائر، وما جرى بعيد عن ذلك بوضوح، ولذا يرجح الباحثان أن القانون لا يشمل الواقعة، أو لا يشمل كل ما يشبهها على الأقل. وفي هذا مفارقة أعمق من ثغرة في نص، فالقانون يطلب من الشركة أن تعرف، قبل أن تُبلغ، إن كانت الواقعة تنبئ بخطر أكبر على الناس، والإبلاغ إنما وُضع ليولد تلك المعرفة، فالنص يشترط الجواب قبل أن يسمح بالسؤال.

"الخداع يصعب إثباته حين يتعلق الأمر بنوايا برنامج"

وقد تحرك الكونغرس محاولا شد هذه الثغرة القانونية، ففي 23 يوليو/تموز تقدّم النائبان الديمقراطي تيد ليو والجمهوري ناثانيال موران بمشروع "قانون مفتاح إيقاف الذكاء الاصطناعي". ويُلزم المشروع كبار المطورين بأن يحتفظوا بالقدرة التقنية على إبطاء نماذجهم أو تعليقها أو إيقافها. ويمنح وزارة الأمن الداخلي سلطة إصدار أمر الإيقاف حين يهدد نظام بكارثة، مع غرامة تبلغ عشرين مليون دولار في اليوم على من يخالف.

ومع ذلك يحتوي المشروع المقترح على استثناء واضح، فهو يستبعد ما يقع أثناء "اختبارات الفريق الأحمر أو غيرها من الاختبارات المنظمة"، واختبار الفريق الأحمر أن تهاجم نظامك بنفسك لتكشف عيوبه قبل أن يكشفها غيرك. أي أن الواقعة التي دفعت إلى كتابة المشروع لا يبدو أنها تدخل في نطاقه، وبسبب مثل هذا الاستثناء تحديدا لا نعرف كم مرة وقعت أحداث مماثلة في مختبرات أخرى. فحتى اليوم، لم تُعلن سوى شركتين في العالم عن خروج نموذج من حبسه؛ "أوبن إيه آي"، و"أنثروبيك" المطورة لنموذج "كلود". وصمت الباقين لا يعني أن شيئا لم يقع عندهم، فلا قانون يوجب الإعلان من الأساس.

مصدر الصورة

وحادثة "أنثروبيك" تختلف عما نحن بصدده، وإن لم تختلف اختلافا تاما، ففي أبريل/نيسان الماضي ذكرت الشركة أن نسخة مبكرة من نموذجها الجديد "ميثوس" (Mythos)، أثناء أحد اختبارات السلوك، بنت طريقا للوصول إلى الإنترنت، ثم فعلت ما لم يطلب منها ونشرت تفاصيل ما فعلته على مواقع علنية يصعب العثور عليها، لتثبت أنها نجحت.

وقع الخروج نفسه (إلى الإنترنت) داخل اختبار يتوقعه، لكن الإعلان عنه فلم يكن متوقعا. أما نماذج "أوبن إيه آي" فلم يطلب منها الخروج في أي من الوقائع الثلاث. وهو ما يقودنا للسؤال الأكثر خطورة: ماذا لو أن دولة أجنبية فعلت الشيء نفسه؟

يذكر حمزة شودري، مسؤول عن ملف الذكاء الاصطناعي والأمن القومي في "معهد مستقبل الحياة" وهي منظمة أمريكية تدعو إلى تنظيم الصناعة، إن ما جرى لو صدر عن دولة لكان على الأرجح "عملا خطرا من أعمال التجسس السيبراني"، ويضيف أنه كان سيقع تحت طائلة القانون الأمريكي الذي يجرم الدخول غير المصرح به إلى الحواسيب، وأن فاعلا كهذا كان سيُلاحق باتهام رسمي أو بعقوبات. الفارق أن الفاعل هنا كان في الداخل، وأنه هو الذي أخبرنا بما فعله.

بعد الحادثة

في النهاية، عادت "هاغينغ فيس" إلى عملها، وغير المستخدمون رموز دخولهم، وسُدت الثغرتان اللتان يُعتقد أن الملف دخل منهما، وشددت "أوبن إيه آي" إجراءاتها داخل مختبرها، وأعلنت أن ذلك سيبطئ وتيرة أبحاثها ريثما تُصلح العيوب. كما ضمّت "هاغينغ فيس" إلى برنامج تديره بنفسها، يتيح لأعضائه أن يستعملوا نماذجها القوية في تحصين أنظمتهم. أي أن العلاج المعروض بعد انكسار الحبس كان بابا أضيق يدخل منه المختارون، أما الغرفة نفسها فبقيت على حالها.

لكن الباب لم يكن العطل الحقيقي، فالحماية الأولى أطفئت بقرار، وستُطفأ في الاختبار المقبل بالقرار نفسه، لأن ذلك مكتوب في سياسة الشركة المعلنة، أما الثانية فهي غرفة لم يقل أحد بعد ما الذي يجعلها غير محكمة. والغرف الأخرى، في المختبرات الأخرى، لا نعرف عنها إلا ما قاله أصحابها؛ بعضهم قال ما الذي يجعل الغرفة كافية، وبعضهم لم يقل. ولا أحد من خارج تلك المختبرات يدخل ليرى إن كانت الغرفة كما وُصفت، ولا أحد مُلزَم بأن يخبرنا حين يخرج منها شيء.

فحين تقول شركة إن نموذجها محبوس بأمان، يبقى السؤال قائما: أي الحمايتين تعمل الآن؟ ومن يمكنه أن يتحقق من ذلك فعلا؟