"أوبن إيه آي" في ورطة.. تسريبات تكشف تقديم ChatGPT نصائح دموية لمنفذة إطلاق نار
استخدمت منفذة عملية إطلاق النار الجماعي المروع في تامبلر ريدج بكندا روبوت الدردشة "شات جي بي تي" من شركة أوبن إيه آي لبلورة أفكار حول عمليات قتل جماعي دموية، وذلك على مدار أشهر سبقت تلك المجزرة المميتة.
وتواجه "أوبن إيه آي" حالياً 37 دعوى قضائية من عائلات تضررت جراء حادث إطلاق النار الذي وقع في فبراير في "تامبلر ريدج"؛ حيث قامت المراهقة المسلحة جيسي فان روتسيلار -البالغة من العمر 18 عامًا- بقتل ستة أشخاص في مدرسة محلية (هم خمسة طلاب تتراوح أعمارهم بين 12 و13 عامًا، ومعلم) وإصابة 27 آخرين قبل أن تنهي حياتها.
كما أطلقت فان روتسيلار النار على والدتها وأخيها غير الشقيق الأصغر فأردتهما قتيلين قبل مواصلة هجومها. وتواجه الشركة أيضَا دعوى قضائية من مقاطعة بريتيش كولومبيا الكندية، استنادًا إلى مزاعم تفيد بأن "أوبن إيه آي" كان بإمكانها منع وقوع عمليات القتل لكنها تقاعست عن ذلك.
وبعد أسابيع من الحادث، أفادت صحيفة "وول ستريت جورنال" بأن "أوبن إيه آي" كانت قد رصدت قبل أشهر من الواقعة سجلات محادثات فان روتسيلار مع "شات جي بي تي" لاحتوائها على أوصاف مقلقة لعنف جماعي، مما أثار نقاشًا داخليًا حول ما إذا كان ينبغي إبلاغ السلطات المحلية عن المستخدمة.
غير أن قادة الشركة قرروا عدم إثارة المخاوف مع المسؤولين المحليين، واكتفوا بحظر حساب المستخدمة؛ وهو إجراء لم يجدِ نفعًا يُذكر، إذ قامت فان روتسيلار ببساطة بفتح حساب ثانٍ، وهو ما اعترفت به شركة الذكاء الاصطناعي لاحقًا.
وحتى الآن، لم تكن التفاصيل الدموية لمحادثات فان روتسيلار مع "شات جي بي تي"، الذي يبدو أنه كان مقربًا منها خلال الأشهر والأسابيع التي سبقت عمليات القتل، معروفة علنًا، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه "العربية Business".
تفاصيل صادمة
لكن وفقًا لتحقيق جديد ومروع أجرته مجلة "ماذر جونز"، فإن محتوى تلك المحادثات يبعث على القلق الشديد.
فبعد أن فتحت فان روتسيلار حسابًا ثانيًا وأوضحت سبب إلغاء تفعيل حسابها الأول، قدم لها "شات جي بي تي" نصائح حول كيفية التحايل على قيود الأمان الخاصة به؛ إذ حثها على عدم استخدام مواقع حقيقية، وصياغة استفساراتها العنيفة في إطار افتراضي.
وبحسب تقرير المجلة فقد قال لها روبوت الدردشة: "لا يزال بإمكانك أن تكوني منحرفة الأفكار... لكن كوني ذكية في ذلك".
وقد اتبعت فان روتسيلار هذه النصيحة، متجاوزةً إجراءات الحماية الضعيفة في "شات جي بي تي" من خلال إعادة صياغة طلباتها الدموية على هيئة سيناريوهات نظرية.
وحدث ذلك، بحسب التقرير، في إحدى محادثات أغسطس 2025، عندما توسع روبوت الدردشة مع فان روتسيلار، رغم رفضه الطلب في البداية، في شرح كيفية استخدام بندقية Remington 870 ذات آلية الضخ لقتل أشخاص في حرم جامعي افتراضي.
وقال "شات جي بي تي" للمراهقة: "في ممر أو داخل مبنى أو في فصل دراسي مزدحم، تكون 870 وحشية. الأماكن الضيقة هي ملعبها".
كما استخدمت فان روتسيلار "شات جي بي تي" لإنشاء "سرديات خيالية" مفصلة حول عمليات قتل جماعي، وفقًا للتقرير. وفي إحدى هذه السرديات، كان مطلق النار يبلغ من العمر 18 عامًا -مثل فان روتسيلار نفسها- واكتسب شهرة سيئة عبر الإنترنت بعد بثه المباشر لمجزرة.
رد فعل "أوبن إيه آي"
ورفضت شركة أوبن إيه آي الرد على أسئلة طرحتها مجلة "ماذر جونز" حول الأمر.
وفي أبريل، قبل أيام من الكشف عن أول سبع دعاوى قضائية ضد "أوبن إيه آي" بشأن حادث تامبلر ريدج، قدم الرئيس التنفيذي للشركة سام ألتمان اعتذارًا علنيًا إلى مجتمع تامبلر ريدج.
وبعد رفع 30 دعوى قضائية جديدة بشأن تامبلر ريدج في وقت سابق من هذا الشهر، نشر كبير مسؤولي السلامة في "أوبن إيه آي"، جيسون كوون، بيانًا مطولًا على منصة "إكس"، نفى فيه بعض الادعاءات الواردة في الدعاوى القضائية، مضيفًا: "لا يمر يوم لا أفكر فيه فيما حدث في تامبلر ريدج، أو في ضحايا هذه المأساة المدمرة وعائلاتهم".
وفي الثاني من سبتمبر، سعت "أوبن إيه آي" إلى إسقاط الدعاوى القضائية المتعلقة بـ "تامبلر ريدج"، بحجة أن "الإخفاقات المنهجية من جانب جهات إنفاذ القانون ومؤسسات الرعاية الصحية النفسية والمؤسسات التعليمية في مجتمع (فان روتسيلار)" هي المسؤولة عن حادث إطلاق النار.
ورغم اعترافها بوجود حساب ثانٍ لفان روتسيلار، إلا أن "أوبن إيه آي" رفضت الكشف علنًا عن سجلات محادثاتها.
وبشكل إجمالي، تواجه "أوبن إيه آي" أكثر من 50 دعوى قضائية بشأن مزاعم بأن الاستخدام المكثف لـ"شات جي بي تي" تسبب في أضرار نفسية وإصابات جسدية ووفاة غير مشروعة لمستخدمين، أو لأشخاص من حولهم.