سلوكيات "شات جي بي تي" المقلقة تضع "OpenAI" في مأزق بأميركا

أعرب اثنان من المدعين العامين في الولايات المتحدة عن قلقهم بشأن سلامة روبوت الدردشة شات جي بي تي من شركة "OpenAI"، لا سيما بالنسبة للأطفال والمراهقين.

واجتمع المدعي العام لولاية كاليفورنيا روب بونتا ونظيرته في ولاية ديلاوير كاثي جينينغز، وأرسلا رسالة مفتوحة إلى "OpenAI" للتعبير عن قلقهما بشأن "شات جي بي تي".

يأتي هذا التحذير بعد أسبوع من إرسال بونتا و44 مدعيًا عامًا آخرين رسالة إلى 12 من كبرى شركات الذكاء الاصطناعي، وذلك عقب تقارير عن تفاعلات غير لائقة بين روبوتات الدردشة المدعومة بالذكاء الاصطناعي والأطفال.

وكتب بونتا وجينينغز في رسالتهما: "منذ إرسال تلك الرسالة، علمنا بوفاة مأساوية لمراهق في كاليفورنيا بالانتحار بعد تفاعلات طويلة مع روبوت دردشة من OpenAI، بالإضافة إلى حادثة قتل وانتحار مماثلة في كونيتيكت"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وقالا: "أيًا كانت التدابير الوقائية القائمة فهي لم تنجح".

ويجري المسؤولان حاليًا تحقيقًا في خطة "OpenAI" المقترحة لإعادة هيكلتها لتصبح كيانًا هادفًا للربح، لضمان بقاء مهمة المؤسسة غير الربحية كما هي. وتشمل هذه المهمة "ضمان استخدام الذكاء الاصطناعي بشكل آمن" وبناء ذكاء اصطناعي عام لخدمة البشرية جمعاء، "بما في ذلك الأطفال".

وأضافا في رسالتهما: "قبل أن نصل إلى الفائدة، نحتاج التأكد من وجود تدابير أمان كافية لمنع الأذى"، وقالا: "وجهة نظرنا المشتركة هي أن OpenAI والصناعة ككل لم يصلوا بعد إلى المستوى المطلوب في ضمان سلامة تطوير ونشر منتجات الذكاء الاصطناعي".

وتابعا: "مع استمرار نقاشنا حول خطة OpenAI لإعادة الرسملة، يجب علينا العمل على تسريع وتعزيز السلامة لتكون قوة حاكمة في مستقبل هذه التقنية القوية".

وطلب بونتا وجينينغز مزيدًا من المعلومات حول إجراءات السلامة والحوكمة الحالية لدى "OpenAI"، ويتوقعان من الشركة اتخاذ إجراءات تصحيحية فورية عند الحاجة.

وقال بريت تايلور، رئيس مجلس إدارة "OpenAI"، في بيان، إن الشركة ملتزمة بمعالجة مخاوف المدعين العامين.

وأضاف: "نشعر بحزن عميق لهذه الحوادث المأسوية و(نقدم) أحر تعازينا للعائلات"، وقال: "السلامة هي أولويتنا القصوى ونحن نعمل عن كثب مع صناع السياسات حول العالم".

وقالت "OpenAI" إنها تعمل على توسيع تدابير الحماية للمراهقين عبر ضوابط أبوية، وإتاحة إمكانية إخطار الوالدين عندما يكون طفلهم في حالة ضيق شديد.