- باستخدام آلياتهم الثقيلة.. اتحاد مقاولي البصرة يهدد الحكومة بتظاهرات "غاضبة" وقطع للطرق (وثيقة)
- الحرب على غزة.. 18 شهيدا بالقطاع وغارات مشتركة على اليمن
- غارات أميركية - بريطانية وإسرائيلية تستهدف مواقع حوثية في اليمن
- بسبب فيديو.. تقارير عن إقالة المترجم المصري لمنتخب العراق
- محافظ دمشق: حادث الجامع المسجد لن يمر دون محاسبة المقصرين
- محللة إيرانية لـ"بغداد اليوم": التغييرات داخل الحشد الشعبي ليست بالضرورة لصالح طهران- عاجل
- حماس تكشف عن شرط إسرائيل الجديد خلال المحادثات بشأن غزة
- إعلام حوثي: غارات جوية على صنعاء والحديدة في اليمن
- غارات إسرائيلية واسعة على اليمن.. ونتنياهو يعلق
- فيديو.. قتلى ومصابون في حادث تدافع بالمسجد الأموي في دمشق
- إسرائيل "تخطط للسيطرة العسكرية والاستخباراتية" على منطقة جديدة من سوريا
- غارات عنيفة على اليمن بهجمات منسقة بين إسرائيل والتحالف
- القسام: معظم أسرى العدو بشمال غزة باتوا في عداد المفقودين
- صور لتمركز الجيش الإسرائيلي بمبنى محافظة القنيطرة جنوبي سوريا
- مصير اللاجئين السوريين موضوع نقاش في ألمانيا
- قبل تنصيب ترامب.. إسرائيل تجهز لـ"خطة بديلة" في غزة
- موعد مباراة الأهلي ضد الشباب في الدوري السعودي والقنوات الناقلة
- كيف يرى المستوطنون الإسرائيليون في الضفة الغربية فوز ترامب فرصة للتوسع أكثر؟
دراسة: يمكن خداع محرك البحث لـ "تشات جي بي تي" لتوليد ملخصات مضللة
قالت تقارير إن محرك البحث "ChatGPT Search"، الذي يعمل بالذكاء الاصطناعي والذي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.
وتهدف ميزة البحث في "تشات جي بي تي" إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات المنتج لصفحة ويب.
وكشف التقرير أنه يمكن جعل "تشات جي بي تي" يتجاهل المراجعات السلبية ويولد ملخصات "إيجابية تمامًا" عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها.
يمكن أيضًا جعل "ChatGPT Search" يخرج كودًا ضارًا باستخدام هذه الطريقة، بحسب صحيفة "ذا جارديان" البريطانية.
تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
وأشارت الصحيفة إلى أن شركة غوغل، الرائدة في مجال البحث، لديها خبرة أكبر في التعامل مع مشكلات مماثلة.
لم تعلق شركة OpenAI على هذه الحادثة المحددة، وقالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتعمل على التحسن باستمرار.
المصدر:
العربيّة
