"OpenAI" تصلح ثغرة تتيح سرقة بيانات حساسة من جيميل عبر شات جي بي تي

أصلحت شركة الذكاء الاصطناعي " OpenAI" ثغرة أمنية في روبوتها للدردشة "شات جي بي تي" كان من الممكن أن تسمح للمخترقين باستخراج بيانات جيميل الخاصة بمستخدميه، وفقًا لباحثين في شركة رادوير للأمن السيبراني.

واكتشف الباحثون هذه الثغرة في أداة البحث العميق في "شات جي بي تي"، وهي أداة أُطلقت في فبراير لمساعدة المستخدمين على تحليل كميات كبيرة من المعلومات.

ووفقًا للنتائج، كان من الممكن أن تُمكّن هذه الثغرة المهاجمين من سرقة بيانات حساسة من حسابات جيميل الشخصية أو الخاصة بالشركات، بحسب تقرير لوكالة بلومبرغ، اطلعت عليه "العربية Business".

وقال باحثو "رادوير" إن مستخدمي "شات جي بي تي" الذين ربطوا حسابات جيميل الخاصة بهم بالخدمة ربما عرضوا بياناتهم للمخترقين دون علمهم.

وتعتمد هذه الثغرة على خلل في آلية عمل وكلاء الذكاء الاصطناعي الذين يتمتعون بقدر من الاستقلالية ويمكنهم تنفيذ مهام نيابة عن المستخدم.

وتصف شركات الذكاء الاصطناعي الوكلاء باعتبارهم أدوات توفر قدرًا كبيرًا من الوقت بعد أن يمنحهم المستخدمون الإذن للوصول إلى رسائل البريد الإلكتروني الشخصية، والتقويمات، ومستندات العمل، وما إلى ذلك.

واستغل باحثو "رادوير" ميزة الذكاء الاصطناعي الوكيل هذه للقيام بهجوم حقن أوامر، وهي تعليمات تجعل وكيل الذكاء الاصطناعي يعمل لصالح المهاجم. وهذه الأدوات القوية من المستحيل منعها دون معرفة مسبقة بالثغرة المستخدمة، وقد استغلها المخترقون بالفعل لتنفيذ عمليات احتيال، والتحكم في المنازل الذكية.

وكان وكيل الذكاء الاصطناعي الذي استغله باحثو "رادوير" في حالة شات جي بي تي هو أداة البحث العميق المدمجة في روبوت الدردشة.

وزرع الباحثون أوامر خبيثة في رسالة بريد إلكتروني أرسلوها إلى صندوق رسائل جيميل كان وكيل الذكاء الاصطناعي قادرًا على الوصول إليه، حيث ظلت الرسالة في وضع الانتظار.

وعندما يحاول المستخدم استخدام أداة البحث العميق في المرة التالية، فسيقوم بتفعيل الأوامر الخبيثة دون قصد؛ حيث سيصادف وكيل الذكاء الاصطناعي التعليمات المخفية التي تُكلفه بالبحث عن رسائل البريد الإلكتروني الخاصة وتفاصيل شخصية خاصة بالموارد البشرية، وإرسالها إلى المخترقين، بينما يظل الضحية غير مدرك تمامًا لما يحدث.

وعالجت شركة "OpenAI" هذه الثغرة في "شات جي بي تي"، لكنها تظل مثالًا على المخاطر الجديدة الكامنة في وكلاء الذكاء الاصطناعي.

وحذرت "رادوير" من أن التطبيقات الأخرى المرتبطة بأدة البحث العميق، بما في ذلك "Outlook" و"GitHub" و"Google Drive" و"Dropbox"، قد تكون عرضة لهجمات مماثلة.