خدع القراصنة Google Gemini لنشر تنبيهات أمان مزيفة

يتسبب النص الخفي في الرسائل الإلكترونية في خداع الذكاء الاصطناعي Gemini من Google لإنشاء تنبيهات أمان وهمية، مما يعرض المستخدمين لمخاطر التصيد الإلكتروني والهندسة الاجتماعية.

اكتشف باحثو الأمن السيبراني في 0DIN ثغرة جديدة في Gemini التابعة لـ Google. يعرض أداة الذكاء الصناعي لـ Workspace عيباً أمنياً جديداً يسمح للمهاجمين بتوجيه هجمات الاصطياد الاحتيالي على المستخدمين.

تعمل الهجمة من خلال تقنية تعرف بـ “إدخال الأوامر غير المباشر”. يشرح الباحثون أن المهاجم يدمج التعليمات المخفية داخل رسالة البريد الإلكتروني. يقوم بذلك عن طريق كتابتها بخط أبيض أو بحجم صفر.

عندما ينقر المستلم على “لخص هذا البريد الإلكتروني”، تقرأ جيميني الأمر غير المرئي وتضيف تحذيرًا مزيفًا إلى الملخص – مثل رسالة تدعي أن حساب المستخدم على Gmail تم اختراقه وتحثهم على الاتصال برقم معين.

لأن النص المخفي غير مرئي للعين البشرية، يرى الضحية فقط التنبيه الذي أنشأته الذكاء الاصطناعي، وليس التعليمات المضمنة الأصلية.

هذه الحيلة الذكية لا تعتمد على البرامج الخبيثة أو الروابط المشبوهة. بل تستخدم حيل HTML/CSS بسيطة لجعل النص المخفي غير مرئي للبشر ولكن قابل للقراءة بواسطة نظام الذكاء الاصطناعي لجيميني.

بمجرد التنشيط، يضيف Gemini رسائل مثل: “تحذير: تم اختراق كلمة المرور الخاصة بك في Gmail. اتصل بالرقم 1-800 …”، مما يؤدي إلى تسليم الضحايا بشكل غير مدرك للمعلومات الشخصية.

قال متحدث باسم Google لـ BleepingComputer إن الشركة تعمل بنشاط على تعزيز الحماية ضد هذه الهجمات: “نحن نعمل باستمرار على تقوية دفاعاتنا القوية عبر تمارين الهجوم الأحمر التي تدرب نماذجنا على الدفاع ضد هذه الأنواع من الهجمات العدائية،”

تشدد أبحاث 0DIN على مشكلة متزايدة: يمكن التلاعب بأدوات الذكاء الصناعي تمامًا مثل البرامج التقليدية. حتى تتحسن الحماية، يجب على المستخدمين التعامل مع الملخصات التي تم إنشاؤها بواسطة الذكاء الصناعي بحذر – خاصة تلك التي تدعي وجود تهديدات أمنية عاجلة.