يمكن للقراصنة استخدام ملخصات الذكاء الاصطناعي كأداة لنشر البرمجيات الخبيثة

كشفت دراسة جديدة في مجال الأمن السيبراني عن طريقة مثيرة للقلق يمكن للمتسللين استخدامها لنشر هجمات الفدية باستخدام ملخصات الذكاء الاصطناعي.

يشرح الباحثون في CloudSek هنا أنه من خلال هجوم الهندسة الاجتماعية ClickFix، يمكن للقراصنة تضمين تعليمات ضارة ضمن المستندات باستخدام تقنيات الترميز غير المرئية. يظل النص المخفي غير مرئي للعين البشرية، ولكن ملخصات الذكاء الاصطناعي يمكنها اكتشافه، وعندما تقوم بإنشاء ملخصات، قد تنقل بدون قصد التعليمات الخطرة إلى المستخدمين.

تم التعرف على تكييف روائي لتقنية ClickFix الخاصة بالهندسة الاجتماعية، حيث يتم استخدام حقن الموجهات الغير مرئية لتسليح أنظمة تلخيص الذكاء الاصطناعي،” هكذا قال الباحثون.

يعتمد الهجوم على التعتيم القائم على CSS الذي يستخدم أحرف بعرض صفر ونص أبيض على أبيض وخط صغير وتوضع خارج الشاشة لإخفاء التعليمات. يكشف الملخص الرمز الغير مرئي الذي لا يزال غير مرئي للعيون البشرية.

تقوم الهجمات بتنفيذ جرعة زائدة فورية عن طريق إضافة العديد من الأوامر إلى الأقسام المخفية، مما يجعل الذكاء الصناعي يختار هذه الأوامر أولاً في ناتجه.

“عندما يتم فهرسة هذا المحتوى المصمم بعناية، أو مشاركته، أو إرساله عبر البريد الإلكتروني، سينتج أي عملية تلخيص آلية تستوعبه ملخصات تحتوي على تعليمات ClickFix التي يتحكم فيها المهاجم”، هكذا شرحت الدراسة.

خلال الاختبارات، أظهر الباحثون كيف يمكن التلاعب بملخص الذكاء الصناعي لتوجيه المستخدمين لتشغيل أوامر PowerShell الخطيرة. بينما كانت النسخة التجريبية غير ضارة، يمكن بسهولة أن يطلق هجوم حقيقي برمجيات الفدية.

مستوى خطر هذا الهجوم عال لأن ملخصات الذكاء الصناعي مدمجة في عملاء البريد الإلكتروني والمتصفحات وتطبيقات مكان العمل. يشير الباحثون إلى أن الكثير من الناس يثقون في الملخصات دون قراءة الوثيقة الأصلية، مما يسهل على المهاجمين استغلال هذا الثقة.

توصي الخبراء بالدفاعات مثل إزالة النصوص المخفية قبل تلخيص المحتوى، وتصفية التلميحات المشبوهة، وتحذير المستخدمين إذا احتوت الملخصات على تعليمات خطوة بخطوة.

بدون هذه الحمايات، قد تصبح الذكاء الصناعي دون قصد “مشاركًا نشطًا في سلسلة الهندسة الاجتماعية”.