كشفت Anthropic أن القراصنة استخدموا الدردشة الآلية الخاصة بها في هجمات إلكترونية

أصدرت شركة الذكاء الصناعي Anthropic تقريرًا جديدًا حول الأمن السيبراني يوم الأربعاء، تكشف فيه أن الجهات الخبيثة استخدمت نموذجها الذكاء الصناعي، Claude، لعمليات إجرامية متطورة. أوضحت الشركة الناشئة أن هناك هاكر استهدف مؤخرًا حوالي 17 منظمة، مستخدمًا تقنية جديدة تُعرف بـ “اختراق الأجواء”.

بحسب إعلان Anthropic، قامت الشركة بتنفيذ العديد من التدابير الأمنية لمنع سوء استخدام التكنولوجيا، ولكن المجرمين الإلكترونيين وجدوا طرقًا لاستغلالها.

في إحدى الحالات التي تم الإبلاغ عنها، كشفت الشركة الناشئة عن عملية إجرامية كبيرة قام بها هاكر، يمتلك مهارات ترميز بسيطة، استخدم “كود كلود” – أداة للترميز الوكالي – لتنفيذ عملية احتيال نشأت من كوريا الشمالية.

“الآن يتم استخدام نماذج الذكاء الصناعي لتنفيذ هجمات إلكترونية معقدة، وليس فقط للإرشاد حول كيفية تنفيذها”، حسبما تفيد الإعلان. “المجرمون الذين يمتلكون قليل من المهارات التقنية يستخدمون الذكاء الصناعي لتنفيذ عمليات معقدة، مثل تطوير الفدية، التي كانت ستتطلب سنوات من التدريب في السابق.”

في الحالة الرئيسية المقدمة، استخدم القراصنة كود Claude لسرقة البيانات من 17 منظمة، بما في ذلك الخدمات الطارئة، والوكالات الحكومية، ومقدمي الرعاية الصحية، والمؤسسات الدينية. ثم قام الفاعل الخبيث بابتزاز الضحايا، في بعض الحالات مطالبًا بأكثر من 500،000 دولار.

ذكرت Anthropic أن وكيل الذكاء الاصطناعي الخاص بها تم استخدامه لتحديد البيانات التي يجب اختراقها، وصياغة رسائل الابتزاز، وحتى اقتراح مبالغ الفدية المُخصصة لكل ضحية.

“لقد استخدم الممثل الذكاء الاصطناعي إلى درجة نعتقد أنها غير مسبوقة”، هذا ما جاء في الإعلان. “هذا يمثل تطورًا في الجريمة الإلكترونية المدعومة بالذكاء الاصطناعي.”

قالت الشركة إنها، بمجرد اكتشافها للعمليات الخبيثة، قامت بحظر الحسابات وتطوير أدوات فحص وكشف جديدة لمنع حدوث حالات مشابهة في المستقبل. تم تضمين المزيد من التفاصيل في التقرير الكامل.

حذرت شركة Anthropic أيضاً من ظهور تقنيات “اختراق الأجواء” الناشئة. “نتوقع أن تصبح الهجمات مثل هذه أكثر شيوعًا مع تقليل الترميز المساعد بالذكاء الاصطناعي من الخبرة التقنية المطلوبة لجرائم الإنترنت”، كما لاحظت الشركة.

أخيرا، أبرزت Anthropic الاندماج المتزايد للذكاء الاصطناعي في الأنظمة الإلكترونية الحالية، مشيرة إلى أمثلة مثل خدعة عمال تكنولوجيا المعلومات الكورية الشمالية التي أُبلغ عنها في أبريل، حيث سرق القراصنة هويات المواطنين الأمريكيين لتأمين وظائف عن بُعد في الولايات المتحدة.