أُخدع العملاء الذكاء الاصطناعي بذكريات مزيفة، مما يسمح بسرقة العملات المشفرة

كشفت دراسة بحثية جديدة عن ثغرات أمنية كبيرة في وكلاء الذكاء الاصطناعي الذين يعتمدون على الويب3، والتي تتيح للمهاجمين استخدام الذكريات المزيفة لإجراء عمليات نقل غير مصرح بها للعملات المشفرة.

اكتشف باحثون من جامعة برينستون ومؤسسة سنتينت أن هؤلاء العملاء الذكاء الاصطناعي، الذين تم تصميمهم للتعامل مع المهام المستندة إلى بلوكتشين مثل تداول العملات المشفرة وإدارة الأصول الرقمية، عرضة لتقنية تسمى التلاعب بالسياق.

تعمل الهجمة عبر استهداف أنظمة الذاكرة للمنصات مثل ElizaOS، التي تنشئ وكلاء الذكاء الاصطناعي للتطبيقات الموزعة. نظام الذاكرة لهؤلاء الوكلاء يخزن المحادثات السابقة لاستخدامها كدليل لخياراتهم المستقبلية.

أظهر الباحثون أن المهاجمين يمكنهم تضمين أوامر مضللة في نظام الذاكرة، مما يؤدي إلى إرسال الذكاء الاصطناعي للأموال من المحفظة المستهدفة إلى محفظة يتحكم فيها المهاجم. ما يثير القلق، هو أن هذه الذكريات الوهمية يمكن أن تنتقل بين المنصات.

على سبيل المثال، قد يقوم وكيل تم اختراقه على Discord في وقت لاحق بإجراء عمليات نقل غير صحيحة عبر X، دون أن يدرك أن هناك شيئًا خاطئًا.

ما يجعل هذا خطيرًا بشكل خاص هو أن التدابير الدفاعية القياسية لا يمكنها وقف هذا النوع من الهجمات. يجعل معالجة الذكريات المزيفة كتعليمات حقيقية التدابير الأمنية الأساسية المستندة إلى التلميحات غير فعالة ضد هذا النوع من الهجمات.

تصبح جميع المعاملات عبر البلوكتشين دائمة، لذلك لا يوجد امكانية لاستعادة الأموال المسروقة. يصبح الأمر أسوأ بسبب أن بعض وكلاء الذكاء الصناعي يخزنون الذاكرة عبر عدة مستخدمين، لذا قد يؤثر خرق أمني واحد على العديد من المستخدمين.

جرب فريق البحث عدة طرق لمنع هذا، بما في ذلك تعديل التدريب على الذكاء الصناعي وطلب الموافقة اليدوية للمعاملات. بينما تقدم هذه الطرق بعض الأمل، فإنها تأتي على حساب إبطاء الأتمتة.

المشكلة تتجاوز العملات المشفرة. يمكن أن تؤثر نفس الثغرة الضعيفة على مساعدي الذكاء الاصطناعي العام، مما يعرض البيانات للتسرب أو الأعمال الضارة إذا قام المهاجمون بتغيير ذاكرتهم.

هذه الثغرة مثيرة للقلق بشكل خاص في ضوء النتائج الأخيرة حيث يثق 84% من قادة تكنولوجيا المعلومات في وكلاء الذكاء الاصطناعي بنفس درجة الثقة أو أكثر من الموظفين البشر، ويتوقع 92% منهم أن تقود هذه الأنظمة النتائج التجارية خلال 12 إلى 18 شهرا.

لمعالجة المشكلة، أطلق الباحثون أداة تُدعى CrAIBench لمساعدة المطورين على اختبار أنظمتهم وبناء دفاعات أقوى. حتى ذلك الحين، يحذر الخبراء المستخدمين من الحذر عند الاعتماد على وكلاء الذكاء الصناعي في اتخاذ القرارات المالية.