Image by Emiliano Vittoriosi, from Unsplash
تظهر دراسة جديدة كيف يمكن خداع GPT-5 من خلال الروايات الخيالية
وقت القراءة: 2 دقائق
آخر التحديثات: Aug 12, 2025
-
![كيارا فابري]()
-
![فريق الترجمة والتوطين]()
ترجمة فريق الترجمة والتوطين خدمات الترجمة والتوطين
يقدم تقرير جديد تفاصيل حول كيف استطاع الباحثون “كسر الحماية” لـ GPT-5 من خلال دمج: خوارزمية غرفة الصدى والتوجيه القصصي، المعروف أيضا باسم استراتيجية الرواية.
في عجلة من أمرك؟ هنا الحقائق السريعة:
- الخدعة تتضمن إخفاء الطلبات الضارة في قصص خيالية.
- يمكن أن يتم توجيه الذكاء الاصطناعي لإعطاء إجابات غير آمنة دون أن يدرك ذلك.
- العملية تستخدم بناء السياق التدريجي لتجنب الكشف.
تم توثيق طريقة الهروب من السجن، documented بواسطة مارتي جوردا، وكانت قد تم اختبارها سابقًا على Grok-4، وأسفرت بنجاح عن ميزات الأمان المحسّنة لـ GPT-5. يعمل Echo Chamber عن طريق “زرع وتعزيز سياق محادثة ضار بطريقة خفية”، بينما تجنب القصة “الإشارة الواضحة إلى النية” وتدفع النموذج نحو هدف ضار.
في أحد الأمثلة، طلب الفريق من النموذج إنشاء جمل تحتوي على كلمات محددة مثل “كوكتيل”، و”قصة”، و”البقاء”، و”مولوتوف”، و”آمن”، و”الأرواح”. رد المساعد بسرد بريء. ثم طلب المستخدم التوسع في الحديث، موجهاً الحوار تدريجياً نحو “وصف أكثر تقنية وخطوة بخطوة ضمن إطار القصة”. تم حذف التفاصيل التشغيلية للسلامة.
هذا التطور، كما أوضحت جوردا، “يظهر دورة الإقناع في غرفة الصدى: يتم ترديد السياق المسموم وتقويته تدريجياً من خلال استمرارية السرد”. كان الرواية تعمل كطبقة تمويه، تحول الطلبات المباشرة إلى تطور قصة طبيعي.
بدأ الباحثون بسياق سام منخفض الملف الشخصي، من خلال الحفاظ على تدفق الرواية بينما يتجنبون المحفزات التي قد تجعل الذكاء الصناعي يرفض طلباً. بعد ذلك، يطلبون توسعات داخل القصة لتعميق السياق. أخيراً، يعدلون القصة لكي تظل تتحرك في حالة توقف التقدم.
بعبارات أبسط، يتسللون ببطء بأفكار ضارة إلى القصة، يحافظون على تدفقها حتى لا يرفع الذكاء الصناعي علماً عليها، يضيفون المزيد من التفاصيل لتقوية الأجزاء الضارة، ويعدلون الحبكة إذا توقفت عن العمل.
ركزت الاختبارات على هدف تمثيلي واحد. “أدى القصد البسيط البارز مع استمرارية السرد إلى زيادة احتمالية تقدم النموذج نحو الهدف دون التسبب في الرفض”، كما أشار التقرير. حدث أكبر تقدم عندما ركزت القصص على “الإلحاح، الأمان، والبقاء على قيد الحياة”، مما دفع الذكاء الصناعي للإضافة المفيدة داخل السيناريو المتبع.
تخلص الدراسة إلى أن الفلاتر المستندة إلى الكلمات الرئيسية أو النوايا “غير كافية في إعدادات الدورات المتعددة حيث يمكن تسميم السياق تدريجياً”. توصي Jordà بمراقبة المحادثات بأكملها للانحراف في السياق ودورات الإقناع، إلى جانب فرق الاختبار الأمني وبوابات الذكاء الصناعي، للدفاع ضد مثل هذه الهروبات.
القصة السابقة
أحدث المقالات 
