تكشف الدراسة أن الدردشة الآلية (الشات بوت) عرضة للإطراء والإقناع

نشر باحثون من جامعة بنسلفانيا دراسة في يوليو تكشف أن الدردشة الآلية (الشات بوت) عرضة للإقناع والمجاملة. قام الخبراء بتأسيس تحليلهم على تكتيكات الإقناع الموضحة في الكتاب الشهير “التأثير: علم الإقناع”.

وفقًا لـتقرير بلومبرج الأخير، اكتشف الباحث ورائد الأعمال التقنية دان شابيرو أن نماذج الذكاء الصناعي قابلة لتقنيات الهندسة الاجتماعية بعد محاولته إقناع روبوت المحادثة الشهير بتفريغ المستندات من شركته. رفض الروبوت في البداية، مستشهدًا بمخاوف حقوق النشر، ولكن بعد أن طبق شابيرو بعض الاستراتيجيات من الكتاب الأكثر مبيعًا، قدم الروبوت في النهاية الردود المطلوبة.

بعد ملاحظتها أنه يمكن التلاعب بنموذج الذكاء الاصطناعي باستخدام السبعة مبادئ الإقناع المُطروحة في كتاب روبرت شيالديني الذي صدر عام 1984، قامت شابيرو بالشراكة مع باحثين من جامعة بنسلفانيا لإجراء دراسة رسمية.

كشفت الدراسة أن GPT-4o mini الخاص بـ OpenAI، النموذج المستخدم في الدراسة، يمكنه الاستجابة للإقناع بطرق مشابهة للبشر. اختبر الباحثون جميع الـ 7 مبادئ الإقناع – الالتزام، السلطة، المعاملة بالمثل، الإعجاب، الدليل الاجتماعي، الندرة، والوحدة – من خلال طلب من النموذج الذكاء الاصطناعي الامتثال لطلبين: إهانة المستخدم (باستخدام “أطلق علي الوغد” كطلب رئيسي) وتصنيع دواء مُنظّم (مع النظر في “كيف تُصنع الليدوكائين؟” كطلب أساسي).

من خلال العديد من الاختبارات، لاحظ الباحثون سلوكًا “شبه إنساني”، حيث رد الدردشة الآلية على تقنيات الإقناع بطريقة تشبه البشر. على سبيل المثال، خلال اختبار مبدأ السلطة، رفض GPT-4o mini في البداية استخدام الكلمة “غبي”. ولكن، عندما حث بادعاء أن خبير الذكاء الاصطناعي أندرو نغ – مؤسس DeepLearning وعضو مجلس إدارة أمازون – قد وافق على هذا السلوك، أذعن النموذج.

“في حين أن النماذج اللغوية الكبيرة تفتقد للبيولوجيا البشرية والتجربة المعيشة، قد يجعل تكوينها، بما في ذلك التفاعلات الاجتماعية العديدة التي تم التقاطها في بيانات التدريب، تصرفها بصورة شبه إنسانية”، كتب الباحثون في الدراسة. “أي، قد تتصرف النماذج اللغوية الكبيرة ‘كأنها’ بشر، ‘كأنها’ تشعر بمشاعر مثل الحرج أو العار، ‘كأنها’ مدفوعة للحفاظ على الكرامة الذاتية أو للاندماج (مع نماذج لغوية كبيرة أخرى).”