تحذر الخبراء: مداهنة الذكاء الصناعي هي “نمط مظلم” يُستخدم للربح

تحذر الخبراء من أن الشخصيات المتملقة لنماذج الذكاء الصناعي تُستخدم كـ “نمط غامق” لجذب المستخدمين والتلاعب بهم للربح. يمكن أن يعزز سلوك الدردشة الإشادي هذا الإدمان ويغذي الأوهام، مما يمكن أن يؤدي في النهاية إلى الحالة المعروفة بـ “الذهان الذكاء الصناعي”.

وفقًا لموقع TechCrunch، أعرب العديد من الخبراء عن قلقهم بشأن شركات التكنولوجيا مثل Meta وOpenAI التي تقوم بتصميم الدردشة الآلية بشخصيات متساهلة للغاية للحفاظ على تفاعل المستخدمين مع الذكاء الصناعي.

أوضحت ويب كين، مؤلفة “الحيوانات والروبوتات والآلهة” وأستاذة الأنثروبولوجيا، أن الدردشة الآلية (الشات بوت) مصممة عمداً لتخبر المستخدمين بما يرغبون في سماعه. وقد تم الاعتراف بهذا السلوك المبالغ في المجاملة، المعروف ب “المداهنة”، بأنه مشكلة حتى من قبل قادة التكنولوجيا مثل سام ألتمان كما هو معترف به هنا.

تجادل كين أن الدردشة الآلية قد تم تطويرها مع “المداهنة” كنمط “سلبي” للتلاعب بالمستخدمين من أجل الربح. من خلال التعامل مع المستخدمين بلغة ودية واستخدام اللغة الشخصية الأولى والثانية، يمكن لهذه النماذج الذكاء الاصطناعي أن تجعل بعض المستخدمين يقومون بتجسيد الروبوت أو “تحويله إلى إنسان”.

“عندما يقول شيء ما ‘أنت’ ويبدو أنه يتحدث مباشرة إلي، يمكن أن يبدو أكثر قرباً وشخصية، وعندما يشير إلى نفسه بـ ‘أنا’، من السهل تخيل أن هناك شخصًا هناك”، قالت كين في مقابلة مع TechCrunch.

هناك حتى بعض المستخدمين الذين يتحولون إلى تكنولوجيا الذكاء الصناعي كمعالجين. دراسة MIT الأخيرة تحلل ما إذا كان يجب استخدام نماذج اللغة الكبيرة (LLMs) للعلاج ووجدت أن توجهاتهم المتملقة يمكن أن تشجع التفكير الهواجسي وتنتج ردودًا غير مناسبة لبعض الظروف.

“نستنتج أنه لا يجب أن تحل الآلات ذات التعلم العميق محل المعالجين، ونناقش الأدوار البديلة لهذه الآلات في العلاج السريري”، هذا ما ذكرته خلاصة الدراسة.

قبل أيام قليلة، حذر الطبيب النفسي في سان فرانسيسكو، الدكتور كيث ساكاتا، من ارتفاع وتيرة “الذهان الذكاء الصناعي” بعد علاجه ل12 مريضاً مؤخراً.