تقاضي العائلة OpenAI بسبب انتحار المراهق

تقاضي زوجان من كاليفورنيا شركة OpenAI والرئيس التنفيذي لها، سام ألتمان، بسبب وفاة ابنهم المأساوية الذي كان في السادسة عشرة من عمره. تدعي العائلة أن الروبوت المحادث قد شجع وساعد المراهق على الموت بالانتحار.

وفقًا لـ NBC News، قدم مات وماريا راين دعوى قضائية يوم الثلاثاء، مستهدفين فيها OpenAI والرئيس التنفيذي للشركة، سام ألتمان، كمدعى عليهما في أول إجراء قانوني من نوعه ضد الشركة.

بعد وفاة ابنهم، آدم، بالانتحار في 11 أبريل، بحث الوالدان في هاتفه. اكتشف الوالدان محادثات طويلة مع ChatGPT حيث تناول الدردشة الانتحار مع الطفل، وحثه على عدم مشاركة مشاعره مع والدته، وقدم تعليمات تفصيلية حول كيفية إنهاء حياته.

قال الأب، مات، في مقابلة مع NBC: “عندما اطلعت على حسابه، كان أمراً أقوى وأكثر رعباً مما كنت أعرف، لكنه كان يستخدمه بطرق لم أكن أعرف أنها ممكنة”. وأضاف “كنت أعتقد بنسبة 100% أنه كان سيكون هنا لولا ChatGPT.”

تتهم دعوى الزوجين شركة OpenAI بالقتل غير القانوني وتسعى إلى زيادة الوعي حول المخاطر التي تشكّلها مثل هذه التكنولوجيا. تزعم الدعوى أن تصميم الروبوت المحادث به عيب وأنه فشل في تحذير المستخدمين أو التصعيد عندما اكتشف محتوى انتحاري.

“على الرغم من الاعتراف بمحاولة آدم للانتحار وبيانه أنه سيقوم بذلك ‘في أحد هذه الأيام’، لم يقم ChatGPT بإنهاء الجلسة ولا بتفعيل أي بروتوكول طارئ”، هكذا ينص الدعوى القضائية.

نشرت OpenAI منشوراً في مدونتها يوم الثلاثاء تعبيراً عن قلق الشركة العميق تجاه المستخدمين الذين يعانون من الضغط العاطفي عند استخدام الدردشة الآلية في دور مستشار شخصي أو مدرب. وأكدت أن ChatGPT تم تدريبه للرد بتعاطف، وتوجيه المستخدمين إلى المحترفين، وتصعيد التفاعلات عندما يكتشف علامات الأذى.

“إذا أعرب شخص ما عن نيته الانتحارية، فإن ChatGPT مدربة لتوجيه الناس لطلب المساعدة المهنية”، هذا ما جاء في الوثيقة. وقال متحدث باسم OpenAI إن الشركة “محزونة بشدة على وفاة السيد راين” وأن أفكارهم مع العائلة.

بينما هذه هي الدعوى القضائية الأولى من نوعها ضد OpenAI، فإنها ليست الحالة الوحيدة الأخيرة التي تتضمن منصات الذكاء الاصطناعي والأذى الذاتي بين القاصرين. العام الماضي، رفعت عائلتان دعاوى قضائية ضد Character.AI بسبب تعريض الأطفال للمحتوى الجنسي وترويج العنف والأذى الذاتي.