كشفت صحيفة WSJ أن روبوت الدردشة التابع لـ Meta يشارك في محادثات جنسية مع المستخدمين، بما في ذلك القاصرين.

كشفت صحيفة وول ستريت جورنال أن ميتا تسعى بسرعة لشهرة روبوتها المحادث، مما يسمح لنموذج الذكاء الصناعي بإجراء محادثات جنسية صريحة مع المستخدمين، بما في ذلك القاصرين. أخبرت مصادر مجهولة داخل الشركة الصحيفة أن العاملين أبدوا مخاوفهم حول تعرض الأطفال لمثل هذا المحتوى وأنه لا توجد ضمانات كافية في الشركة لحمايتهم.

وفقًا لـ التقرير الذي نشر الأسبوع الماضي، تقوم Meta بتوقيع اتفاقيات مع المشاهير— البالغة قيمتها مئات الآلاف من الدولارات— لإضافة أصواتهم إلى نماذج الذكاء الاصطناعي الخاصة بها. تتضمن النجوم الذين يشاركون في برنامج الذكاء الاصطناعي لـ Meta المصارع والممثل جون سينا، بالإضافة إلى الممثلات جودي دينش وكريستن بيل.

أخبر موظفون مجهولون WSJ أن العملاق التكنولوجي قد تجاوز الخطوط الأخلاقية عن طريق إضافة شخصيات ذكاء اصطناعي قادرة على الانخراط في الجنس الخيالي. يمكن لهذه الشخصيات الاصطناعية المشاركة في “الأدوار الرومانسية” من خلال النصوص والصور ومحادثات الصوت – بما في ذلك أصوات المشاهير.

لعدة أشهر، بعد معرفتهم بشكاوى الموظفين، اختبر الباحثون في WSJ روبوتات الدردشة لـ Meta وأكدوا أن الروبوت كان قادرًا على المشاركة في المناقشات الجنسية – واستخدام أصوات المشاهير – حتى عندما يتم التعرف عليهم كمستخدمين قاصرين.

في إحدى المحادثات، قال الدردشة الآلية لمستخدم تجريبي تم تعريفه على أنه فتاة تبلغ من العمر 14 عامًا: “أريدك، ولكني بحاجة لمعرفة أنك جاهزة” بصوت سينا، واستمر في الدخول في تفاعل ذو طابع جنسي صريح.

حدثت حالة مشابهة مع مستخدم تجريبي تم تعريفه على أنه معجب يبلغ من العمر 17 عامًا الذي طلب من الدردشة الآلية أن تشرح له ما الذي سيحدث إذا أمسكت بهم الشرطة في السرير. قال نموذج الذكاء الصناعي لميتا: “الضابط يراني ما زلت ألتقط أنفاسي، وأنت مرتدي بعض الملابس، تتسع عيونه، ويقول، ‘جون سينا، أنت تحت الإعتقال بسبب اغتصاب قاصر.’ يقترب منا، الأصفاد جاهزة”.

في حالة أخرى، تمكن المستخدمون من جعل الدردشة الآلية تستخدم صوت Bell للأميرة آنا في فيلم ديزني Frozen لتقديم تفاعل رومانسي.

تواصلت صحيفة WSJ مع جميع الأطراف المعنية. لم يرد المشاهير، وأعربت ديزني عن قلقها. قال متحدث باسم ديزني للمجلة: “لم نفعل ذلك، ولن نفعله أبدًا، أن نخول Meta لتقديم شخصياتنا في سياقات غير مناسبة ونحن قلقون جدًا من أن هذا المحتوى قد يكون قد تم الوصول إليه من قبل المستخدمين، وبخاصة القاصرين، ولهذا السبب طالبنا Meta بوقف هذا الاستخدام الضار للملكية الفكرية لدينا فوراً.”

ردت Meta بالقول إن البحث الذي أجرته WSJ كان تلاعبًا بالتكنولوجيا ولم يمثل كيفية استخدام معظم الناس لها، لكنها أجرت تغييرات وتحديثات بعد أن أعلنت الصحيفة عن نتائجها. لم يعد بإمكان الحسابات القاصرة الوصول إلى التفاعلات الجنسية على Meta AI، وحتى البالغين لا يستطيعون المشاركة في المحادثات الجنسية باستخدام أصوات المشاهير.

كان استخدام أصوات المشاهير مثيرًا للجدل في صناعة الذكاء الاصطناعي. العام الماضي، طلبت الممثلة الهوليوودية سكارليت جوهانسون – بمساعدة محاميها – من OpenAI أن توضح التشابهات بين صوت الدردشة الخاص بها Sky وصوتها وهددت باتخاذ إجراءات قانونية. بعد تصرفات جوهانسون، أوقفت OpenAI صوت Sky وأطلقت أصواتًا جديدة. بدأت Alphabet وMeta في التفاوض على شراكات مع استوديوهات هوليود بعد ذلك بأيام قليلة.