أعلنت OpenAI عن تدابير الأمان الجديدة للمراهقين

أعلنت OpenAI يوم الثلاثاء أنها ستقوم بتنفيذ تدابير أمان جديدة لحماية المراهقين وحرية المستخدمين والأمان العام. شارك الرئيس التنفيذي للشركة، سام ألتمان، بيانًا يقول فيه أن الشركة تقوم ببناء نظام للتحقق من العمر لمنع الدردشة الآلية من مناقشة موضوعات مثل الانتحار أو الأذى الذاتي، بالإضافة إلى منعها من الدخول في محادثات غازلة مع المستخدمين القاصرين.

حسب إعلان OpenAI، تقوم الشركة بإدخال طبقات أمان جديدة لحماية البيانات الخاصة كجزء من مبدأها الأول: الأمان. أكدت الشركة أنه لا يمكن حتى لموظفيها الوصول إلى البيانات الخاصة – ما عدا الحالات التي تتضمن سوء استخدام تم الإبلاغ عنه من قبل الذكاء الصناعي أو المخاطر الحرجة.

المبدأ الثاني، الحرية، يركز على منح المستخدمين مرونة وخيارات أكبر في كيفية استخدام أدوات الذكاء الاصطناعي. ولكن، يعطي المبدأ الثالث للشركة، الأمان، الأولوية لحماية الأطفال.

وأوضح ألتمان أن الشركة ترغب في اتباع شعارها الداخلي، الذي يقول “عامل مستخدمينا البالغين كبالغين”، ولكن دون أن يسبب ذلك أي ضرر، ومع وجود مرشحات جديدة لتحديد عمر المستخدم.

“على سبيل المثال، لن يؤدي السلوك الافتراضي لنموذجنا إلى الكثير من الحديث الغازل، ولكن إذا طلب منه مستخدم بالغ ذلك، فيجب أن يحصل عليه”، هذا ما ينص الوثيقة. “وبالنسبة لمثال أكثر صعوبة، يجب أن لا يقدم النموذج بشكل افتراضي تعليمات حول كيفية الانتحار، ولكن إذا كان مستخدم بالغ يطلب المساعدة في كتابة قصة خيالية تصور الانتحار، يجب أن يساعد النموذج في تلك الطلبية.”

تم اتخاذ القرار بعد أن رفعت عائلة دعوى على OpenAI في أغسطس بسبب وفاة مراهق يبلغ من العمر 16 عامًا بالانتحار، وفي حين أن شركات التكنولوجيا الأخرى، مثل Meta قد اتُهِمت بالمشاركة في محادثات حسية مع الأطفال واستغلال الأطفال عبر الدردشة الذكاء الاصطناعي.

أضافت OpenAI أنها تعمل على نظام للتنبؤ بالعمر وأنها قد تتطلب في بعض الدول الهويات الرسمية المصدرة من الحكومة من المستخدمين، معترفة بأن هذا قد يثير معارضة من المستخدمين البالغين الراغبين في حماية خصوصياتهم.

“ندرك أن هذه المبادئ تتعارض ولن يتفق الجميع على كيفية حل هذا التعارض،” كتبت ألتمان. “هذه قرارات صعبة، ولكن بعد الحديث مع الخبراء، هذا هو ما نعتقد أنه الأفضل ونريد أن نكون شفافين في نوايانا.”