تحذر الخبراء من أن المحاكم قد تتجاهل الهلوسات الذكاء الاصطناعي في التقارير القانونية

ألغت محكمة في جورجيا أمر الطلاق بعد اكتشافها لاستشهادات قانونية مزيفة، والتي من المحتمل أنها تم إنشاؤها بواسطة الذكاء الاصطناعي، مما أثار الإنذار حول المخاطر المتزايدة في أنظمة العدالة.

توضح القضية أمام محكمة في جورجيا كيف يمكن أن تؤدي الذكاء الصناعي (AI) في الصمت إلى تقويض ثقة الجمهور في المؤسسات القانونية الأمريكية. تقارير ArsTechnica أن القاضي جيف واتكينز من محكمة الاستئناف في جورجيا ألغى أمر الطلاق لأنه وجد حالتين مختلقتين في الوثيقة، والتي من المحتمل أن تكون محتوى الذكاء الصناعي.

تم تجهيز الأمر بواسطة المحامية ديانا لينش، حيث تقرير ArsTechnica أنه أصبح الآن ممارسة شائعة في المحاكم المكتظة بالأعمال. هذه العادة المتزايدة لاستخدام الذكاء الصناعي في الملفات القانونية تجعل الاختصارات خطرة بشكل خاص.

تم فرض عقوبة بقيمة 2500 دولار على لينش، وكتب القاضي واتكينز: “تشير الأخطاء في هذه الملفات إلى أنها تم تجهيزها باستخدام الذكاء الصناعي المولد،” مضيفًا أن الهلوسات الصناعية يمكن أن “تضيع الوقت والمال،” وتضر بسمعة النظام، وتسمح لـ “المدعي […] بتحدي حكم قضائي من خلال المطالبة بصورة غير صادقة بالشك في صحته،” حسبما ذكرت ArsTechnica.

تحذر الخبراء من أن هذه ليست حالة معزولة. قال جون براونينغ، القاضي السابق في محكمة الاستئناف في تكساس، إنه “محتمل بشكل مخيف” أن تعتمد المزيد من المحاكم الجنائية بطريق الخطأ على الاقتباسات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي، خاصة في الأنظمة المثقلة. “أستطيع تصور مثل هذا السيناريو في عدد من المواقف المختلفة”، كما أخبر أرس تكنيكا.

تتردد أمثلة أخرى حديثة على القلق. فقد تم تغريم محاميين يمثلان الرئيس التنفيذي لشركة MyPillow، مايك ليندل، مجموع 3,000 دولار بعد أن قدموا وثائق قانونية تم إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على أكثر من عشرين خطأ رئيسي. كتبت القاضية نينا وانغ: “لا يستمتع هذا المحكمة بمعاقبة المحامين”، لكنها أكدت أن المحامين مسؤولون عن التحقق من صحة الوثائق المقدمة.

في كاليفورنيا، قام قاضٍ آخر بتغريم مكتبين للمحاماة 31,000 دولار بعد تقديمهم مراجع تحتوي على اقتباسات مزيفة. “هذا أمر مخيف،” كتب القاضي مايكل ويلنر، الذي كاد يقتنع بالأحكام المزيفة. إلا أنه إذا لم تتكيف المحاكم بسرعة، فقد تصبح الهلوسات الذكاء الاصطناعي كابوساً متكرراً في العدالة الأمريكية.

تعد هذه الاتجاهات مثار قلق خاص عند النظر إلى مدى غلاء التمثيل القانوني بالفعل. يعتقد الناس عادةً أن الرسوم القانونية تضمن الدقة والخدمة المهنية من محاميهم. ومع ذلك، مع استخدام المحامين للذكاء الاصطناعي كوسيلة للتخفيف، قد ينتهي الأمر بالعملاء بدفع الفاتورة للأخطاء التي يرتكبها الجهاز.

هذه الهلوسات لا تهدد فقط النتائج القانونية، بل قد تعزز أيضاً الفجوة بين الطبقات الاجتماعية عن طريق جعل العدالة أكثر صعوبة للوصول إليها بالنسبة لأولئك الذين لا يستطيعون مجابهتها بالقدر الكافي.