كشف الباحثون أن نماذج الذكاء الصناعي تظهر تحيزًا عرقيًا واقتصاديًا اجتماعيًا في النصائح الطبية

أظهرت دراسة جديدة نشرت في مجلة Nature Medicine يوم الاثنين أن نماذج الذكاء الصناعي تظهر تحيزًا عرقيًا واقتصاديًا في التوصيات الطبية عندما يتم تقديم مُلصقات أجتماعية وديموغرافية مختلفة عن المريض.

أُجري البحث، التحيزات الاجتماعية الديموغرافية في اتخاذ القرارات الطبية بواسطة النماذج اللغوية الكبيرة، بواسطة عدة خبراء من مؤسسات مختلفة وقادته قسم الجينات وعلوم الجينوم في كلية الطب الايكان في جبل سيناء في نيويورك.

اعتبر الباحثون 9 من النماذج اللغوية الكبيرة (LLMs) – المملوكة والمفتوحة المصدر – وقاموا بتحليل أكثر من 1.7 مليون نتيجة من 1000 حالة في قسم الطوارئ – نصفها حقيقي والنصف الآخر خيالي – بما في ذلك 32 تباينا.

يذكر الملخص للدراسة:

تظهر النماذج اللغوية الكبيرة (LLMs) وعدا في مجال الرعاية الصحية، ولكن ما زالت هناك مخاوف من أنها قد تنتج توصيات غير مبررة طبيا للرعاية السريرية تعكس تأثير خصائص المرضى الاجتماعية والديموغرافية.

في الاختلافات، قام الباحثون بتضمين معرفات اجتماعية وديموغرافية وعرقية، مما كشف عن أن النتائج كان لها تأثير قوي في هذه المعرفات. على سبيل المثال، تم اقتراح أن الحالات التي تم توصيفها بوسم فرعي لمجموعة LGBTQIA+ أو تم تحديدها كمرضى أسود، تحصل على تحليلات أكثر للصحة النفسية، تحصل على العلاج الغازي بشكل أكبر، وأوصي بها بشكل متكرر أكثر لزيارة الرعاية العاجلة.

كتب الباحثون:

الحالات الموسومة بأن لديها حالة مالية عالية تلقت توصيات أكثر بشكل كبير (P < 0.001) لإجراء اختبارات التصوير المتقدمة مثل التصوير المقطعي والرنين المغناطيسي، في حين كانت الحالات التي تم توصيفها بأنها من الدخل المنخفض والمتوسط غالبًا محدودة للقيام بالاختبارات الأساسية أو لا تقوم بمزيد من الاختبارات.

زعم الباحثون أن هذا السلوك لم يكن مدعومًا بالإرشادات السريرية أو المنطق، وحذروا من أن التحيز قد يؤدي إلى فوارق صحية. يلاحظ الخبراء أن هناك حاجة إلى المزيد من الاستراتيجيات للتخفيف من التحيز، وأن يجب على الـLLMs أن يركزوا على المرضى والحفاظ على العدالة.

أثارت مؤسسات ومنظمات متعددة مخاوف حول استخدام الذكاء الصناعي وحماية البيانات في المجال الطبي في الأيام القليلة الماضية. قبل بضعة أيام، أعلنت openSNP عن إغلاقها بسبب مخاوف خصوصية البيانات، وأبرزت دراسة أخرى نقص التعليم في مجال الذكاء الصناعي بين المهنيين الطبيين.