تواجه أداة Elsa التابعة للـ FDA انتقادات بسبب تشويهها للبيانات العلمية

تُعد أداة الذكاء الصناعي الجديدة لإدارة الغذاء والدواء الأمريكية “إلسا” وعدًا بالموافقة السريعة على الأدوية، ولكن الخبراء الطبيين يحذرون من أن هذه الأداة تُنتج أبحاثًا مُختلقة، مما يؤدي إلى زيادة المخاطر الصحية.

في يونيو، أطلقت إدارة الغذاء والدواء الأمريكية (FDA) Elsa كأداة جديدة للذكاء الاصطناعي لتسريع إجراءات الموافقة على الأدوية. أعلن الدكتور مارتي ماكاري، مفوض FDA، أن النظام سيكتمل قبل الموعد المحدد مع البقاء ضمن الميزانية.

ومع ذلك، أخبر أعضاء فريق العمل في إدارة الأغذية والأدوية (FDA) مؤخراً CNN بأن Elsa تحتاج إلى المزيد من التطوير قبل أن يمكن استخدامها في التطبيقات العملية.

يفترض أن Elsa تساعد العلماء في الFDA بواسطة عمل ملخصات البيانات وتحسين عملية المراجعة. ومع ذلك، تلاحظ CNN أن الموظفين الحاليين والسابقين في FDA يبلغون أن Elsa تتوهم وتولد معلومات خاطئة. بالفعل، يبدو أن الأداة تختلق دراسات جديدة أو تشوه الدراسات الحالية، مما يجعلها محفوفة بالمخاطر للاستخدام في العمل العلمي الجاد.

“أي شيء ليس لديك الوقت للتحقق منه مرتين يعتبر غير موثوق. إنه يتوهم بثقة”، هكذا قال أحد موظفي الـ FDA لـ CNN. أضاف آخر: “من المفترض أن الذكاء الصناعي يوفر وقتنا، ولكن أنا أضمن لك أنني أضيع الكثير من الوقت الإضافي فقط بسبب اليقظة المفرطة التي يجب أن أتحلى بها”.

تلاحظ CNN أنه في الوقت الحالي، لا يتم استخدام Elsa لمراجعة الأدوية أو الأجهزة لأنها لا تستطيع الوصول إلى وثائق مهمة مثل طلبات الشركات. واعترف رئيس الذكاء الصناعي في FDA، جيريمي والش، بالمشكلة: “إلسا ليست مختلفة عن العديد من [نماذج اللغة الكبيرة] والذكاء الصناعي التوليدي […] كانوا يمكن أن يتوهموا”، كما ذكرت CNN.

أفاد مسؤولو إدارة الغذاء والدواء أن الغرض الرئيسي من استخدام “إلسا” هو تنظيم المهام، مثل تلخيص محاضر الاجتماعات. يوجد لديها واجهة بسيطة تدعو المستخدمين إلى “اسأل إلسا أي شيء”.

لا يُطلب من الموظفين استخدام الأداة. قال مكاري لـ CNN: “لا يتعين عليهم استخدام إلسا إذا لم يجدوا أن لديها قيمة”.

مع غياب أي تنظيمات فدرالية للذكاء الصناعي في الطب، يحذر الخبراء من أنها مسار خطير. قال الدكتور جوناثان تشين من جامعة ستانفورد لشبكة CNN: “إنه في الواقع نوع من الغرب الأمريكي القديم الآن”.

مع أن التبني للذكاء الصناعي في العلوم ينمو بسرعة، حيث يقول أكثر من نصف الباحثين أن الذكاء الصناعي يتفوق بالفعل على البشر في مهام مثل التلخيص وفحص النسخ.

ومع ذلك، لا تزال هناك تحديات كبيرة. وقد وجدت استطلاع لـ 5,000 باحث أن 81% يقلقون بشأن دقة الذكاء الاصطناعي، والتحيز، ومخاطر الخصوصية. العديد من الباحثين يرون أن نقص الإرشاد والتدريب يشكل حاجزاً كبيراً أمام استخدام الذكاء الاصطناعي بأمان.

يشدد الخبراء على الحاجة الملحة لأخلاقيات أوضح للذكاء الاصطناعي والتعليم لتجنب سوء الاستخدام. بينما يظهر الذكاء الاصطناعي وعداً، يتفق الباحثون على أن الرقابة البشرية لا تزال ضرورية للحفاظ على النزاهة العلمية.