→ العودة إلى الصفحة الرئيسية

إنصاف الذكاء الاصطناعي الطبي لا يمكن أن يبقى مجرد اختبار على الورق

تذكّر دراسة جديدة بأن ظهور النموذج في التقييمات المعيارية وكأنه يقلل الانحياز لا يعني أنه سيخدم المرضى بإنصاف بعد دخوله مسارات العمل السريرية؛ فالاختبار الحقيقي للذكاء الاصطناعي الطبي هو أن يخضع للفحص في مواقع اتخاذ القرار الفعلية.

By SURL BioNews

عندما تُعلّق الآمال على الذكاء الاصطناعي الطبي للمساعدة في التشخيص أو الفرز أو توقع المخاطر، فإن أحد أكثر الأسئلة إثارة للقلق ليس ما إذا كان ذكيا بما يكفي، بل ما إذا كان سيعيد تغليف أوجه عدم المساواة الطبية القائمة في صورة أحكام خوارزمية. وتشير دراسة جديدة أوردها موقع Medical Xpress إلى أن الذكاء الاصطناعي الطبي قد يبدو أقل انحيازا في التقييمات الورقية، لكن الأمر قد لا يكون كذلك عند استخدامه فعليا.

يمس هذا الاكتشاف نقطة عمياء أساسية في التحقق من الذكاء الاصطناعي الطبي: فكثير من النماذج تُفحص أولا ضمن مجموعات بيانات منسقة أو مؤشرات معيارية أو اختبارات استرجاعية، لكن الميدان السريري ليس ورقة اختبار نظيفة. فمسارات وصول المرضى إلى الرعاية، واكتمال السجلات الطبية، وإمكانية الوصول إلى الفحوص، وطريقة تبني الأطباء للتوصيات، كلها قد تغير عواقب مخرجات النموذج.

في التطبيقات الطبية الحيوية، لا يكون الانحياز مجرد خطأ إحصائي. فإذا استُخدم الذكاء الاصطناعي في قراءة الصور الطبية، أو فرز الطوارئ، أو توقع مخاطر الأمراض المزمنة، أو ترتيب الإحالات الخاصة بالسرطان، فإن تفاوت أدائه بين المرضى من مختلف الفئات أو الأعمار أو الأجناس أو الخلفيات الاجتماعية والاقتصادية قد يتحول إلى تأخر في التشخيص، أو فحوص مفرطة، أو إلى جعل من يصعب عليهم أصلا الحصول على الموارد الطبية يُلاحظون في وقت أبعد.

لا توفر الملخصات المتاحة حاليا للمصادر تفاصيل عن مجموعات البيانات المستخدمة في الدراسة، أو نوع النماذج، أو سياقات المرض، أو النتائج الكمية، لذلك لا ينبغي توسيع الاستنتاج ليصبح أن كل الذكاء الاصطناعي الطبي غير موثوق. والتفسير الأكثر اتزانا هو أن الدراسة تذكّر الجهات التنظيمية والمؤسسات الطبية بأنه لا يمكن الاعتماد فقط على مؤشرات الإنصاف في مرحلة التطوير، بل يجب أيضا تتبع التأثير الفعلي للنموذج بعد نشره على مسارات رعاية المرضى.

وهذا يجعل «الإنصاف» ينتقل من مسألة تقنية إلى مسألة حوكمة سريرية. فحتى إذا أظهر النموذج أداء متوازنا في البيانات الاسترجاعية، قد تنشأ فجوات جديدة داخل سير العمل في المستشفيات بسبب إرهاق التنبيهات، أو نقص البيانات، أو اختلاف عادات الاستخدام بين التخصصات، أو تفاوت ثقة الأطباء في توصيات الذكاء الاصطناعي. وبعبارة أخرى، قد لا يكون الانحياز موجودا داخل النموذج فحسب، بل أيضا عند نقطة التقاء النموذج بالنظام.

بالنسبة إلى المستشفيات والجهات التنظيمية، تكمن أهمية هذا النوع من الدراسات في إطالة الجدول الزمني للتحقق. فالاختبارات السابقة لطرح الذكاء الاصطناعي الطبي في السوق أو إدخاله إلى الاستخدام ليست سوى نقطة بداية، وبعد ذلك تظل الحاجة قائمة إلى مراقبة بحسب الفئات السكانية، وتدقيق النتائج السريرية، وآليات للإبلاغ عن الأخطاء، وترتيبات واضحة للمسؤولية عند تعليق النظام أو تعديله عندما ينحرف أداؤه عن المتوقع.

يدخل الذكاء الاصطناعي الآن مزيدا من سياقات البحث والتطوير الطبي الحيوي والممارسة السريرية، من تجنيد المشاركين في التجارب، إلى فرز فحوص الدم، وصولا إلى المساعدة في قراءة الصور الطبية، وبسرعة تفوق قدرة الأنظمة على تعلم كيفية تقييمه. ولا يتمثل تذكير هذه الدراسة في موقف مناهض للذكاء الاصطناعي، بل في صياغة السؤال بدقة أكبر: هل يجعل نظام يبدو أكثر إنصافا في جداول الأبحاث الرعاية أكثر إنصافا بالفعل للمرضى المختلفين في غرفة الانتظار؟

References

  1. Medical Xpress