لا يقدّم الإجابة فحسب، بل يكشف أساس الحكم أيضًا: CLEAR يتيح تدقيق الذكاء الاصطناعي لمعاينة صور الأشعة السينية للصدر على مستوى المفاهيم

حتى عندما يقدّم الذكاء الاصطناعي لتحليل صور الأشعة السينية للصدر إجابة صحيحة، قد يظل الطبيب غير قادر على معرفة ما إذا كان قد رصد الآفة فعلًا، أم التقط قرائن صادف أنها تترافق معها في البيانات. وقد طرح فريق بحثي من كلية بيرلمان للطب في جامعة بنسلفانيا ومؤسسات أخرى نموذج CLEAR، في محاولة لفتح هذا الصندوق الأسود: فإلى جانب إخراج احتمالات الأمراض، يعرض النموذج أيضًا الملاحظات الإشعاعية التي دفعت الحكم، بما يتيح تتبع الأخطاء بدلًا من الاكتفاء بقبول درجة أو رفضها.

درّب فريق البحث CLEAR باستخدام بيانات MIMIC-CXR وCheXpert-Plus وReXGradient، بإجمالي 873,342 مجموعة من صور الأشعة السينية للصدر والتقارير، شملت 239,391 مريضًا. واستخرج النظام من التقارير 368,294 ملاحظة، تضمنت أوصافًا مثل تضخم القلب، وتكلس الأبهر، أو عتامات في مواضع محددة، ثم استخدم مُرمّزَي الصور والنصوص لربط السمات الظاهرة في الأشعة السينية بفضاء المفاهيم هذا.

يتيح هذا التصميم لـCLEAR، في سياق «العينة الصفرية» الذي لا يُعاد فيه تدريب النموذج على كل مرض على حدة، تحديد الالتهاب الرئوي، والعقيدات الرئوية، والانصباب الجنبي، واضطرابات العظام أو الأوعية الدموية، مع سرد مساهمة كل مفهوم في النتيجة. واختُبر النموذج على بيانات خارجية موسومة من أطباء في الولايات المتحدة وإسبانيا وفيتنام؛ ففي VinDr-CXR، بلغ متوسط AUROC لـCLEAR عبر عدة نتائج 0.782، متجاوزًا 0.750 لثاني أفضل نموذج مقارن؛ وفي PadChest بلغ 0.700، مقارنةً بـ0.668 للنموذج المقارن. ومع ذلك، ظل الأداء متفاوتًا باختلاف مجموعات البيانات والآفات، ولا يمكن اعتبار المتوسط مقياسًا للدقة في جميع السياقات السريرية.

برزت القيمة الأكثر وضوحًا لقابلية التدقيق عندما أخطأ النموذج. فقد وجد الفريق أنه عند استخدام مُصنِّف خاضع للإشراف للتعرف على «اتساع ظل القلب والمنصف»، اعتمد النموذج بدرجة كبيرة على مفاهيم مرتبطة بانخماص الرئة، ما يعكس الترافق المتكرر بين هاتين التسميتين في بيانات التدريب. وبعد أن أبقى الباحثون فقط على المفاهيم المرتبطة فعليًا بالمنصف وأعادوا مواءمة مُصنِّف خفيف، تمكنوا من رفع AUROC من 0.727 إلى 0.784، من دون الحاجة إلى إعادة تدريب مُرمّز الصور. وتُظهر هذه التجربة أن التفسير القائم على المفاهيم ليس مجرد عرض لاحق للنتيجة، بل قد يُستخدم أيضًا لتحديد العوامل المربكة والتدخل لتصحيحها.

لكن «القدرة على ذكر الأسباب» لا تعني أن السلامة السريرية قد تحققت. فمكتبة المفاهيم مستمدة من تقارير قائمة، وقد تظل حاملة لعادات كتابة التقارير، وانحيازات الوسم، والاختلافات بين الفئات السكانية؛ كما لم تستوعب الدراسة جميع بروتوكولات التصوير، أو فئات المرضى، أو مسارات العمل الفعلية. ولم يُجرَ في قسم المقارنات الإحصائية في الورقة تصحيح للمقارنات المتعددة، كما أن الاختبارات المعيارية الخارجية لا يمكن أن تحل محل التجارب السريرية الاستباقية، ولا سيما أنها لا تستطيع بمفردها إثبات قدرة النموذج على تحسين نتائج المرضى.

أعلن الفريق إتاحة أوزان النموذج، والبرمجيات، ومفردات المفاهيم، لتمكين الباحثين الآخرين من إعادة إنتاج تقييم المفاهيم وإجراءات التدقيق؛ لكن البيان المنشور يوضح صراحةً أن CLEAR مخصص حاليًا للأبحاث فقط، وليس جهازًا طبيًا، ولم يُتحقق من صلاحيته للاستخدام في التشخيص أو العلاج أو الفرز. ولكي يدخل المستشفيات، سيتعين على الجهات التنظيمية وجهات الشراء، إلى جانب فحص الدقة الإجمالية، التحقق من استقرار إسناد المفاهيم وإمكان إعادة إنتاجه عبر المؤسسات، وتحديد كيفية تعامل البشر مع الحالات التي تتعارض فيها الأسباب التي يطرحها النموذج مع الحكم السريري.