التكنولوجيا الطبية · eu
متى ينبغي تحديث الذكاء الاصطناعي الطبي؟ إطار AEGIS يختبر مراقبة ما بعد التسويق بنموذجي الإنتان وأورام الدماغ
عدم استيفاء الإصدار الجديد للشروط لا يعني إمكان مواصلة استخدام الإصدار القديم باطمئنان. يفصل فريق بحثي من معهد كارولينسكا بين مراجعة التحديثات والتنبيه إلى المخاطر، في محاولة لتحويل الإشراف المستمر على الذكاء الاصطناعي الطبي إلى إجراءات قابلة للتنفيذ؛ ولا تزال النتائج الحالية تقتصر على إثبات المفهوم.
قد تتراجع تدريجياً دقة نظام ذكاء اصطناعي يساعد على التعرّف على الإنتان، أو تحديد حدود أورام الدماغ في صور الرنين المغناطيسي، مع تغيّر تركيبة المرضى والأجهزة ومسارات التشخيص والعلاج. عندئذ، لا تواجه المستشفيات سؤال «هل ننتقل إلى الإصدار الجديد؟» فحسب، بل سؤالاً آخر أكثر إلحاحاً: هل بات الإصدار المستخدم حالياً يستدعي التدخل؟
يحاول إطار AEGIS، الذي اقترحه فريق من معهد كارولينسكا في السويد، توفير مسار واضح لاتخاذ القرار بشأن كل من هذين السؤالين. نُشرت الدراسة في 13 أكتوبر في مجلة «npj Digital Medicine»، وعرض المعهد نتائجها في 22 من الشهر نفسه؛ وكان الفريق ذاته قد أتاح نسخة أولية من الدراسة في مارس. تركز هذه الدراسة على توضيح كيفية تنفيذ مراقبة الذكاء الاصطناعي الطبي بعد التسويق واتخاذ قرارات تحديثه، ولم تثبت بعد أن هذه الإجراءات يمكن أن تحسّن مآلات المرضى.
يقسّم AEGIS العمل إلى ثلاثة أجزاء: دمج البيانات الجديدة وإعادة التدريب، ومراقبة أداء النموذج، وتحديد الخطوة التالية وفق شروط محددة مسبقاً. وتستند الدراسة إلى خطة ضبط التغييرات المحددة مسبقاً لدى إدارة الغذاء والدواء الأمريكية، وإلى لوائح الاتحاد الأوروبي المتعلقة بالأجهزة الطبية والذكاء الاصطناعي، في محاولة لتحويل متطلبات الإشراف إلى إجراءات تشغيلية قابلة للتتبع. لكن النظامين الأمريكي والأوروبي ليسا متطابقين تماماً، كما أن اعتماد الإطار لا يعادل الحصول على ترخيص من الجهة التنظيمية المختصة.
ضمن الإطار، يُصنَّف النموذج المرشح، وفق ترتيب الأولوية، ضمن إحدى فئات السماح بالنشر، أو السماح المشروط بالنشر، أو الإحالة إلى المراجعة السريرية، أو رفض النشر؛ وهذه كلها قرارات حوكمة داخلية. وفي مسار مستقل آخر، يراقب تنبيه ALARM النموذج المنشور بالفعل. ولذلك، يمكن للنظام أن يرفض الإصدار الجديد ويصدر في الوقت نفسه تحذيراً بشأن الإصدار القديم، تفادياً لاعتبار «منع التحديث» خطأً دليلاً على أن «الوضع الحالي لا يزال آمناً».
استخدم العرض التجريبي الخاص بالإنتان بيانات تاريخية من وحدات العناية المركزة من PhysioNet Challenge 2019، وأجرى 11 جولة اختبار باستخدام مصنِّف الغابة العشوائية، مع إضافة سيناريوهات تلف البيانات تدريجياً. وذكرت النسخة الأولية المبكرة أن الإجراءات أسفرت عن ثمانية قرارات بالسماح بالنشر، وقرار واحد لكل فئة من الفئات الثلاث الأخرى، كما شهدت حالة تعذّر فيها نشر النموذج المرشح وأطلق النموذج المستخدم أيضاً تنبيهاً. أما العرض التجريبي الآخر الخاص بأورام الدماغ، فاستخدم بيانات صور الرنين المغناطيسي من BraTS 2023/24 ونموذج nnU-Net ResENC-M، وأجرى 12 جولة اختبار؛ ووفق وثائق الفريق، عُطّلت فئتا القرار الوسيطتان في هذا العرض، واقتصر الاختبار على السماح بالنشر أو رفضه.
واختبرت الورقة المنشورة رسمياً أيضاً القدرة على رصد تغيّرات التوزيع باستخدام بيانات من مستشفيات مختلفة، وأفادت بارتفاع ROC-AUC من 0.82 إلى 1.00، وبحدوث الرصد عند حجم دفعة بيانات يقارب 500 مريض؛ ولم تحدث إنذارات كاذبة في هذه التجارب. وتقيس هذه الأرقام القدرة على التعرّف على تغيّرات البيانات، ولا يمكن تفسيرها على أنها دقة سريرية في تشخيص الإنتان أو تجزئة أورام الدماغ، كما لا تضمن حصول مستشفيات أخرى على النتائج نفسها.
حالياً، يلتقط تقييم الانجراف في AEGIS أساساً التغيّرات في توزيع بيانات الإدخال، ولا يعالج بعد بصورة مباشرة الانجراف المفاهيمي الذي يتمثل في «تغيّر العلاقة بين المدخلات نفسها والنتائج السريرية». وقد أتاح الفريق دليل التنفيذ وقوالب الوثائق والبرامج التوضيحية، لكن قبل الاستخدام الفعلي في الرعاية، لا بد من استكمال التحقق السريري والتقييم التنظيمي وفق كل استخدام محدد. ومن المأمول أن تتيح الخطوة التالية، المتمثلة في الاختبارات الميدانية مع الشركاء السريريين والجهات التنظيمية المختصة، الإجابة عما إذا كانت هذه الإجراءات قادرة على التعرّف على المشكلات في الوقت المناسب ودعم التدابير الملائمة.