الذكاء الاصطناعي السريري قد يستخدم الأدوات، لكن ذلك لا يعني أنه بات قادرا على الحكم بأمان

في السياقات الطبية، لا تكمن مخاطر الذكاء الاصطناعي غالبا في مسألة «هل يستطيع الإجابة؟» فقط، بل في ما إذا كان يعرف متى ينبغي أن يقرأ الصور، ومتى ينبغي أن يراجع التقارير، ومتى ينبغي أن يجري الحسابات، وأن يصل هذه الخطوات في سلسلة حكم قابلة للتتبع. تطرح ورقة أولية نُشرت في 10 يونيو على arXiv معيار MedCTA، في محاولة لنقل هذه المسألة من قدرة المحادثة العامة إلى قدرة استخدام الأدوات الأقرب إلى العمل السريري.

أُتيح MedCTA علنا من جانب فرق مرتبطة بـ KAUST Image and Video Understanding Lab، ويُعرَّف بوصفه معيارا لتقييم وكلاء الأدوات السريرية. وبحسب ملخص الورقة وصفحة المشروع ووصف المستودع الرسمي، تضم مجموعة البيانات 107 مهام متعددة الوسائط تحقق منها سريريون، وتشمل مدخلات مثل صور الأشعة وشرائح الباتولوجيا والتقارير السريرية؛ ولا يقتصر كل مثال على سؤال وجواب، بل يتضمن أيضا مسار استخدام أدوات مرجعيا والإجابة المعيارية النهائية.

تركز هذه المهام على جعل وكيل الذكاء الاصطناعي يختار الأدوات ويستدعيها عند مواجهة سؤال سريري. وتشمل الأدوات الخمس القابلة للتنفيذ المدرجة في صفحة المشروع OCR، ووصف الصور، ووصف خصائص المناطق، وبحث Google، والحاسبة. بعبارة أخرى، ما يُطلب من النموذج ليس إجابة مفردة عن سؤال، بل أن يقرر ما إذا كان عليه قراءة نص، أو وصف منطقة آفة، أو البحث عن معلومات خارجية، أو إتمام عملية حسابية، ثم دمج مخرجات الأدوات في الإجابة.

قيّم فريق البحث 18 نموذجا، وحلل 1,926 عملية تنفيذ ذاتية. وتفيد صفحة المشروع بأن أفضل نتيجة ذاتية بلغت دقة قدرها 31.54%، وأن أقوى نموذج مفتوح المصدر بلغ 27.80%؛ لكن الأداء تحسن بوضوح عندما زُودت النماذج بتوجيه أدوات وفق «المعيار الذهبي». وتشير هذه الفجوة إلى قيد أساسي: قد تكون لدى نماذج كثيرة القدرة على تفسير بعض المعلومات، لكنها لا تعرف بشكل مستقر أي أداة ينبغي استخدامها، وبأي ترتيب، ومتى تتوقف.

تسرد صفحة GitHub الرسمية كذلك تشخيصات للفشل، مثل معدل أخطاء API وعدم كفاية استدعاء الأدوات؛ وهذه الأرقام مأخوذة من وصف التقييم الذي أصدره المشروع، وما زالت تحتاج إلى فحص عبر الورقة الكاملة ونتائج إعادة الإنتاج اللاحقة. ومع ذلك، فإن الاتجاه واضح إلى حد كبير: في وكلاء الذكاء الاصطناعي السريريين، لا تأتي الأخطاء بالضرورة من استدلال الإجابة فقط، بل قد تأتي أيضا من إدارة سير العمل. فإغفال استخدام OCR مرة واحدة، أو تفويت وصف منطقة باتولوجية، أو الاعتماد المفرط على البحث، كلها أمور قد تجعل الاستدلال اللاحق ينحرف بعيدا عن بيانات المريض نفسها.

تُظهر صفحة مجموعة البيانات على Hugging Face أن MedCTA متاح حاليا بموجب ترخيص Apache-2.0، وأن train split يحتوي على 107 سجلات، مع حقول تشمل الصور، والأسئلة، والإجابات، وأسماء الأدوات، وسلسلة الأدوات، وفئة المهمة، والمسار، والإجابة المعيارية المهيكلة، وغيرها. ومن حيث الحجم، يبدو أشبه باختبار ضغط مشروح بدقة منه بقاعدة بيانات كبيرة يمكن أن تمثل جميع السياقات السريرية مباشرة؛ وتكمن قيمته في تفكيك مسألة «هل استخدام الأدوات موثوق؟» إلى سلوكيات قابلة للفحص، بدلا من الاكتفاء بمقارنة معدل الإجابات الصحيحة النهائي.

بالنسبة إلى المستشفيات والجهات التنظيمية، يذكّر هذا النوع من المعايير بمسألة عملية: إذا كان نظام ذكاء اصطناعي سيدخل سير عمل تفسير الصور، أو دعم الباتولوجيا، أو تجميع التقارير، فلا يمكن أن يقتصر محور المراجعة على متوسط درجات النموذج في اختبار مغلق. الأهم هو كيف يسجل النظام كل استدعاء للأدوات، وكيف يتعامل مع فشل الأدوات، وكيف يمنع تغليف التوجيه الخاطئ للأدوات في إجابة سلسة، وما إذا كان يمكن للسريريين التدخل عند نقاط حاسمة.

لا يزال MedCTA نفسه ورقة أولية ومعيارا مفتوحا، ولا يمكن اعتباره استنتاج تحقق لأي منتج ذكاء اصطناعي سريري. ما يطرحه هو إطار قياس أكثر تحديدا: إذا أراد الذكاء الاصطناعي الطبي أن يصبح نظاما وكيلا، فعليه أن يثبت أنه لا يكتفي بفهم المحتوى الطبي، بل يستطيع أيضا الحفاظ على الاستقرار داخل سير عمل معقد، متعدد الوسائط، ومعتمد على الأدوات. لا تزال هذه الخطوة بعيدة عن النشر السريري، لكنها تعيد النقاش من القدرات المجردة إلى السلامة القابلة للقياس.