الصحة الرقمية · global
عندما يبدأ الذكاء الاصطناعي في تحليل أصوات القلب بالإخفاق، لا يحافظ حتى التقييم المستقل المسبق للأطباء على الدقة
وجدت تجربة عشوائية شملت 48 مشاركًا أن دقة التقييم المشترك بين الإنسان والآلة تراجعت مع انخفاض موثوقية الذكاء الاصطناعي المحاكى. وتطرح الدراسة مسألة الإشراف السريري بصورة أكثر تحديدًا: هل تكفي المراجعة البشرية لضمان السلامة؟
عندما يخطئ الذكاء الاصطناعي الطبي، هل يستطيع الإنسان المسؤول عن المراجعة النهائية اكتشاف ذلك في الوقت المناسب؟ وجدت تجربة لتقييم أصوات القلب، نُشرت في 13 نوفمبر في مجلة «npj Digital Medicine»، أن مطالبة المشاركين بإصدار حكم مستقل أولًا، ثم الاطلاع على توصية الذكاء الاصطناعي، لم تمنع انخفاض الدقة النهائية مع تراجع دقة النظام.
وزّعت الدراسة 48 مشاركًا عشوائيًا على مجموعتين، وقيّم كل مشارك 40 تسجيلًا رقميًا لأصوات القلب، للتمييز بين الأصوات الطبيعية والأصوات غير الطبيعية، بما فيها النفخات المرضية. اطّلعت إحدى المجموعتين على توصية الذكاء الاصطناعي أولًا، بينما قدّمت الأخرى إجابة مستقلة أولًا، ثم قررت ما إذا كانت ستعدّلها. وتصف الورقة جميع أفراد العينة بأنهم أطباء، لكن قسم المنهجية يوضح أن 18 منهم كانوا طلابًا في السنة الأخيرة من كلية الطب، وهو اختلاف ينبغي مراعاته عند تفسير النتائج.
أُخذت أصوات القلب من مجموعة بيانات CirCor المتاحة للعامة؛ أما توصيات الذكاء الاصطناعي فعدّلها فريق البحث عمدًا، بحيث انخفضت دقتها عبر أربع مراحل متتالية إلى 90% و60% و50% و0%. لذا، فهذه تجربة سلوكية تحاكي الخلل عمدًا، وليست توثيقًا لتعطّل فعلي في منتج سريري معين.
انخفض متوسط دقة التقييم المشترك بين الإنسان والآلة من نحو 81% إلى 58%. وفي مراحل الموثوقية المنخفضة، صحّح المشاركون بعض أخطاء الذكاء الاصطناعي، لكن أداءهم ظل أدنى من المستوى المرجعي للتقييم المستقل؛ كما أن تقديم إجابة مستقلة أولًا لم يحسّن النتائج الإجمالية. ويشير ذلك إلى أن تكوين إجابة ذاتية قد لا يكفي لمقاومة تأثير التوصيات الخاطئة اللاحقة.
بعد انتهاء التجربة، أشار 12.5% فقط من المشاركين من تلقاء أنفسهم إلى انخفاض موثوقية النظام. ووجدت الدراسة أيضًا أن ثقة أفراد مجموعة التقييم المستقل المسبق بأحكامهم شهدت تراجعًا ذا دلالة إحصائية قبل أن يظهر تراجع مماثل في ثقتهم بالذكاء الاصطناعي. وافترض المؤلفون أن المشاركين ربما شكّوا في أنفسهم أولًا، لكن هذه الآلية النفسية لا تزال بحاجة إلى التحقق.
لا يمكن الاستناد إلى هذه النتائج مباشرةً لتقدير المخاطر في العيادات الفعلية. فقد افتقرت التجربة إلى التاريخ المرضي الكامل والتفاعل بين الطبيب والمريض، كما تفاقم الخلل بسرعة وفق ترتيب ثابت؛ وأُضيفت في المرحلة الأخيرة إشارات تتضمن عدم تطابق بين الصوت والصورة، ما يصعّب فصل تأثير كل عامل، ولم تُقَس النتائج الصحية للمرضى.
تطرح الدراسة سؤالًا عمليًا حول كيفية تعريف «الإشراف الفعّال»: هل يكفي أن يكون الأداء أفضل من أداء ذكاء اصطناعي معطّل، أم ينبغي على الأقل ألا يقل عن أداء الطبيب عند التقييم المستقل؟ ويرى المؤلفون أنه، إلى جانب مراجعة الكوادر السريرية، ينبغي أن تشارك المستشفيات والمطوّرون أيضًا في المراقبة على مستوى النظام. أما ترتيبات الإشراف التي تستطيع فعلًا الحفاظ على جودة التشخيص، فلا تزال بحاجة إلى التحقق في بيئات قريبة من الممارسة السريرية.