الصحة الرقمية · eu
مع تزايد أخطاء الذكاء الاصطناعي في تفسير أصوات القلب، لماذا لم يحافظ الإشراف البشري على الأداء التشخيصي؟
وجدت تجربة عشوائية شملت 48 مشاركًا أن مطالبتهم بالتفسير المستقل أولًا، ثم الكشف عن توصيات الذكاء الاصطناعي، لم تحسّن فعالية الإشراف. وتذكّر هذه الدراسة المختبرية بأن ضمانات السلامة للذكاء الاصطناعي الطبي تحتاج إلى تصميم قابل للتحقق.
عندما يختلف الأطباء مع الذكاء الاصطناعي التشخيصي، ما الذي ينبغي إعادة فحصه: حكمهم أم موثوقية النظام؟ أظهرت تجربة لتفسير أصوات القلب أن أداء المشاركين في التفسير النهائي تراجع مع الانخفاض التدريجي لدقة الذكاء الاصطناعي المُحاكى؛ ولم تؤدِّ مطالبتهم بالإجابة بصورة مستقلة أولًا إلى تحسين النتائج. وتضع الدراسة الوعد المتعلق بالسلامة، القائم على «الإشراف البشري»، أمام اختبار أكثر تحديدًا.
وزّعت الدراسة، المنشورة في 13 نوفمبر في مجلة «npj Digital Medicine»، 48 مشاركًا عشوائيًا على مجموعتين، وفسّر كل مشارك 40 مقطعًا رقميًا لأصوات القلب للتمييز بين الطبيعي وغير الطبيعي. ويصف ملخص الورقة المشاركين جميعًا بأنهم أطباء، لكن قسم المنهجية يوضح أن 18 منهم كانوا طلاب طب في السنة الأخيرة، فيما شمل الباقون أطباء مقيمين وأطباء ذوي خبرة. وتُدرج صفحة منشورات المؤلف المشارك Niels van Berkel هذه الدراسة وملخصها أيضًا.
تمثّل الفرق بين المجموعتين في توقيت الاطلاع على توصيات الذكاء الاصطناعي: اطّلعت مجموعة على التوصيات أولًا ثم أجرت التفسير، بينما صنّفت المجموعة الأخرى المقاطع بنفسها وقيّمت ثقتها بإجاباتها، ثم اطّلعت على التوصيات وقررت ما إذا كانت ستعدّل إجاباتها. وخفّض الباحثون نسبة الإجابات الصحيحة للذكاء الاصطناعي عبر أربع مراحل إلى 90% و60% و50% و0%؛ وفي المرحلة الأخيرة، تعمّدوا أيضًا جعل الصوت والإشارات البصرية غير متزامنة، لزيادة الدلائل على تعطل النظام.
إجمالًا، انخفضت دقة التفسير بمساعدة الذكاء الاصطناعي من نحو 81% إلى 58%. وصحّح المشاركون بالفعل بعض التوصيات الخاطئة، لكن أداء التعاون بين الإنسان والآلة في المراحل التي انخفضت فيها موثوقية الذكاء الاصطناعي ظل دون المستوى المرجعي المسجّل قبل الاطلاع على توصياته. ولم يوفّر إجراء الإجابة المستقلة أولًا الأثر الوقائي الذي توقعه الباحثون في البداية.
وجاء دليل آخر من التغيرات في الثقة بالإجابات والثقة بالنظام: ففي المجموعة التي أجرت التفسير بنفسها أولًا، بدأت ثقة المشاركين بإجاباتهم تتراجع قبل تراجع ثقتهم بالذكاء الاصطناعي، رغم أن أداءهم في التفسير المستقل لم يتدهور. وافترض المؤلفون أن النظام قد يُنظر إليه بوصفه ذا سلطة أكبر، ما يدفع الأشخاص إلى التشكيك في أنفسهم أولًا؛ لكن هذا يظل تفسيرًا يحتاج إلى التحقق، ولا يمكن اعتباره آلية نفسية مثبتة.
تأتي هذه النتائج من تجربة مختبرية مضبوطة، ولا يمكن تحويلها مباشرة إلى تقدير لخطر التشخيص الخاطئ في الممارسة السريرية. فلم يتعامل المشاركون مع مرضى، ولم تتوفر لهم معلومات إضافية مثل العلامات الحيوية؛ كما أن تصميم التجربة الذي جعل أداء الذكاء الاصطناعي يتدهور حتى تصبح جميع إجاباته خاطئة لا يمثّل الانخفاضات الطفيفة والمتقطعة في الدقة التي قد تظهر في الأنظمة الحقيقية. ولا تتيح الدراسة أيضًا الاستنتاج بأن جميع الإجراءات التي تبدأ بتقييم مستقل غير فعّالة.
أما السؤال العملي الذي تطرحه فهو: ما المعايير التي يجب استيفاؤها لاعتبار الإشراف ناجحًا، ومن يتولى التحقق منها باستمرار؟ يرى المؤلفون أنه، إلى جانب الحكم السريري، ينبغي مراعاة تنبيهات النظام والمراقبة على مستوى المستشفيات والمطوّرين. ولا تزال فعالية هذه الممارسات بحاجة إلى الاختبار، لكن تصميم السلامة يحتاج، على الأقل، إلى إثبات ما إذا كان التعاون بين الإنسان والآلة قادرًا على الحفاظ على القدرة الأصلية على التفسير عندما تنخفض دقة النظام.