التكنولوجيا الطبية · eu
حين تتراجع دقة الذكاء الاصطناعي في التسمّع القلبي، هل يستطيع الأطباء ملاحظة ذلك في الوقت المناسب؟
وجدت تجربة عشوائية شملت 48 مشاركًا أن أداء تفسير أصوات القلب يتراجع مع انخفاض موثوقية الذكاء الاصطناعي؛ وحتى مطالبة المشاركين بإصدار حكم مستقل أولًا لم تحسّن النتائج الإجمالية، ما يبرز حاجة الرقابة البشرية إلى تصميمات أكثر تحديدًا لضمان السلامة.
عندما يخطئ الذكاء الاصطناعي الطبي، غالبًا ما يُعوَّل على الطبيب بوصفه خط الدفاع الأخير. لكن تحديد ما إذا كانت التوصية الحالية جديرة بالثقة يختلف عن إدراك أن النظام بأكمله بدأ يفقد دقته. وقد كشفت دراسة نُشرت في 13 نوفمبر في مجلة «npj Digital Medicine»، من خلال تجربة محاكاة للتسمّع القلبي، أن وجود شخص يشرف على النظام قد لا يكفي لوقف توصيات تشخيصية تتدهور باستمرار.
شملت الدراسة 48 مشاركًا من الأطباء وطلاب السنة الأخيرة في الطب، وُزّعوا عشوائيًا على مجموعتين. فسّر كل مشارك 40 تسجيلًا لأصوات القلب مأخوذة من مجموعة بيانات CirCor المتاحة للعامة، لتمييز الطبيعي من غير الطبيعي، بما يشمل النفخات القلبية ضمن الحالات غير الطبيعية. اطّلعت إحدى المجموعتين على توصيات الذكاء الاصطناعي أولًا، بينما أجابت المجموعة الأخرى بصورة مستقلة أولًا، ثم اطّلعت على التوصيات وقررت ما إذا كانت ستعدّل إجاباتها.
عدّل الباحثون مخرجات النظام عمدًا، بحيث انخفضت نسبة الإجابات الصحيحة بالتتابع إلى 90% و60% و50% و0%؛ وفي المرحلة الأخيرة، جعلوا الإشارات الصوتية والبصرية غير متطابقة أيضًا. ولذلك، كانت التجربة اختبارًا لكيفية استجابة البشر لنظام يفقد دقته في ظروف مضبوطة، وليست توثيقًا لتعطّل تلقائي لمنتج سريري بعينه.
مع تراجع دقة الذكاء الاصطناعي، انخفض متوسط نسبة الإجابات الصحيحة لدى المشاركين بعد الأخذ بالتوصيات من نحو 81% إلى 58%. ولم تؤدِّ مطالبتهم بالتفسير المستقل أولًا إلى تحسّن إجمالي. وبعد التجربة، أشار 12.5% فقط من المشاركين من تلقاء أنفسهم إلى انخفاض موثوقية النظام؛ وحتى عندما سُئلوا صراحةً عمّا تغيّر فيه، لم تتجاوز نسبة من ذكروا تراجع موثوقيته 37.5%.
ظل المشاركون قادرين على تصحيح بعض الأخطاء: ففي المراحل التي انخفضت فيها موثوقية الذكاء الاصطناعي، كان التفسير النهائي أفضل من أداء الذكاء الاصطناعي نفسه، لكنه كان أدنى من الأداء المستقل دون مساعدة الذكاء الاصطناعي الذي حققته في تلك المراحل المجموعة التي أجابت أولًا بصورة مستقلة. وهذا يذكّر أيضًا بأن تقييم فعالية الإشراف لا يقتصر على السؤال عمّا إذا كان البشر قد تفوقوا على النظام المعطّل، بل يجب أن يشمل ما إذا كانت إضافة الذكاء الاصطناعي قد حافظت على قدراتهم الأصلية.
نطاق انطباق النتائج محدود. فهذه تجربة صغيرة لم تتضمن تفاعلات فعلية أثناء المعاينة الطبية أو معلومات سريرية كاملة؛ كما أن التراجع السريع في الدقة وفق تسلسل ثابت، إلى جانب عدم التطابق بين الصوت والصورة في المرحلة الأخيرة، يصعّب فصل تأثير كل عامل، ولا يسمح بالاستنتاج المباشر لمخاطر التشخيص الخاطئ سريريًا أو تعرّض المرضى للضرر.
وبناءً على ذلك، يرى المؤلفون أن مسؤولية السلامة يجب أن تمتد إلى المستشفيات والمطوّرين، مع الجمع بين مراقبة النظام والحكم السريري. وعند التحقق من صلاحية الذكاء الاصطناعي الطبي، ينبغي، إلى جانب قياس مدى دقة أحكام النموذج، اختبار ما إذا كان المستخدمون والمؤسسات قادرين على اكتشاف تراجع دقته والتدخل في الوقت المناسب عندما يبدأ ذلك.