→ العودة إلى الصفحة الرئيسية

الذكاء الاصطناعي في التسمّع يزداد تراجعًا في الدقة، فهل تستطيع رقابة الأطباء إيقاف الأخطاء؟

أظهرت تجربة عشوائية شارك فيها 48 طبيبًا أن التقييم المستقل أولًا ثم الاطلاع على توصيات الذكاء الاصطناعي لم يمنعا تراجع الأداء التشخيصي مع انخفاض موثوقية النظام، ما يبرز الحاجة إلى شبكة أمان أشمل للمراقبة السريرية.

By SURL BioNews

عندما يبدأ الذكاء الاصطناعي التشخيصي بارتكاب الأخطاء، هل يستطيع الطبيب صاحب القرار النهائي ملاحظتها في الوقت المناسب؟ اختبرت دراسة نُشرت في 13 نوفمبر في مجلة «npj Digital Medicine» هذا الخط الدفاعي من خلال تقييم أصوات القلب: فمع تراجع موثوقية توصيات الذكاء الاصطناعي، تراجع أيضًا أداء الأطباء والذكاء الاصطناعي عند الإجابة معًا.

وزّعت الدراسة 48 طبيبًا عشوائيًا على مجموعتين لتحديد ما إذا كانت أصوات القلب المسجّلة طبيعية أم غير طبيعية، ضمن محاكاة للتسمّع عن بُعد. اطّلعت إحدى المجموعتين على توصيات الذكاء الاصطناعي أولًا؛ أما المجموعة الأخرى، فكان عليها إجراء تصنيف مستقل أولًا، ثم الاطلاع على التوصيات واتخاذ القرار النهائي. وهدف الترتيب الثاني إلى دفع الأطباء لتكوين رأيهم الخاص أولًا، والحد من اتباع النظام مباشرة.

تضمّنت التجربة 40 سؤالًا موزّعة على أربع مراحل، انخفضت فيها دقة توصيات الذكاء الاصطناعي بالتتابع إلى 90% و60% و50% و0%. وكان هذا سيناريو أعطال صمّمه الباحثون عمدًا؛ كما أُضيف في المرحلة الأخيرة خلل يتمثل في عدم تزامن الصوت مع الصور المرئية، لاختبار قدرة الأطباء على ملاحظة تعطل النظام.

تمكّن الأطباء بالفعل من تصحيح بعض الأخطاء، لكن عند انخفاض الموثوقية، ظل أداء التعاون بين الإنسان والآلة دون المستوى المرجعي لتقييم الأطباء المستقل. كذلك، لم يؤدِّ اشتراط الإجابة المستقلة أولًا إلى تحسين الأداء الإجمالي للإنسان والآلة معًا. بعبارة أخرى، قد لا يكون الاحتفاظ بسلطة القرار النهائي كافيًا لتعويض أثر التوصيات الخاطئة.

لهذه النتيجة حدود واضحة في نطاق انطباقها: فهي مستمدة من تجربة صغيرة ومضبوطة لتصنيف أصوات القلب، ولم تقس مباشرة نتائج علاج المرضى، ولا يمكن تعميمها على جميع أنظمة الذكاء الاصطناعي التشخيصي. وفي العيادات الفعلية، قد يغيّر التاريخ المرضي والفحوص الأخرى وضغط الوقت طريقة استخدام الأطباء للتوصيات.

لذلك تطرح الدراسة على المستشفيات والجهات المطوّرة سؤالًا: كيف يمكن تتبّع أداء النظام باستمرار، ومن يتولى تحديد الأعطال وبدء التعامل معها؟ يدعو المؤلفون إلى الجمع بين مراقبة الأنظمة وترتيبات تحديد المسؤوليات على مستوى المؤسسة. ولا تزال هذه التدابير بحاجة إلى التحقق من فعاليتها، لكن التجربة نبّهت بالفعل إلى أن سلامة الذكاء الاصطناعي السريري لا يمكن أن تعتمد فقط على الرقابة البشرية عند كل تشخيص.

References

  1. npj Digital Medicine