→ العودة إلى الصفحة الرئيسية

عندما تتراجع دقة الذكاء الاصطناعي في التسمّع تدريجيًا، هل تستطيع المراجعة البشرية تدارك الأخطاء؟

وجدت تجربة لتفسير أصوات القلب شارك فيها 48 شخصًا أن الأداء التشخيصي للمستخدمين يتراجع كلما انخفضت موثوقية الذكاء الاصطناعي؛ ولم يؤدِّ اشتراط إصدار حكم مستقل قبل الاطلاع على توصياته إلى تحسين النتائج. وتنقل الدراسة مسألة سلامة الذكاء الاصطناعي السريري من «هل توجد رقابة بشرية؟» إلى «كيف تصبح هذه الرقابة فعّالة؟».

By SURL BioNews

إذا بدأ الذكاء الاصطناعي التشخيصي بارتكاب الأخطاء، فهل يستطيع الشخص الذي يراجع النتائج في النهاية اكتشافها في الوقت المناسب؟ تطرح دراسة عن التسمّع القلبي نُشرت في «npj Digital Medicine» تحذيرًا بشأن خط الدفاع هذا: عندما تراجعت دقة توصيات النظام تدريجيًا، انخفض معها أداء المشاركين في تفسير أصوات القلب. وحتى الإبقاء على سلطة القرار النهائي بيد الإنسان قد لا يكون كافيًا لاحتواء آثار اختلال أداء النظام.

استخدمت هذه التجربة ذات التوزيع العشوائي على المجموعات تفسير أصوات القلب الرقمية سياقًا لها، وطلبت من 48 مشاركًا تصنيف التسجيلات إلى طبيعية أو غير طبيعية، وشمل التصنيف غير الطبيعي أصوات تدفق الدم المرضية أو النفخات القلبية. ووصف ملخص الدراسة المشاركين جميعًا بأنهم أطباء، لكن قسم المنهجية أوضح أن 18 منهم كانوا طلاب طب في السنة الأخيرة، بينما شمل الباقون أطباء مقيمين وأطباء ذوي خبرة. لذلك، تعكس النتائج أداء مستخدمين بمستويات مختلفة من الخبرة، ولا يمكن مساواتها مباشرة بقدرات اختصاصيي أمراض القلب.

رتّب فريق البحث مسارين للعمل: اطّلعت إحدى المجموعتين أولًا على توصيات الذكاء الاصطناعي ثم أجرت التفسير؛ أما المجموعة الأخرى فكان عليها تقديم تصنيفها الخاص قبل الاطلاع على رأي الذكاء الاصطناعي، مع إمكانية تعديل الإجابة بعد ذلك. وكان المسار الثاني يهدف إلى دفع المستخدمين إلى التفكير المستقل أولًا، وتقليل احتمال تأثرهم بإجابة الآلة. وتؤكد صفحة نشر الدراسة الخاصة بالمؤلفين أيضًا أن هذا هو التصميم الأساسي الذي اختبرت به الدراسة قدرة الرقابة البشرية على أداء دورها.

أظهرت النتائج أن الأداء التشخيصي تدهور مع انخفاض موثوقية الذكاء الاصطناعي؛ وحتى عندما كان التفسير المستقل الأولي للمشاركين أفضل من أداء الذكاء الاصطناعي في تلك المرحلة، لم يؤدِّ إجراء الحكم المسبق هذا إلى تحسين فعالية الرقابة. وظهر تفاوت آخر في التقييمات الذاتية: فقد تراجعت ثقة المشاركين بأحكامهم أسرع من تراجع ثقتهم بالذكاء الاصطناعي. ويشير ذلك إلى أن المستخدمين قد لا يعدّلون درجة اعتمادهم بالسرعة نفسها عند مواجهة توصيات تتناقص موثوقيتها، لكنه لا يتيح بعد الجزم بالآليات النفسية لدى كل فرد.

تتوفر أيضًا مواد تتيح فحص إجراءات التجربة من خارج فريق البحث. فالمستودع الذي أتاحه الفريق علنًا على GitHub يوفّر برنامج تشغيل التجربة، والتعليمات الموجهة للمشاركين، ومواد المثيرات السمعية والبصرية، وملفات المحاولات التجريبية، بما يسمح لباحثين آخرين بمزيد من التدقيق في كيفية عرض التوصيات وتنظيم التفسير. وتساعد هذه المواد على فحص الإجراءات وإعادة تنفيذها، لكن إتاحة البرنامج علنًا لا تعني بحد ذاتها أن نتائج الدراسة قد تأكدت بتكرار مستقل.

تظل هذه تجربة صغيرة ومضبوطة لتصنيف أصوات القلب؛ ولم تقس نتائج التشخيص والعلاج لدى مرضى فعليين، كما لا تكفي للاستنتاج بأن جميع أنظمة الذكاء الاصطناعي الطبية ستنتج المشكلات نفسها. وبالنسبة إلى المستشفيات والمطورين، فإنها تطرح مسألة عملية: إلى جانب تكليف أشخاص بالمراجعة، يجب تحديد المسؤول عن اكتشاف التراجع المستمر في الدقة، وكيفية تلقي إشارات التحذير، ومتى ينبغي التدخل. وتدعم الدراسة ضرورة إجراء مزيد من التحقق من إجراءات الرقابة هذه، أما تحديد التدابير الفعّالة حقًا فما زال يتطلب أدلة من السياقات السريرية.

References

  1. Northern Sydney Local Health District Libraries, reporting npj Digital Medicine
  2. Niels van Berkel
  3. IKI-Lab on GitHub