الذكاء الاصطناعي القادر على تفسير تشخيصاته الجلدية أكثر موثوقية، لكنه قد يكون أيضًا أكثر تضليلًا: دراسة تكشف التحيّز للأتمتة

إذا كان الذكاء الاصطناعي الطبي لا يقدّم إجابة فحسب، بل يستطيع أيضًا طرح مجموعة من الأسباب التي تبدو منطقية، فمن المفترض أن يسهل ذلك على الناس تقييم مدى موثوقيته. لكن دراسة في طب الأمراض الجلدية نُشرت في «Nature Medicine» تشير إلى أن التفسير قد يصبح أيضًا مضخّمًا لقوة الإقناع: فهو يساعد على الحكم عندما يكون النموذج صحيحًا، لكنه يجعل مقاومة التوصية الخاطئة أصعب على من يفتقرون إلى المعرفة المتخصصة عندما يخطئ النموذج.

أجرى فريق البحث تجربتين عبر الإنترنت. طُلب من 623 مشاركًا من دون خلفية طبية التمييز بين الورم الميلانيني والشامات الحميدة؛ بينما قدّم 153 طبيب رعاية أولية تشخيصات تفريقية لالتهاب الجلد التأتبي، والنخالية الوردية، وداء لايم، واللمفومة الجلدية للخلايا التائية. قيّم كل شخص 12 صورة سريرية، نصفها لبشرة داكنة والنصف الآخر لبشرة فاتحة، ووُزّع عشوائيًا على إحدى أربع طرق للمساعدة بالذكاء الاصطناعي: عرض التنبؤ ودرجة الثقة فقط، أو خريطة حرارية تحدد مناطق الصورة، أو عرض حالات مشابهة، أو تفسير نصي يولّده نموذج لغوي كبير متعدد الوسائط. وشملت الدراسة أيضًا 320 طالب طب للمساعدة في مقارنة الاختلافات المرتبطة بالخبرة.

دُرّب نموذج التشخيص الأساسي باستخدام قيود للإنصاف. وفي النموذج المستخدم لتصنيف الورم الميلانيني والشامات، تقلّصت فجوة الدقة المتوازنة بين البشرة الداكنة والفاتحة من 9.1 نقاط مئوية في النموذج المرجعي إلى 2.1 نقطة مئوية؛ كما رفعت المساعدة بالذكاء الاصطناعي متوسط دقة عامة الناس من 69.7% إلى 75.8%. وبعد تلقي الأطباء توصيات الذكاء الاصطناعي، تحسن أداؤهم التشخيصي أيضًا في الأمراض الجلدية الأربعة الرئيسية، وتقلّصت كذلك فجوة لون البشرة القائمة أصلًا. وتُظهر النتائج أن تقليل عدم الإنصاف لا يمكن أن يعتمد فقط على التفسيرات المعروضة في الواجهة؛ فالأهم هو ما إذا كان النموذج نفسه يحافظ على أداء متوازن نسبيًا عبر ألوان البشرة المختلفة.

ظهر الخطر عندما أخطأ الذكاء الاصطناعي. بالنسبة إلى عامة الناس، حققت التفسيرات النصية للنموذج اللغوي الكبير تحسنًا قدره 13.4 نقطة مئوية عندما كان التنبؤ صحيحًا، وهو أعلى من طرق العرض الثلاث الأخرى؛ لكن عندما كان التنبؤ خاطئًا، انخفضت الدقة أيضًا بمقدار 21.1 نقطة مئوية، وهو أكبر انخفاض كذلك. ويرى الباحثون أن الأسباب المصاغة بسلاسة والمستندة إلى سمات جلدية قد تدفع المستخدمين إلى الخلط بين «ما يبدو مقنعًا» و«الحكم الصحيح»، حتى عندما تستند تلك الأسباب إلى مؤشرات بصرية غامضة أو غير مكتملة.

كان أطباء الرعاية الأولية أكثر مقاومة للتوصيات الخاطئة؛ إذ إن أداءهم النهائي في مختلف طرق التفسير لم يتأثر تقريبًا بتنبؤات الذكاء الاصطناعي الخاطئة. كما لم تحقق تفسيرات النموذج اللغوي الكبير أكبر زيادة في الدقة، بل تمثلت فائدتها الرئيسية في جعل درجة ثقة الأطباء أكثر اتساقًا مع إجاباتهم الصحيحة فعليًا. وكان طلاب الطب أكثر ميلًا من الأطباء ذوي الخبرة إلى اتباع الذكاء الاصطناعي، ما يشير إلى أن التدريب المهني قد يوفر خط دفاع، لكنه ليس ضمانة مطلقة. وعندما عرض النظام إجابة الذكاء الاصطناعي قبل أن يصدر المستخدم حكمه بنفسه، ازداد ميل كلتا المجموعتين إلى الامتثال في معظم الحالات، كما ظهر لدى الأطباء تأثير ارتساء أوضح عند مواجهة تفسيرات النموذج اللغوي الكبير.

لا يمكن حتى الآن مساواة هذه النتائج مباشرة بالفعالية في العيادات الفعلية. فقد اختلفت المهام بين التجربتين، ولذلك لا يمكن مقارنة أرقام عامة الناس والأطباء مباشرة؛ كما شاهد كل مشارك 12 صورة فقط، من دون سياق سريري مثل العمر والتاريخ المرضي والأعراض. كذلك جرى أخذ عينات من حالات الاختبار عمدًا للتحكم في نسبة إجابات الذكاء الاصطناعي الصحيحة والخاطئة، وتأثرت تفسيرات النموذج اللغوي الكبير بصياغة توجيهية محددة وبطريقة توليد لمرة واحدة. لذلك، لا تدعم الدراسة فكرة أن «إضافة فقرة تفسيرية تجعل النظام أكثر أمانًا»، بل تدعم ضرورة أن تتيح واجهات الذكاء الاصطناعي الطبي للمستخدمين تكوين أحكامهم الخاصة أولًا، وأن توضّح عدم اليقين بجلاء، وأن تُدخل مراجعة من مختص ثانٍ عندما يغيّر الذكاء الاصطناعي الحكم الأولي بدرجة كبيرة.