→ العودة إلى الصفحة الرئيسية

تذكير واحد بالسلامة قد يقلل أخطاء الذكاء الاصطناعي السريري، لكنه يترك نحو عُشر الخيارات خطرة

هل يمتثل الذكاء الاصطناعي لطلبات مثل إغفال فحوص المتابعة أو إيقاف الأدوية مبكرًا دون مبرر كافٍ؟ تُظهر دراسة شملت أكثر من عشرة ملايين إجابة أن تذكيرًا موجزًا قد يقلل الخيارات التي يُحتمل أن تكون ضارة، لكنه لا يكفي لإثبات أن الأنظمة أصبحت جاهزة للاستخدام الآمن في الرعاية.

By SURL BioNews

إن إغفال سحب عينات الدم اللازمة للمتابعة بهدف تخفيف عبء العمل، أو إيقاف المضادات الحيوية مبكرًا في غياب مبرر سريري كافٍ، من الطلبات الخطرة التي قد يواجهها الذكاء الاصطناعي الطبي. ومع بدء النماذج اللغوية بالمساعدة في أعمال الرعاية، لم يعد اختبار السلامة يقتصر على امتلاك المعرفة الطبية، بل يشمل أيضًا القدرة على تمييز المخاطر في التعليمات ورفض الامتثال لها.

أعلنت كلية إيكان للطب في ماونت سيناي في 8 أكتوبر عن دراسة اختبرت ما إذا كانت إضافة تذكير موجز بالسلامة إلى التعليمات تستطيع تغيير اختيارات النماذج. ووفقًا لإعلان الكلية والبيان الصحفي نفسه المنشور على Newswise، قلّل 19 نموذجًا من أصل 20 نموذجًا خضعت للاختبار خياراتها التي يُحتمل أن تكون ضارة. وقد نُشرت الدراسة في 26 سبتمبر في مجلة «Communications Medicine»، لكن النتائج تقيس الإجابات في سيناريوهات محاكاة، ولا تقيس نسبة المرضى الذين تعرضوا لضرر فعلي.

استخدم الفريق 501 سيناريو محاكاة مشتقًا من 50 مجموعة من القوالب، و100 حالة مقتبسة من سجلات خروج مرضى من المستشفى بعد إزالة المعلومات التي تكشف هويتهم، وجمع في الإجمال أكثر من 10,000,000 إجابة. وكان على النماذج اختيار إجابات من خيارات تتضمن إجراءات آمنة وأخرى غير آمنة؛ كما اختبرت الدراسة ثلاثة أنواع من التذكيرات الموجزة بالسلامة، وكررت كل توليفة من شروط الاختبار 10 مرات، مع تغيير ترتيب الإجابات عشوائيًا للحد من تأثير إجابة منفردة أو موضع الخيارات.

من دون تذكير، بلغت نسبة اختيار النماذج لإجراءات يُحتمل أن تكون ضارة 16.6%؛ وبعد إضافة التذكير انخفضت إلى 10.1%، بفارق 6.5 نقاط مئوية. ويُظهر ذلك أن نصًا قصيرًا يطلب من النموذج فحص السلامة أو التحقق أو إحالة الطلبات الخطرة إلى الأشخاص المناسبين قد يغيّر بالفعل اتجاه الإجابة. ومع ذلك، ظل نحو عُشر الإجابات بعد التحسن يندرج ضمن الفئة التي يُحتمل أن تكون ضارة، ما يترك فجوة واضحة أمام تقديم مساعدة سريرية موثوقة.

وفقًا لملخص الدراسة في المجلة، كانت الحالات المقتبسة من سجلات المستشفى صعبة على نحو خاص: انخفضت الخيارات التي يُحتمل أن تكون ضارة من 46.6% إلى 24.5%، وظلت تقترب من الربع حتى بعد إضافة التذكير. وتنبّه هذه النتائج المطورين إلى أن أداء النموذج الأفضل في السيناريوهات المبسطة لا يتيح الاستنتاج مباشرةً أنه سيكون بالموثوقية نفسها في مهام أقرب إلى السجلات الطبية؛ كما تحدّ الاختلافات في تصميم نوعَي الحالات من المقارنة المباشرة بين النسب.

أتاحت الإجابات التي تجاوز عددها عشرة ملايين للدراسة فحص سلوك النماذج مرارًا، لكن ذلك لا يعني أنها شملت أكثر من عشرة ملايين مريض أو عددًا مماثلًا من الحالات المستقلة. وقد استخدم هذا الاختبار خيارات محددة مسبقًا، ولم يتابع كيفية اعتماد العاملين في الرعاية الصحية على الإجابات، أو الإجراءات اللاحقة، أو نتائج المرضى؛ لذلك لا يمكن الاستناد إليه لتقدير المخاطر السريرية بعد النشر، ولا يجوز اعتبار معدل الأخطاء في اختيار الإجابات معدلًا للحوادث الطبية.

أكد فريق البحث أن التذكيرات بالسلامة لا يمكن أن تحل محل المراجعة السريرية، واقترح إجراء اختبارات آلية للسلامة بصورة متكررة خلال تطوير النماذج وتحديثها. وبالنسبة إلى المؤسسات الصحية، تقدم هذه الدراسة إجراءً وقائيًا قابلًا للاختبار، وتترك أيضًا سؤالًا أكثر ارتباطًا بالممارسة: هل يستطيع الذكاء الاصطناعي مواصلة تمييز الطلبات الخطرة عندما تتداخل ضغوط العمل وسياق السجلات الطبية والمحادثات متعددة الجولات؟ ما زال ذلك يتطلب التحقق في بيئات قريبة من الرعاية الفعلية.

References

  1. Icahn School of Medicine at Mount Sinai
  2. Mount Sinai Health System via Newswise