ما مدى صرامة تنظيم الذكاء الاصطناعي الطبي؟ تدعو «Nature Health» إلى ربطه بحجم سلطة اتخاذ القرار التي يمتلكها

لا تعتمد مخاطر الذكاء الاصطناعي الطبي على احتمال أن يقدم النموذج إجابة خاطئة فحسب، بل تعتمد أيضًا على ما إذا كان الناس سيتصرفون وفقًا لتلك الإجابة. ومع دخول روبوتات المحادثة والأجهزة القابلة للارتداء والتطبيقات الصحية تدريجيًا في الحياة اليومية، لم تعد الخوارزميات ذات التأثير الطبي محصورة في المستشفيات؛ فإذا استطاعت توصية واحدة أن تغيّر قرار المريض بشأن طلب الرعاية الطبية أو تناول الدواء أو الخضوع للفحص، فقد تتجاوز عواقبها بكثير عواقب أدوات المعلومات العامة.

يقترح Yu Gu وEric J. Topol في مقال تعليقي نشرته «Nature Health» أن يُقيَّم الذكاء الاصطناعي الصحي ويُنظَّم بحسب مقدار تأثيره في القرارات السريرية والصحية للأفراد. وتنقل هذه الرؤية التركيز من اسم المنتج أو مكان استخدامه أو مؤشر تقني منفرد إلى سؤال أكثر مباشرة: إلى أي مدى يستطيع النظام تشكيل المسار الصحي للشخص؟

وفقًا لهذا المنطق، لا ينبغي أن تخضع أداة تقتصر على المساعدة في تنظيم السجلات الطبية، ويجب أن يراجع متخصص مخرجاتها، للمتطلبات نفسها تمامًا التي يخضع لها نظام يقدم مباشرةً توصيات بالتشخيص أو الفرز أو العلاج. وحتى إذا لم تُستخدم برامج تقييم الأعراض أو المساعدات الصحية التي يستعملها المرضى بأنفسهم داخل مؤسسات الرعاية الصحية التقليدية، فلا يمكن اعتبارها منخفضة المخاطر لمجرد تصنيفها بأنها «لأغراض معلوماتية»، ما دامت قد تدفع المستخدمين إلى تأخير طلب الرعاية أو تعديل أدويتهم أو اتخاذ إجراءات صحية أخرى.

يُدخل مفهوم «سلطة اتخاذ القرار» أيضًا عوامل تتجاوز دقة النموذج إلى نطاق اهتمام الجهات التنظيمية. فإذا كان النموذج نفسه يقدم مرجعًا فقط في موضع ما، لكنه يستطيع في موضع آخر تنفيذ إجراء تلقائيًا أو يصبح مصدر النصيحة الوحيد المتاح للمستخدم، فإن المخاطر الفعلية ليست متساوية. وقد تتغير القوة الحقيقية التي يمتلكها الذكاء الاصطناعي تبعًا لإمكان البشر نقض مخرجاته، وما إذا كانت الأخطاء قابلة للعكس، وكيفية عرض التوصيات، وما إذا كان النظام يمتنع عن الإجابة عند مواجهة معلومات غير مؤكدة.

ولتطبيق هذا النهج، لا يزال يتعين على الجهات التنظيمية تحويل مفهوم «درجة التأثير» المجرّد إلى معايير قابلة للفحص، تشمل تحديد من يملك القرار النهائي، وما إذا كانت مخرجات الذكاء الاصطناعي ستؤدي إلى إجراءات لاحقة، وما إذا كان المستخدمون يفهمون قيوده، وما إذا كانت تحديثات المنتج تغيّر الحدود الأصلية لسلطته. وتمثل الأدوات المستخدمة خارج المستشفيات تحديًا خاصًا، لأن سياقات استخدامها متفرقة، ولأن رصد الأخطاء وتتبع الأضرار يكونان عادةً أصعب مما هما عليه داخل المستشفيات.

هذا المقال تعليق سياساتي، وليس دراسة سريرية تتحقق من نظام جديد؛ ولم يقدم الملخص المنشور حدودًا للتصنيف أو مجموعات بيانات أو بيانات عن الفاعلية، كما لا يمكنه إثبات أن التصنيف وفق سلطة اتخاذ القرار يستطيع خفض الضرر مباشرةً. وما يقدمه هو مبدأ تنظيمي: ينبغي ألا يُصنَّف الذكاء الاصطناعي الطبي بناءً على شكله التقني وحده، بل يجب فرض متطلبات متناسبة للأدلة والإشراف البشري والمراقبة المستمرة بحسب مقدار مساحة التصرف التي يحصل عليها في العالم الحقيقي.