كيف نحافظ على سلامة الذكاء الاصطناعي الطبي بعد بدء استخدامه؟ المملكة المتحدة تطلق إصلاحات تنظيمية والمرحلة الثالثة من البيئة التجريبية

مع دخول الذكاء الاصطناعي الطبي إلى العيادات، لا تنتهي مسائل السلامة بانتهاء مراجعة طرح المنتج في السوق. فعندما تُحدَّث البرمجيات، أو تتغير بيئة الاستخدام، أو يختلف مستوى تدخل العاملين في الرعاية الصحية، هل يظل التقييم الأصلي معبّرًا عن الأداء الفعلي؟ أعلنت حكومة المملكة المتحدة في 6 أكتوبر قبول جميع التوصيات الـ44 للجنة الوطنية لتنظيم الذكاء الاصطناعي الطبي، استعدادًا لتوسيع التركيز التنظيمي ليشمل كامل فترة استخدام المنتج.

وفي اليوم نفسه، فتحت وكالة تنظيم الأدوية والمنتجات الصحية البريطانية (MHRA) باب التقديم للمرحلة الثالثة من البيئة التجريبية التنظيمية AI Airlock، لاستكشاف أساليب المراقبة بعد طرح المنتجات في السوق باستخدام منتجات فعلية. وتمثل هذه الاستجابة الحكومية وإطلاق البيئة التجريبية بداية تحويل مخطط اللجنة إلى أعمال تنفيذية؛ فقبول التوصيات لا يعني أن جميع الأنظمة الجديدة قد دخلت حيز التنفيذ، إذ لا تزال بعض التدابير تتطلب إعداد إرشادات أو إجراء مشاورات أو تعديل التشريعات.

ستتناول المرحلة الثالثة التحديات المحددة التي تنشأ بعد دخول الأجهزة الطبية القائمة على الذكاء الاصطناعي إلى بيئات رعاية مختلفة. وتدرج وثائق التقديم البنية التحتية المحلية لتكنولوجيا المعلومات، وسير العمل السريري، وجودة البيانات، وتفاعل المستخدمين ضمن عوامل المراقبة، كما تشمل سيناريوهات الاستخدام المنزلي، والاستخدام الموجّه مباشرة إلى المستهلكين، والاستخدام مع قدر أقل من الإشراف البشري. وإلى جانب رصد التغيرات في السلامة أو الأداء، سيختبر البرنامج كيفية إيصال المعلومات المتعلقة بالتحديثات والمخاطر والعودة إلى الإصدارات السابقة إلى الجهات التنظيمية والمؤسسات الصحية والمهنيين والمرضى في الوقت المناسب.

ولا تقتصر أساليب التحقق على المناقشات في الاجتماعات. إذ يمكن لبرنامج Airlock إجراء اختبارات افتراضية باستخدام بيانات حقيقية أو اصطناعية، أو تنفيذ «نشر في وضع الظل» في بيئات سريرية فعلية باستخدام بيانات مرضى بأثر رجعي: يعمل النظام ضمن سير العمل السريري، لكن مخرجاته لا تدخل في القرارات المتعلقة بالرعاية الطبية للمرضى. ويتيح ذلك للفرق فحص أداء الذكاء الاصطناعي في ظروف العمل اليومية؛ إلا أن هذا الإعلان لم يقدّم بعد معلومات عن المنتجات المختارة للمرحلة الثالثة، أو مجموعات بيانات محددة، أو نتائج تتعلق بالفوائد السريرية، ولذلك لا يمكن الاستنتاج منه أن سلامة أي أداة وفعاليتها قد ثبتتا.

وتشكّل إدارة البرمجيات التي تتغير باستمرار محورًا آخر للإصلاح. تتوقع MHRA تقديم مسودة إرشادات بشأن «خطط محددة مسبقًا للتحكم في التغييرات» قبل ديسمبر 2026، لتوضيح كيفية تحديد المصنّعين نطاق التغييرات المسموح بها مع الحفاظ على الاستخدام الطبي المقصود الأصلي. وستستكشف الحكومة أيضًا مسارات للترخيص على مراحل، وتخطط لأداة تتيح للجمهور البحث في بلاغات الأحداث الضارة المتعلقة بالأجهزة الطبية، لتسهيل تتبّع إدارة التحديثات ومعلومات المخاطر.

وفقًا لوثائق التقديم للمرحلة الثالثة، يمتد تمويل البرنامج حتى أبريل 2029، ويُتوقع عادة أن يستمر كل تعاون اختباري من 6 إلى 12 شهرًا. ويظل باب التقديم مفتوحًا طوال العام، مع مراجعة الطلبات على دفعات؛ وعلى الراغبين في إدراج طلباتهم ضمن جولة المراجعة الحالية تقديمها قبل 31 أكتوبر، فيما يُحدد موعد الجولة التالية من الاختيار الأولي في ربيع 2027. ولا تُفرض رسوم على التقديم أو المشاركة، لكن المشاركين يظلون مسؤولين عن تكاليف البحث وتنفيذ الاختبارات والحصول على البيانات ذات الصلة.

وأكدت هيئة البحوث الصحية البريطانية (HRA) أيضًا قبول الحكومة جميع التوصيات. وقال رئيسها التنفيذي Matt Westmore إنها ستتعاون مع MHRA وشركاء آخرين لضمان بقاء الترتيبات التنظيمية وترتيبات حوكمة البحوث واضحة ومتناسبة ومترابطة. وبالنسبة إلى المرضى، فإن قدرة الإصلاح على توفير الحماية ستعتمد على قدرة هذه الترتيبات على اكتشاف المشكلات مبكرًا أثناء الاستخدام الفعلي، وتحديد المسؤوليات بوضوح، وتيسير اتخاذ إجراءات فعالة؛ ومن المتوقع نشر خارطة طريق التنفيذ الكاملة في ربيع 2027.