إدارة الغذاء والدواء ترسم خريطة مخاطر للأجهزة الطبية القائمة على الذكاء الاصطناعي التوليدي وتقترح إدراج المراجعة السريرية ضمن الرقابة التنظيمية

بعد دخول الذكاء الاصطناعي التوليدي إلى البيئات الطبية، لم تعد المسألة تقتصر على مدى صحة الإجابات. فعندما يستطيع النظام كتابة ملخصات تشخيصية، واقتراح إجراءات علاجية، بل وحتى الاتصال بأدوات أخرى لتنفيذ المهام، قد يتضخم أثر مخرج خاطئ يبدو معقولًا أثناء انتقاله عبر سير العمل السريري. ولذلك أطلقت إدارة الغذاء والدواء الأمريكية (FDA) مشاورة عامة، في محاولة لتحويل مخاطر هذه الأجهزة الطبية إلى متطلبات تنظيمية قابلة للمراجعة والتتبع.

طرحت FDA إطارًا ثنائي المحور للمخاطر، يصنّف المنتجات إلى مستويات وفقًا لتأثيرها السريري والمخاطر الناجمة عن وظائفها التوليدية. ولا تزال طريقة التقييم التفصيلية بحاجة إلى استكمالها بآراء المشاورة، لكن التوجه الأساسي يتمثل في جعل متطلبات الأدلة متناسبة مع الضرر المحتمل، بدلًا من وضع جميع المنتجات التي تستخدم نماذج كبيرة ضمن فئة واحدة بلا تمييز.

في مرحلة ما قبل طرح المنتج في السوق، قد يُطلب من المطورين استخدام اختبارات معيارية محددة مسبقًا لفحص أداء النظام في سيناريوهات تمثيلية. ولا يمكن لهذا النوع من التحقق أن يقتصر على متوسط معدل الدقة، بل يجب أن يتعامل أيضًا مع التباين الذي تنفرد به النماذج التوليدية: فقد ينتج عن المدخل نفسه إجابات مختلفة، كما قد تكشف الحالات النادرة والفئات السكانية المختلفة عن ثغرات لم تشملها بيانات التدريب. ولم يتضمن إعلان FDA هذه المرة بيانات تجارب لمنتجات محددة أو حدودًا موحدة، ولذلك لا تزال كيفية تصميم الاختبارات المعيارية والفئات السريرية التي ينبغي أن تشملها البيانات من الأسئلة التي تنتظر الإجابة.

وبالنسبة إلى الاستخدامات الأعلى خطورة، أدرجت FDA أيضًا «التأكيد السريري» ضمن تدابير الحماية المحتملة. فإذا كان مخرج الذكاء الاصطناعي سيؤثر في التشخيص أو العلاج، فإن اشتراط مراجعته من قِبل مختص طبي مؤهل قبل اتخاذ أي إجراء يمكن أن يقلل احتمال وصول الخطأ مباشرة إلى المريض؛ لكن فعالية خط الدفاع هذا تظل مرهونة بتصميم الواجهة، وقدرة المستخدمين على تمييز الأخطاء، وما إذا كان ضغط سير العمل سيحوّل المراجعة إلى إجراء شكلي.

وتمتد الرقابة التنظيمية كذلك إلى ما بعد طرح المنتج في السوق. وتتصور FDA اعتماد مراقبة تتناسب مع مستوى المخاطر، لتتبع تحديثات النموذج، والتغيرات في بيانات الإدخال، وانحراف الأداء داخل البيئات السريرية الفعلية. وهذا مهم بصورة خاصة للأنظمة التوليدية، إذ قد توفر جهة خارجية النموذج الأساسي وتواصل تحديث إصداراته، ما قد يؤدي إلى تغير سلوك المنتج بهدوء من دون تغير واضح في مظهره.

وتتناول هذه المشاورة بصورة خاصة أيضًا النماذج الأساسية والأنظمة الوكيلة. فقد يُستخدم النوع الأول بصورة مشتركة في منتجات طبية متعددة، لكنه قد يجعل بيانات التدريب والتحكم في الإصدارات وتحديد المسؤولية أقل شفافية؛ أما النوع الثاني فلا يقتصر على توليد النصوص أو الصور، بل قد يخطط للخطوات ويستدعي الأدوات وينفذ المهام، ما يوسّع الخطأ من إجابة واحدة إلى سلسلة من الإجراءات. وسيكون تحديد ما إذا كان ينبغي أن يتحمل المسؤولية التنظيمية مورّد النموذج أو مطور الجهاز الطبي أو الجهة التي تنشره من العناصر الأساسية في تصميم النظام التنظيمي.

تنتهي فترة تلقي الآراء العامة في 19 أكتوبر. وما أُعلن في المرحلة الراهنة هو توجه تنظيمي، وليس معايير مراجعة نهائية؛ وفي ظل غياب مصادر بيانات مستقلة عن الحدث نفسه والوثائق التقنية الكاملة، لا يمكن بعد تحديد المستوى النهائي للأدلة المطلوبة أو المنتجات التي ستخضع لأشد المتطلبات صرامة. ومع ذلك، أوضحت FDA مبدأً واحدًا: لا يكفي أن تجتاز الأجهزة الطبية القائمة على الذكاء الاصطناعي التوليدي اختبارًا واحدًا قبل طرحها في السوق، بل يجب إثبات سلامتها بصورة مستمرة طوال دورة حياة المنتج بأكملها.