Con la salida de sus principales líderes, el tren de alta velocidad de la IA de la FDA llega a una encrucijada de gobernanza

La Administración de Alimentos y Medicamentos de Estados Unidos (FDA) llegó a presentar la inteligencia artificial como una infraestructura esencial para acortar los plazos de revisión, pero lo que ahora está realmente a prueba no es solo la capacidad de los modelos. Las salidas consecutivas en mayo del excomisionado Marty Makary y del primer director de IA, Jeremy Walsh, sumadas a los cambios entre los altos cargos del área de tecnología de la información, han dejado sin resolver quién coordinará este programa que abarca la revisión de medicamentos, los ensayos clínicos y las inspecciones sobre el terreno, cómo se exigirán responsabilidades y a qué velocidad avanzará.

La herramienta central, Elsa, es un asistente basado en un modelo de lenguaje de gran tamaño para uso del personal de la FDA, capaz de ayudar a leer, redactar y resumir documentos. Entre sus aplicaciones prácticas se encuentran organizar los comentarios de la industria sobre propuestas regulatorias, reconstruir el historial de presentaciones de un medicamento a lo largo de varios años, comparar etiquetados y recopilar eventos adversos para apoyar evaluaciones de seguridad. La FDA también había planeado utilizar IA agéntica para gestionar flujos de trabajo de varios pasos, como la revisión previa a la comercialización, la verificación de revisiones, la vigilancia posterior a la comercialización y las inspecciones. Estos usos se aproximan a los procesos centrales del criterio regulatorio, por lo que debe quedar claro si la herramienta solo reduce la carga administrativa o si ya influye sustancialmente en la interpretación de la evidencia.

Antes de los cambios de personal, la FDA lanzó Elsa 4.0 en mayo e integró en la plataforma de datos HALO más de 40 fuentes y portales de solicitudes y presentaciones de toda la agencia. La nueva versión incorporó agentes personalizados, generación de documentos, análisis cuantitativo, elaboración de gráficos y búsqueda en grandes bases de datos, de modo que el personal no tuviera que cargar documentos manualmente en cada conversación. La FDA indicó que el sistema se construyó en un entorno de seguridad FedRAMP High, que los modelos no se entrenarán con datos presentados o introducidos por las empresas y que tanto los datos de entrada como el proceso de análisis y el uso de los resultados deberán ser verificados por expertos en la materia.

Sin embargo, estas medidas de seguridad no pueden sustituir la validación del desempeño. La información publicada hasta ahora por la FDA no basta para que observadores externos determinen la precisión, la tasa de omisiones y el riesgo de alucinaciones de Elsa en distintas tareas de revisión. Tampoco explica claramente cómo se registran los errores, qué usos están prohibidos ni qué registros auditables deben conservarse cuando la IA participa en una revisión. Expertos que anteriormente ocuparon cargos relacionados con la política de IA en la FDA también consideran que Elsa sirve principalmente para reforzar el trabajo del personal, no para sustituir las decisiones finales. No obstante, si falta una gobernanza coherente en toda la agencia, cada centro podría volver a desarrollar sus propios métodos y los niveles de transparencia también podrían diferir.

El comisionado interino Kyle Diamantas ha declarado que la IA sigue siendo una prioridad para la FDA, aunque la orientación de las políticas ya parece más cautelosa. El bufete de abogados Mintz observó que el nuevo equipo directivo ha ralentizado algunos programas piloto que anteriormente se lanzaron con rapidez y amplió el periodo de consulta sobre una propuesta de ensayos clínicos iniciales asistidos por IA. La propuesta contempla que la IA ayude a recopilar, interpretar y comunicar señales de los ensayos en tiempo real, para que después los sistemas de la FDA procesen los datos que cumplan criterios establecidos de antemano. Los comentarios presentados hasta ahora apoyan en general explorar esta vía, pero exigen medidas más sólidas de seguridad, rigor procedimental y protección frente a sesgos.

Por el momento, estos cambios afectan principalmente a la manera en que la propia FDA utiliza la IA y no implican necesariamente que hayan cambiado las normas sobre el uso de IA por parte de las farmacéuticas para desarrollar medicamentos. BioPharma Dive citó a antiguos expertos en políticas de la FDA que señalaron que, hasta ahora, no se observan cambios en las políticas vigentes sobre el uso de IA por parte de los patrocinadores. Sin embargo, las empresas aún necesitan requisitos más claros para validar los modelos y también deben saber cómo utilizará la autoridad reguladora la IA para leer los datos presentados, a fin de preparar documentos coherentes, trazables y aptos para una revisión conjunta por máquinas y personas.

La siguiente decisión de la FDA no consiste simplemente en elegir entre «acelerar» y «pausar». Los procedimientos tradicionales de elaboración de directrices pueden aportar estabilidad jurídica y procedimental, pero quizá no avancen al ritmo de las actualizaciones de los modelos. Los programas piloto acelerados, por su parte, pueden introducir con facilidad problemas todavía no resueltos de sesgo, errores y responsabilidad en decisiones de alto riesgo. Que Elsa pueda pasar de ser una herramienta de eficiencia a convertirse en una infraestructura regulatoria fiable dependerá de que el nuevo equipo directivo sea capaz de hacer públicos los límites de uso, los resultados de validación y la cadena de responsabilidades, y no solo de que siga añadiendo funciones.