Revista Farmabiotec Número 21

66 farmaBIOTEC #21 de Control de Cambios Predeterminado (PCCP) (6) , que permiten planificar y gestionar cambios adaptativos sin tener que reiniciar todo el proceso de aprobación tras cada actualización. Europa ha adoptado recientemente este enfoque (10) , permitiendo que los cambios predeter- minados sean evaluados previamente a evaluación de la conformidad. La figura 2, muestra el proceso que se debe seguir para implementar estos cambios: Los tres marcos normativos MDR, IVDR y el IA Act destacan la importancia de realizar pruebas en diversas condiciones, documentar los procesos de evaluación y establecer una monitorización continua para asegu- rar el cumplimiento. Estas regulaciones obligan a los fabricantes a aportar evidencias que respalden sus afir- maciones, garantizando que los productos sanitarios que incorporan inteligencia artificial (MDAI) se adhieran a estándares estrictos de seguridad y rendimiento. Esto incluye la documentación de las pruebas, de los procesos de validación y la monitorización continua para abordar cualquier problema que pueda surgir. Las regulaciones ofrecen flexibilidad en la elección de los métodos de vali- dación, pero subrayan la importancia de demostrar que el MDAI funciona correctamente y cumple los requisitos especificados. Sistemática de validación La validación de un producto sanitario que incorpora IA debe abordarse de manera estructurada y por fases. En este contexto, la validación constituye un eje fundamen- tal, y se divide en dos etapas principales: validación analí- tica o técnica, que se realiza antes del despligue, durante las fases de diseño y desarrollo; y la validación clínica, que tiene lugar después del despliegue, cuando el producto ya está instalado y se encuentra en entorno de uso real o simulado. La validación técnica implica la aplicación sistemática de métodos de evaluación de la calidad de los datos y del modelo para detectar posibles modos de fallo en su com- portamiento. Esto incluye métricas orientadas al modelo, como el rendimiento predictivo, la robustez o la interpre- tabilidad. Asimismo, se integran métricas orientadas a los datos relacionadas con la determinación del tamaño muestral, la dispersión, o el sesgo. Un análisis estadístico riguroso de estas métricas constituye un punto crítico en investigación y desarrollo industrial, y es por ello una pieza clave dentro del proceso de validación técnica. La validación analítica abarca la validación de datos, algoritmos y outputs. La Figura 3 recoge el objeto/alcance de cada fase del proceso de validación. La validación clínica (figura 4) forma parte esencial del proceso de evaluación de un MDAI, y tiene lugar una vez que el sistema ha sido desplegado en su entorno previsto, ya sea real o simulado. Esta etapa comprende un procedimiento continuo para recopilar, valorar y ana- lizar datos clínicos relacionados con el dispositivo, con el fin de determinar si existe evidencia clínica suficiente para confirmar el cumplimiento de los requisitos esen- ciales de seguridad y funcionamiento relativos a diseño y desarrollo recogidos en los reglamentos MDR y IVDR. Esta validación requiere no solo la evaluación estadística de resultados, sino también la demostración de utilidad clínica y de su relevancia para los flujos asistenciales. Para ello, diversas iniciativas metodológicas han desa- rrollado guías específicas para el diseño, implementación y evaluación de intervenciones basadas en IA en distin- tos tipos de estudio: STARD-AI para estudios diagnósti- cos, CONSORT-AI para ensayos clínicos aleatorizados, y SPIRIT-AI para protocolos de investigación. Inteligencia artificial Fase 1 Validación del diseño Validación de datos Garantizar la calidad Garantizar trazabilidad Garantizar confidencialidad Para garantizar la consistencia e integridad de los datos según los principios ALCOA (Atribuible, Legible, Contemporáneo, Original, Accurate-exacto-) Demostrar en cualquier momento y por escrito todo lo que se ha hecho con los datos, desde que se recogen hasta que se usan para entrenar o validar un sistema de IA. Para demostrar la confidencialidad de los datos en un sistema de IA, se tiene que dejar constancia documental del cumplimiento con el Reglamento General de Protección de Datos (RGPD), y que los datos se han tratado de forma segura y con base legal clara. Validación de algoritmos Para garantizar su robustez técnica y asegurar la fiabilidad, seguridad del sistema. Validación de outputs Para garantizar su utilidad clínica y aceptación por parte de los profesionales. Los outputs pueden incluir recomendaciones diagnósticas, predicciones de riesgos, alertas o decisiones automatizadas. Figura 3. Validación del diseño de PS con IA.