Revista Farmabiotec Número 8

#8 farmaBIOTEC 75 ¿Qué medidas puede aplicar desde hoy un fabricante para afrontar estos futuros desafíos? Aunque el marco regulatorio de los MDSW que integran IA sigue siendo incierto, los fabricantes de estos productos pueden tomar medidas proactivas desde hoy para enfren- tar los retos que se avecinan. Retos en el desarrollo del producto Para cumplir con los requisitos del desarrollo del pro- ducto, el fabricante puede seguir las normas IEC 62304 e IEC 82304-1, que brindan directrices para el desarrollo, arquitectura y diseño de software en todo el ciclo de vida del producto. Estas normas también detallan los distintos niveles de requisitos para documentar este proceso en función de la clasificación del software. Por otro lado, a día de hoy aún no existen directrices cla- ras para abordar la estrategia de verificación de los MDSW que integran IA. Para subsanar esta falta, es imprescindi- ble la colaboración entre los organismos reguladores, las partes interesadas de la industria y los expertos en IA y productos sanitarios. No obstante, algunas instituciones ya han comenzado a entablar conversaciones con el fin de abordar esta cuestión: • La Administración de Alimentos y Medicamentos de Estados Unidos (FDA), la agencia canadiense Health Canada y la Agencia Reguladora de Medicamentos y Productos Sanitarios del Reino Unido (MHRA) han establecido diez principios orientativos que establecen las bases para el desarrollo de Buenas Prácticas en Machine Learning (GMLP) , con el fin de garantizar la seguridad, eficacia y calidad de los productos sanitarios que integran AI, así como fomentar su producción. • Del mismo modo, la Asociación de Organismos Notificados para Productos Sanitarios de Alemania (IG- NB) ha publicado en colaboración con el organismo notificado TÜV SÜD una exhaustiva lista de requisitos para el desarrollo de MDSWs con IA que abarca los pro- cesos y fases de desarrollo de todo el ciclo de vida del producto. • Además, la FDA junto a la Organización Mundial de la Salud (OMS) han presentado propuestas de protocolos para incrementar la seguridad de los algoritmos, dado su carácter evolutivo y su capacidad de automejora. Se les llama protocolos de cambio de algoritmo (ACP por sus siglas en inglés) y representan un importante cambio de paradigma. Estos ACPs describirían la meto- dología que emplea un MDSW con IA para luego incor- porar cambios definidos dentro de las especificaciones predeterminadas del producto. El objetivo es lograr un equilibrio entre la innovación de la IA en los productos sanitarios y el respaldo de la seguridad de los pacien- tes. Desafortunadamente, todavía no hay ningún MDSW con IA en el mercado que se haya regido por este tipo de protocolos, y aún no se han facilitado detalles concretos sobre una posible aplicación de estos protocolos en el mercado europeo. Retos éticos Con el fin de abordar los retos éticos de la IA en el campo de la salud, existen una serie de consejos que los fabrican- tes pueden considerar desde el presente: 1. Asegurar un diseño focalizado en el usuario y el paciente involucrando a profesionales sanitarios y pacientes en el proceso de desarrollo del producto, y ase- gurando que la tecnología se alinea con las necesidades del paciente y las habilidades del usuario. 2. Mitigar sesgos mediante entrenamiento del algoritmo con conjuntos de datos diversos y representativos del tipo de paciente. Este proceso requiere una supervisión con- tinua de la imparcialidad y la equidad del algoritmo. En la actualidad, algunas empresas están entrenando los algo- ritmos de IA de sus MDSWs con datos procedentes de fuera de Europa como resultado de las regulaciones den- tro de nuestra jurisdicción. La Comisión Europea está valo- rando posibles contramedidas, como el establecimiento de centros de testeo que permitan realizar pruebas con datos de la UE . 3. Priorizar la privacidad y protección de datos de los pacientes. A este respecto, la UE ha implementado el Reglamento General de Protección de Datos (GDPR) que aplica a todos los estados miembros y busca proteger la privacidad de los ciudadanos y evitar cualquier tipo de uso indebido de sus datos. Los fabricantes deben ase- gurarse de que cumplen con las regulaciones relevantes como el GDPR a través de prácticas de cifrado, anonimi- zación, y almacenamiento seguro de sus datos. También deben informar correctamente a los usuarios y obtener su consentimiento. 4. Ofrecer transparencia a través del desarrollo de mode- los de IA explicables, justificando claramente los resul- tados del software para así aumentar la confianza, faci- litando la toma de decisiones informadas y clarificando responsabilidades. Retos posteriores a la comercialización De acuerdo con las normas europeas sobre productos sanitarios (Reglamento 2017/745), si se añade un nuevo parámetro a un producto sanitario que no esté dentro de su uso previsto, se necesitará realizar una evaluación adicional para asegurar su conformidad . Considerando esto, y dado que los algoritmos de los MDSWs con IA se encuentran en constante aprendizaje automático, es cru- cial que el fabricante establezca límites claros en los que dicho algoritmo puede modificar el producto . En la misma línea, se aconseja a los fabricantes mante- ner una documentación detallada donde se registren los cambios realizados en el software, las evaluaciones de riesgos y los balances beneficio-riesgo correspondientes. Inteligencia artificial