Revista Farmabiotec - Número 18

42 farmaBIOTEC #18 aplicará la función de activación Sigmoid, que devolverá 0 si el tumor no es maligno y 1 si sí. En este contexto, un producto de diagnóstico por ima- gen ayudado por IA podría englobarse en el ámbito de los productos sanitarios, bien sea como producto de base software o bien equipamiento de diagnóstico con soft- ware. En este ámbito nos movemos en un ambiente alta- mente regulado donde el cumplimiento de la normativa hace elevar los requisitos reglamentarios del producto y el nivel de documentación a elaborar, que a menudo suele ser el punto negro de los fabricantes. Todo ello debido al aumento de la regulación y a los requisitos y detalle de la documentación a presentar. Al tratarse de productos sanitarios, siguiendo el camino de un producto de base o software o bien equipo con software ambos provisto de IA obligatoriamente hay que pasar por la autoridad sanitaria competente, en el caso de España la AEMPS, y el Organismo Notificado corres - pondiente, para dar cumplimiento al Reglamento de 2017/745 o 2017/746. Abordando el reglamento surgirán múltiples normas a cumplir relacionadas con los puntos siguientes, algunas pero no todas serían: • Sistema de Calidad: ISO 13485 y Gestión de Riesgos ISO 14971. • Verificación de software: fase preclínica y clínica, donde se debe retar el algoritmo formulado para dar lugar a la IA y demostrar la validez de los datos y resultados. • Validación de Software: ISO 62304 a fin de demostrar la robustez del sistema y fiabilidad de los datos. • Requisitos de la IA: Reglamento Europeo 2024/1689/ UE y Real Decreto 817/2023, a fin de dar cumplimiento legal a la IA. Con la finalidad de conseguir un producto que, bajo la Gestión de Riesgos, cumpla la normativa aplicable y sea certificable. Sin duda, la revolución de la IA está entre nosotros y el ámbito sanitario no podía ser diferente: “la revolución ha llegado”. No obstante: • ¿Cuán preparados están las autoridades y organismos certificadores? • ¿Es posible certificar un producto en constante evolución? La utilidad de la IA ha sido ampliamente probada a tra- vés de numerosos estudios, no obstante, existen diversos obstáculos tanto matemáticos como regulatorios que impiden su total integración en la medicina. Debemos asegurarnos de poder resolver sesgos inherentemente asociados a los datos, como la subrepresentación de razas y género; garantizar la capacidad de generalización de la Inteligencia Artificial, ya que, como las personas, puede desarrollar “malos hábitos” al acostumbrarse a los datos de entrenamiento; solucionar el problema de “caja negra”, denominado así porque , las redes son tan com- plejas que no es posible entender cómo se ha llegado a la decisión; y, por supuesto, no nos olvidamos de lo más importante, el componente humano, no es posible ima- ginar la introducción de esta tecnología sin la garantía absoluta de que primero y ante todo se vela por la seguri- dad del paciente. Este último, como demuestran los retos regulatorios que supone, podría ser el obstáculo más complicado de esquivar. Referencias • Duda, Richard O., Edward H. Shortliffe, and Expert Systems Research. 1983. “Expert Systems Research.” Science 220: 261-268. doi:10.1126/science.6340198. • Falconi, Mariano L., Martina Aineseder, Diego Pérez de Arenaza, María Agustina Ricci Lara, Sonia Benítez, y Walter Masson. 2024. "Inteligencia artificial. Aplicación en las imá - genes cardiovasculares y." Revista Argentina de Cardiología. doi :https://doi.org/10.7775/rac.es.v92.i1.20727. • Ferrante, Enzo. 2021. "Inteligencia artificial." Nueva Sociedad (294): 27-36. https://biblat.unam.mx/es/revista/ nueva-sociedad/articulo/inteligencia-artificial-y-sesgos- algoritmicos-por-que-deberian-importarnos. • González, Gabriel Felipe Jaramillo. 2009. "Redes neuro - nales aplicadas al análisis de imágenes para el desarrollo de un prototipo de un sistema de seguridad." • McCarthy, John, Marvin L Minsky, Nathaniel Rochester, and Claude E Shannon. 2006. “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.” AI Magazine 27 (4): 12, 13, 14. doi: https://doi.org/10.1609/ aimag.v27i4.1904. • Troilo, Fernando, y Mariano Albertolli. 2022. "Impacto de la Inteligencia Artificial en el perfil del Especialista en Diagnóstico por Imágenes y desafíos de las organizacio- nes privadas de Salud." Revista Científica de UCES 27 (2). https://publicacionescientificas.uces.edu.ar/index.php/ cientifica/article/view/1338 Grata rerum novitas Debemos asegurarnos de poder resolver sesgos inherentemente asociados a los datos, como la subrepresentación de razas y género; garantizar la capacidad de generalización de la Inteligencia Artificial, ya que, como las personas, puede desarrollar “malos hábitos”.