Revista Farmabiotec - Número 16

#16 farmaBIOTEC 65 Inteligencia artificial al Cumplimiento, Utilización, Monitorización, Protección, Liderazgo y Adaptabilidad del entorno. Cumplimiento normativo y seguridad de los datos La implementación de tecnologías basadas en la IA requiere el manejo de grandes volúmenes de datos sen- sibles, lo que incrementa los riesgos relacionados con la privacidad y la seguridad de los datos. Normativas como el GDPR en Europa y leyes de privacidad de datos en Estados Unidos, como HIPAA, imponen estrictas exi- gencias sobre el tratamiento, almacenamiento y trans- ferencia de datos personales y de salud. Las empresas farmacéuticas deben asegurarse de que la recolección, procesamiento y almacenamiento de estos datos cum- plan con las normativas locales e internacionales, algo que se vuelve más complejo cuando se integran solucio- nes basadas en IA, donde no siempre es posible conocer las fuentes de información utilizadas en los entrenamien- tos, ni como estas han sido integradas en los modelos. El departamento de compliance debe garantizar que se realicen evaluaciones de impacto de protección de datos (DPIA) antes de implementar nuevas tecnologías y que se establezcan medidas técnicas y organizativas adecuadas para proteger los datos. Además, es esencial asegurar el cumplimiento con estándares internacionales como ISO 27001 para la gestión de la seguridad de la información. La falta de cumplimiento puede resultar en sanciones significativas, incluyendo multas económicas y daños reputacionales. Utilización y validación de automatización de procesos Otra de las grandes aportaciones de la IA es la capa- cidad de automatizar tares complejas, las cuales permi- ten mejorar la eficiencia operativa y reducir los costos. Si los procesos automatizados no se diseñan, validan o monitorean adecuadamente, pueden surgir errores que afecten la calidad del producto o el cumplimiento regula- torio. Procesos de fabricación y control de calidad como las Buenas Prácticas de Manufactura (GMP) o las Buenas Prácticas de Laboratorio (GLP) están sujetos a estrictas regulaciones. Es fundamental que cualquier sistema automatizado utilizado en estos procesos sea validado de acuerdo con los estándares regulatorios, y que se mantenga docu- mentación detallada y auditable. El departamento de compliance debe establecer métricas e indicadores que permitan reportar sobre el correcto funcionamiento de los procesos, así como su alineación con las normativas vigentes. Además, debe asegurarse de que existan planes de contingencia y procedimientos para gestionar desvia- ciones o no conformidades. Monitorización de transparencia y sesgos en los algoritmos de IA Los sistemas basados en IA aprenden de una manera similar a como lo hacemos nosotros. De la misma manera que nosotros adquirimos nuestro conocimiento a partir de la experiencia de la vida, los sistemas de IA aprenden de masivos volúmenes de datos y de sistemas que recompensan o penalizan los modelos que crean. Por este motivo, se hace especialmente fundamental disponer de conjuntos de datos representativos que pue- dan contener todo el saber necesario para comprender el problema y que, al mismo tiempo, minimicen los ses- gos y discriminaciones fruto de no haber entrenado los sistemas con todos los posibles escenarios. La opaci- dad de algunos algoritmos de IA, conocidos como "cajas negras", dificulta entender cómo se toman ciertas deci - siones, lo que puede ser problemático desde una pers- pectiva regulatoria y ética. Ante una situación nueva, las personas tenemos la capacidad de reflexionar cual es la opción o decisión que más conviene en función de la cir- cunstancia. Sin embargo, un modelo de IA no sabrá que hacer y tendrá lo que se conoce como una alucinación, es decir, ofrecerá una respuesta que para ojos no expertos parecerá correcta pero que simplemente es correcta en la forma, pero no en el fondo. Todo esto puede afectar direc- tamente a la precisión de los resultados y poner en riesgo el cumplimiento de los estándares éticos y regulatorios. La nueva regulación sobre IA que se está desarrollando en Europa, conocida como el Reglamento de Inteligencia Artificial, tiene como uno de sus pilares asegurar que los sistemas de IA velen por la privacidad de los usua- rios y sean transparentes, seguros, no sesgados y no discriminatorios. Exige que las empresas puedan expli- car el funcionamiento de sus algoritmos y proporcionar