La experta, actualmente consultora jurídica en salud digital y miembro de diversos comités de ética de investigación con medicamentos, sostiene que el desarrollo de sistemas de inteligencia artificial aplicados a la sanidad no puede entenderse únicamente desde una perspectiva tecnológica. Según explica, estas herramientas deben cumplir simultáneamente distintas normativas relacionadas con la protección de datos, los productos sanitarios y la regulación específica de la inteligencia artificial.
Uno de los principales mensajes del análisis es que el uso de la IA en salud debe evaluarse en función de su finalidad y del impacto que pueda tener sobre pacientes y profesionales. Una aplicación destinada a automatizar tareas administrativas no presenta los mismos riesgos que otra capaz de influir en decisiones clínicas o en la priorización de pacientes. Por ello, Prudencia.ai destaca que “la finalidad de la herramienta, el contexto en el que se utiliza y las decisiones que puede influir son elementos determinantes para valorar sus riesgos”.
El texto concede una especial relevancia al Reglamento Europeo de Inteligencia Artificial (AI Act), considerado una referencia fundamental para determinar qué obligaciones deben cumplir los sistemas de IA. No obstante, la publicación advierte de que la regulación no debe abordarse como una suma de requisitos aislados, sino como un marco integral destinado a garantizar que la innovación tecnológica se desarrolle de forma responsable.
Otro de los grandes retos abordados es la gestión de los datos sanitarios. La información médica figura entre las categorías especialmente protegidas por el Reglamento General de Protección de Datos (RGPD), lo que obliga a extremar las garantías en cualquier tratamiento destinado a desarrollar aplicaciones digitales o entrenar sistemas de inteligencia artificial.
En este ámbito, María Sánchez Besga subraya una cuestión que suele generar confusión: “generar información no significa necesariamente ser su propietario ni tener un control absoluto sobre ella”. La especialista recuerda que una historia clínica contiene aportaciones de distinta naturaleza, procedentes tanto del paciente como de los profesionales sanitarios, lo que impide simplificar la gestión de esos datos bajo una única titularidad.
La reflexión se extiende además a la llamada soberanía digital europea. Según recoge el artículo, conocer dónde se almacenan los datos sanitarios, quién puede acceder a ellos y bajo qué condiciones se utilizan resulta cada vez más importante en un contexto marcado por la dependencia tecnológica y el intercambio transfronterizo de información.
Precisamente para responder a estos desafíos, el análisis pone el foco en el Espacio Europeo de Datos de Salud, una iniciativa destinada a facilitar el intercambio de información sanitaria dentro de Europa manteniendo mecanismos de gobernanza y protección adecuados. Para Prudencia.ai, “no basta con reunir datos: también es necesario establecer criterios de acceso, mecanismos de gobernanza y garantías” que permitan controlar el uso de la información.
El artículo también explora el impacto de la inteligencia artificial en el ámbito jurídico, especialmente en aquellas áreas donde es necesario analizar grandes volúmenes de documentación normativa y jurisprudencial. Las nuevas herramientas son capaces de resumir, clasificar y estructurar información compleja, reduciendo el tiempo necesario para determinadas tareas de investigación.
No obstante, la publicación insiste en que la tecnología no debe sustituir el criterio profesional. En palabras del equipo de Prudencia.ai, “una herramienta puede asistir en el trabajo jurídico, pero no sustituye la responsabilidad de quien ejerce la profesión”.
La misma idea se traslada al ámbito sanitario y a cualquier entorno de alta responsabilidad. El artículo defiende una supervisión humana permanente sobre los resultados generados por la IA, especialmente porque los sistemas pueden contener errores, omitir información relevante o presentar conclusiones incorrectas pese a ofrecer respuestas aparentemente convincentes.
Como conclusión, la publicación sostiene que el futuro de la salud digital no dependerá únicamente de la capacidad tecnológica de los sistemas de inteligencia artificial, sino también de la confianza que generen. Para ello, resultará esencial garantizar la transparencia de las fuentes, la calidad de los datos utilizados, la privacidad de la información y una supervisión humana efectiva que permita aprovechar las ventajas de la innovación sin renunciar al control.
VER POST
