Carmen Muñoz García Catedrática (acr.) de Derecho Civil. UCM Cuestión primaria La cuestión ya no es «¿regular o no regular?», sino «¿cómo regular para proteger a todas las personas sin frenar la innovación?». La innovación en IA, y especialmente en IA generativa, avanza a un ritmo imparable, pero su despliegue masivo exige un marco normativo que otorgue seguridad jurídica, confianza y una protección efectiva para toda la ciudadanía.
 |
||
|
Carmen Muñoz García Catedrática (acr.) de Derecho Civil. UCM |
||
Este nuevo estudio[1] incide en el papel estratégico del Reglamento europeo de Inteligencia Artificial para regular los riesgos de la IA para proteger derechos sin frenar la innovación. Sin duda, es un apoyo esencial para reconducir el desarrollo de estos productos y alcanzar sistemas y modelos más seguros y confiables
El trabajo analiza cómo el Reglamento (UE) 2024/1689 de Inteligencia Artificial se convierte en una pieza clave para ordenar el despliegue de la IA, en particular de la IA generativa, equilibrando la protección de los derechos fundamentales con el impulso de la innovación tecnológica en el mercado europeo.
Un escenario realista: beneficios enormes y riesgos estructurales
La investigación parte de un escenario real, la constatación de que los sistemas avanzados de IA generativa se han integrado ya en la vida cotidiana a través de asistentes conversacionales y herramientas capaces de crear textos, imágenes o vídeos de gran calidad y accesibles para amplias capas de la población. Estos sistemas están disponibles para toda la ciudadanía sin barreras de coste individual, utilizan un lenguaje natural impecable, responden con rapidez y los usuarios perciben sus mensajes como coherentes, razonables y fiables. Todo ello aparenta ser una fuente inagotable de conocimiento que combina un elevado potencial de beneficios, desde la mejora de procesos en educación, salud o servicios públicos o privados hasta nuevas formas de creatividad.
Sin embargo, tras esa apariencia se esconde un conjunto de riesgos profundos y sistémicos, entre los que cabe citar:
• Vulneración de derechos fundamentales
Privacidad, datos personales, reputación, imagen o incluso derechos de los consumidores que pueden verse comprometidos por:
– enormes volúmenes de datos de entrenamiento,
– información recopilada de la web,
– datos proporcionados por los propios usuarios en los prompts.
• Desinformación convincente, sesgos y manipulación
Las «alucinaciones», no son fallos anecdóticos, son un riesgo estructural.
Los modelos generan contenido falso con apariencia de verdad, amplifican sesgos y pueden inducir a decisiones manipuladas con graves daños y perjuicios para las personas.
• Propiedad intelectual en zona gris
La explotación masiva de contenidos sin licencia cuestiona la sostenibilidad del ecosistema creativo y erosiona la seguridad jurídica.
La expansión sin límites de estas herramientas puede generar innumerables riesgos estructurales que afectan a derechos fundamentales ampliamente consolidados, como la privacidad, la protección de datos personales, la reputación, la imagen, los derechos de los consumidores o la propiedad intelectual en cuanto a la explotación masiva de contenidos sin licencia.
Pensar que todo esto se soluciona con una mera advertencia al usuario sobre la naturaleza no humana de la IA es ilusorio. La escala, la velocidad y la capacidad de la herramienta para emular la inteligencia humana superan la capacidad de discernimiento individual y, probablemente, reducirá progresivamente la oposición socrática. Es innegable que nuestro marco jurídico previo al Reglamento, con principios, normas y jurisprudencia, resulta insuficiente para abordar la nueva realidad tecnológica y su ineludible impacto en todo el Derecho. Los potenciales riesgos estructurales exigen respuestas regulatorias específicas y firmes.
La función estratégica del RIA
Frente a un marco normativo previo para realidades menos complejas y tecnologías prácticamente previsibles y explicables, el estudio sitúa el Reglamento Europeo de Inteligencia Artificial (RIA), de 13 de junio de 2024, como pieza clave de un plan estratégico completo que, al margen de una tecnología ilimitada, impone límites éticos y normativos. ¿Acaso el uso de la energía nuclear, la navegación aérea, los vehículos a motor o los productos farmacéuticos no los tienen?
La norma es un punto de apoyo esencial para reconducir el desarrollo de la IA hacia un modelo más seguro y confiable. Introduce por primera vez una regulación horizontal y específica, armonizada, y clasifica los sistemas de IA según el riesgo para la salud, la seguridad y los derechos fundamentales. Este enfoque basado en riesgos que articula las herramientas de IA en distintas categorías —riesgo inaceptable, alto, limitado y mínimo— asigna a cada nivel obligaciones proporcionadas, que van desde la prohibición de determinadas prácticas hasta exigencias estrictas de evaluación, supervisión y documentación, o requerimientos más ligeros -o no tanto-, de transparencia hacia los usuarios. Su objetivo no es frenar la innovación, sino ofrecer seguridad jurídica y reglas claras a las empresas, las administraciones y los desarrolladores que utilizan o integran sistemas de IA, así como a los usuarios y terceros no usuarios afectados por el uso de estas herramientas.
Esta regulación se traduce en una ventaja competitiva por segura y fiable, y se ha convertido en la fuerza impulsora de grandes cambios normativos que se están produciendo a nivel mundial. Debe ser plenamente coherente con las normas de la Unión en todos los sectores donde se utilice la IA, o en los que vaya a utilizarse en el futuro. Por ello, como ya propuso la autora en otras publicaciones precedentes, el análisis y estudio del Reglamento solo debe abordarse desde una «perspectiva holística», es decir, de manera coherente y alineada con los valores, principios y legislación vigente de la Unión en todos los sectores en los que impacta (RGPD, DSA, DMA,
Por lo que la investigación identifica tres planos en los que el Reglamento europeo de IA desempeña una función estratégica. En primer lugar, refuerza una visión de la IA centrada en la persona, al situar la dignidad humana y los derechos fundamentales como criterio rector de la innovación, en línea con otros instrumentos de la Unión. En segundo lugar, contribuye a la estandarización ético‑legal al convertir principios anteriormente voluntarios, como la transparencia, la supervisión humana significativa o la gestión responsable de datos, en obligaciones exigibles y verificables. En tercer lugar, fomenta la coherencia normativa del ecosistema europeo, al coordinarse con el Reglamento General de Protección de Datos, la normativa de consumidores, las reglas de seguridad de productos o la regulación de la propiedad intelectual. De este modo, se conforma así, un entramado de garantías más integrado que requiere un estudio del Reglamento de IA desde una perspectiva completamente holística, integral e interconectada con valores, principios y normas asentados en la Unión Europea.
Conclusión
Cabe concluir que:
- Para el sector tecnológico, el Reglamento europeo de IA opera como un estándar de calidad y un marco de referencia que facilita el diseño de sistemas de IA generativa más seguros, auditables y alineados con las expectativas sociales y normativas.
- Desde la perspectiva jurídica, es la pieza clave para afrontar el decisivo reto de adaptar el Derecho a la era algorítmica, ya que la norma exige una actualización profunda de categorías como la responsabilidad civil, la protección de datos o la tutela de la creatividad, en un contexto en el que las decisiones automatizadas y los contenidos generados por máquinas tienen efectos crecientes sobre la vida de las personas.
- Para la ciudadanía, supone una garantía de que la IA opera dentro de los límites que protegen sus derechos.
Regular ya no es una opción: es la condición necesaria para que la IA avance de manera justa, segura, legitima, confiable y con garantías personales y sociales.
[1] En el marco de la Cátedra Internacional ENIA en IA Generativa: retos y riesgos forma parte de las iniciativas impulsadas en el marco de la Estrategia Nacional de Inteligencia Artificial, la autora, Carmen Muñoz, ha presentado la investigación sobre La trascendencia de regular los riesgos de la IA: la función estratégica del Reglamento Europeo de Inteligencia Artificial», desarrollada en el marco de la Cátedra Internacional ENIA «IA Generativa: retos y riesgos». De dicha investigación extraemos algunas de las ideas que aquí se recogen.