Jefe de estudios del área de Derecho. Facultad Business & Tech En artículos anteriores he abordado la gobernanza de la Inteligencia Artificial -en adelante, IA- desde la gobernanza integrada, la función coordinadora del AI Officer y la distribución de responsabilidades. Toda esa arquitectura parte de una condición previa: saber qué sistemas de IA utiliza realmente la organización. Una empresa puede disponer de políticas, responsables y procedimientos correctamente diseñados. Si desconoce que determinadas áreas utilizan herramientas generativas, funcionalidades incorporadas a aplicaciones ya contratadas o soluciones adoptadas directamente por unidades de negocio, su gobernanza parte de una información incompleta.
María Luisa García Torres, Dra. en Derecho Procesal
El inventario no es, por ello, una cuestión meramente administrativa. Difícilmente puede clasificarse, supervisarse, controlarse o auditarse aquello cuya existencia se desconoce.
El inventario no es una lista de herramientas
El primer error sería identificar el inventario con una mera relación de proveedores, aplicaciones o licencias. Una misma herramienta puede utilizarse para finalidades distintas y generar riesgos diferentes. No es lo mismo emplear IA para resumir documentación interna que utilizarla para analizar candidaturas, evaluar trabajadores o apoyar decisiones que afectan a clientes.
El inventario debe permitir conocer qué herramienta existe, para qué se utiliza, en qué proceso se integra, quién es su responsable funcional, qué datos intervienen, qué personas pueden resultar afectadas y qué relevancia tienen sus resultados en la decisión final.
Esta identificación permite determinar el régimen jurídico aplicable. El Reglamento (UE) 2024/1689 -en adelante, RIA- prohíbe determinadas prácticas en su art. 5; establece en el art. 6 y en el anexo III los criterios y casos de uso que pueden determinar la consideración de un sistema como de alto riesgo; y somete determinados sistemas a obligaciones específicas de transparencia en el art. 50.
La clasificación no depende únicamente del nombre de la herramienta, sino de su finalidad y de la forma en que se utiliza.
Pensemos en una herramienta generativa empleada exclusivamente para resumir documentación interna. Ese uso, por sí mismo, no determina que estemos ante un sistema de alto riesgo. En el inventario deberían constar el proveedor, la finalidad, los usuarios autorizados, la información que puede introducirse y los controles establecidos.
La situación cambia si la IA se utiliza para analizar o filtrar candidaturas en un proceso de selección. El anexo III incluye entre los sistemas de alto riesgo determinados usos destinados a la contratación o selección de personas, sin perjuicio del análisis que exige el art. 6. En ese supuesto, el inventario debería reflejar además el responsable funcional, las personas afectadas, los datos utilizados, la supervisión humana y los controles aplicables.
El ejemplo muestra por qué no basta con inventariar una aplicación: es el uso concreto el que permite determinar riesgos, controles y régimen jurídico aplicable.
El RIA no impone un inventario general a todas las empresas
El RIA no establece, con carácter general, que cualquier empresa deba mantener un inventario interno completo de todos los sistemas de IA que utiliza. Sí contempla obligaciones específicas de registro. El art. 49 regula el registro de determinados sistemas de alto riesgo y el art. 26 establece obligaciones para sus responsables del despliegue, incluidas, en los supuestos previstos, medidas organizativas y conservación de registros bajo su control.
El inventario corporativo debe entenderse, por tanto, como una herramienta de gobernanza para saber qué se utiliza, para qué y qué obligaciones pueden resultar aplicables.
Esta lógica coincide con el AI Risk Management Framework del NIST, que incorpora mecanismos para inventariar sistemas de IA dentro de la función de gobernanza. También resulta coherente con la ISO/IEC 42001:2023, que exige gestionar estructuradamente sistemas, recursos, riesgos, responsabilidades y controles. Aunque no impone un modelo único de inventario, su implantación requiere una visión actualizada de los sistemas incluidos en su alcance.
Quién declara y quién mantiene el inventario
El AI Officer o el departamento de IA puede coordinar el inventario, pero no puede descubrir por sí solo toda la IA utilizada en una organización compleja.
Quien propone, adquiere o utiliza un sistema debe declarar su existencia y finalidad. La coordinación central no elimina la responsabilidad del área de negocio. Compras, Tecnología, Ciberseguridad, Protección de Datos, Jurídico o Compliance pueden actuar como puntos de detección.
La matriz funcional debe determinar quién declara, quién valida, quién interviene en la clasificación, quién actualiza la ficha, quién decide y qué cambios obligan a revisar la evaluación.
Qué debe contener la ficha
El inventario debe ser suficientemente completo para gobernar, pero sencillo de mantener. Cada sistema debería asociarse con su identificación y versión, proveedor o desarrollador, finalidad, proceso afectado, responsable funcional, áreas usuarias, datos relevantes, colectivos afectados, influencia en las decisiones, clasificación de riesgo, supervisión humana, controles y situación -piloto, producción, suspendido o retirado-.
Cuando proceda, la ficha debe enlazar con evaluaciones, documentación contractual, registros, incidencias y evidencias. El objetivo es responder rápidamente cuatro preguntas: qué es, para qué se utiliza, quién responde de su utilización y bajo qué condiciones ha sido autorizado.
Cómo hacer operativo el inventario
El inventario no debería funcionar como una base de datos aislada, sino integrarse en los procesos que la organización ya utiliza para incorporar tecnología, contratar proveedores y gestionar riesgos. Puede vincularse a los sistemas de ITSM, a los circuitos de Compras y contratación o a los sistemas de gestión de Compliance, seguridad o IA.
La entrada puede articularse mediante un triage inicial: qué herramienta se pretende utilizar, para qué finalidad, qué datos intervendrán, si puede afectar a personas y qué relevancia tendrán sus resultados. A partir de esas respuestas, la matriz funcional debe activar las funciones correspondientes y determinar quién interviene, quién decide y cuándo debe escalarse la cuestión.
El AI Officer coordina el circuito y asegura la incorporación del sistema al inventario, pero no sustituye a las funciones competentes ni asume por sí solo la decisión final.
Shadow AI: descubrir también la IA que no se ha declarado
El inventario debe contrastarse con la realidad tecnológica de la organización. La denominada shadow AI puede aparecer mediante servicios generativos, cuentas individuales, extensiones, agentes o funcionalidades activadas dentro de aplicaciones sin evaluación previa.
Su detección requiere políticas y formación, pero puede apoyarse en registros de acceso, herramientas de descubrimiento de aplicaciones, soluciones Cloud Access Security Broker -CASB- o pasarelas corporativas.
La tecnología permite detectar usos no declarados, pero no sustituye su evaluación jurídica y organizativa. El inventario no debe registrar únicamente la IA conocida: debe ayudar también a descubrir la que todavía no sabe que utiliza.
Inventario, cumplimiento y riesgo sancionador
La ausencia de un inventario corporativo no constituye, por sí misma, una infracción autónoma del RIA. Pero desconocer qué sistemas utiliza la organización puede impedir identificar una práctica prohibida o cumplir las obligaciones aplicables.
El art. 99 del RIA contempla para el incumplimiento de las prohibiciones del art. 5 multas de hasta 35 millones de euros o, si el infractor es una empresa, hasta el 7 % de su volumen de negocios mundial total del ejercicio financiero anterior, si esta cuantía fuese superior. Para determinados incumplimientos de obligaciones de los operadores, entre ellas las de los responsables del despliegue del art. 26, las multas pueden alcanzar 15 millones de euros o el 3%, si esta cuantía fuese superior. En las pymes, incluidas las empresas emergentes, el límite máximo es la menor de ambas cuantías.
El inventario no evita por sí solo una sanción. Permite algo anterior y esencial: conocer qué obligaciones deben cumplirse antes de que se produzca el incumplimiento.
Un inventario vivo, no una fotografía
Inventariar una herramienta una vez no basta. Puede cambiar su finalidad, versión, datos, funcionalidades, integraciones o grado de autonomía. Un uso inicialmente limitado puede evolucionar hacia un proceso más sensible.
El inventario debe establecer qué cambios exigen actualizar la ficha y cuáles obligan a revisar la evaluación. Las revisiones periódicas del responsable funcional y los mecanismos tecnológicos de detección permiten mantenerlo alineado con la realidad.
Del inventario a la gobernanza
El inventario es la infraestructura de información que activa el resto del modelo: matriz funcional, clasificación de riesgos, supervisión humana, gestión de proveedores, auditoría, incidentes y escalado.
También proporciona a la alta dirección una visión consolidada: qué sistemas existen, dónde se utilizan, cuáles concentran mayor riesgo, qué evaluaciones están pendientes y qué usos permanecen fuera de los circuitos autorizados.
Conclusión
Una empresa no puede gobernar la IA que cree que utiliza. Debe conocer la que utiliza realmente.
El AI Officer o el departamento de IA coordina el inventario; las áreas de negocio declaran y responden por sus usos; las funciones especializadas evalúan los riesgos de su ámbito; la matriz distribuye responsabilidades; y la alta dirección recibe la visión de conjunto necesaria para gobernar.
El inventario no sustituye la evaluación, la supervisión ni el control. Los hace posibles.
Antes de preguntarnos quién decide, quién controla o quién responde existe una cuestión previa: ¿sabemos realmente qué sistemas de IA están funcionando dentro de la organización?
Si la respuesta es incompleta, también lo será su gobernanza.