María Luisa García Torres. Dra. en Derecho Procesal Jefe de estudios del área de Derecho. Facultad Business & Tech La gestión de un incidente de IA empieza antes del fallo. La empresa debe definir quién puede detener el sistema, qué evidencias debe preservar y cuándo procede notificar. De esas decisiones dependerá también cómo se determinen las responsabilidades.
La gobernanza de la IA exige prever cómo puede fallar un sistema y preparar la respuesta antes de ponerlo en servicio. La empresa debe definir quién recibe la primera alerta, quién tiene autoridad para limitar o suspender el uso, quién asume cada decisión y qué evidencias deberán preservarse. En un sistema agéntico, esas decisiones deben traducirse en controles concretos sobre las herramientas que el agente puede utilizar y los permisos con los que puede actuar.
Imaginemos que un agente está autorizado para consultar expedientes y resumirlos. La integración con el correo corporativo le permite adjuntar documentos y enviarlos a destinatarios externos. En una de sus ejecuciones, envía el archivo que debía resumir. El registro del correo permite identificar el mensaje y su destinatario. Aún hay que determinar qué activó el envío, con qué credenciales se ejecutó y si el agente accedió a otros expedientes o realizó acciones similares.
Quién puede detener el sistema
La primera medida depende del alcance conocido del incidente. Si el problema está acotado al envío externo, puede bastar con deshabilitar esa función. Si se desconoce qué otras acciones puede ejecutar el agente, puede ser necesario revocar sus credenciales o suspender el flujo completo. Si esas credenciales se comparten con otros procesos, la empresa debe prever cómo aislar al agente y qué servicios pueden verse afectados por la revocación.
La autoridad para contener el incidente y la competencia para autorizar la reanudación pueden corresponder a personas distintas. El equipo de guardia puede estar habilitado para desactivar el conector de correo. La decisión de restablecerlo puede corresponder a otro nivel, previa evaluación técnica y jurídica. El comité puede intervenir en esa segunda decisión. Su calendario de reuniones difícilmente sirve para detener un envío en curso.
La actuación de urgencia debe quedar documentada con la hora de la alerta, los indicios disponibles, la medida adoptada y el momento en que se hizo efectiva. Esos datos permiten valorar la respuesta con arreglo a lo que la empresa sabía entonces y comprobar cuánto tiempo siguió operativa la función afectada.
Qué debe preservarse y qué acredita cada registro
La contención y la preservación deben avanzar en paralelo. Revocar un permiso o modificar la configuración cambia el estado que habrá que investigar. Si la urgencia obliga a actuar primero, hay que dejar constancia de qué se cambió, quién lo hizo y cuándo. Cuando sea viable, conviene conservar también la configuración previa.
En el caso del expediente, la reconstrucción exige correlacionar el identificador de ejecución del agente, la llamada al conector y el identificador del mensaje. El registro de correo puede acreditar la hora y el destinatario del envío. La traza de ejecución permite comprobar si el agente invocó el conector y con qué identidad técnica. El historial de configuración permite determinar qué permisos tenía esa identidad en aquel momento. Si se discute qué desencadenó la acción, también puede ser relevante identificar la versión del modelo y las instrucciones activas durante esa ejecución.
Para que esas fuentes puedan examinarse después, interesa preservar los registros originales o, cuando proceda, exportaciones cuya integridad pueda verificarse. Debe quedar documentado de qué sistema se obtuvieron, en qué momento y con qué alcance. Si las trazas están bajo el control del proveedor, la empresa necesita saber de antemano cómo solicitar su preservación y cuánto tiempo estarán disponibles. Una exportación que tarda un mes sirve de poco si los registros se sobrescriben mañana.
Cuándo hay que notificar
La respuesta interna puede activarse ante un indicio razonable mientras se determina si existe un deber de notificación. El art. 3.49 del Reglamento (UE) 2024/1689 -en adelante, RIA- reserva la categoría de incidente grave a los supuestos en que un incidente o defecto de funcionamiento causa, directa o indirectamente, alguna de las consecuencias que enumera. Entre ellas figuran el daño grave para la salud, la perturbación grave e irreversible de infraestructuras críticas y la infracción de obligaciones del Derecho de la Unión destinadas a proteger derechos fundamentales.
Como regla general, el art. 73 atribuye al proveedor de un sistema de IA de alto riesgo introducido en el mercado de la Unión la notificación a las autoridades de vigilancia del mercado de los Estados miembros donde se haya producido el incidente grave. Debe notificar de inmediato cuando establezca un vínculo causal o aprecie una probabilidad razonable de que exista. El máximo ordinario es de quince días desde que el proveedor o, en su caso, el responsable del despliegue tiene conocimiento del incidente grave. La norma establece máximos especiales de dos días para las infracciones generalizadas y los supuestos del art. 3.49.b), y de diez días en caso de fallecimiento, con notificación inmediata en cuanto se establezca o se sospeche el vínculo causal.
Cuando la empresa utiliza un agente suministrado por un tercero, normalmente actúa como responsable del despliegue. Si identifica un incidente grave y resulta aplicable el art. 26.5 del RIA, debe informar inmediatamente primero al proveedor y después al importador o distribuidor y a las autoridades de vigilancia del mercado competentes. El proveedor, por su parte, debe efectuar la notificación prevista en el art. 73 cuando concurran sus presupuestos. Si el responsable del despliegue no puede contactar con el proveedor, se aplica el art. 73 con las adaptaciones necesarias. El art. 26.5 también prevé la suspensión del uso cuando concurran las condiciones de riesgo que establece.
Tras la reforma por el Reglamento (UE) 2026/1744, de 8 de julio de 2026, este precepto será aplicable desde el 2 de diciembre de 2027 para los sistemas de alto riesgo del art. 6.2 y el anexo III, y desde el 2 de agosto de 2028 para los del art. 6.1 y el anexo I, sin perjuicio del régimen transitorio del art. 111. El art. 73 se sitúa en el capítulo IX, fuera del aplazamiento específico del capítulo III. Su exigibilidad debe examinarse atendiendo al régimen aplicable al sistema y al operador.
Si el envío constituye una violación de la seguridad de datos personales, el art. 33 del Reglamento (UE) 2016/679 -en adelante, RGPD- exige al responsable del tratamiento notificarla a la autoridad de control sin dilación indebida y, de ser posible, en las 72 horas siguientes a tener constancia de ella, salvo que sea improbable que entrañe un riesgo para los derechos y libertades de las personas físicas. Si es probable que el riesgo sea alto, deberá comunicarla también a los afectados sin dilación indebida, con las excepciones del art. 34.3. La cronología debe recoger la primera alerta y el momento en que la empresa tuvo constancia de la brecha.
Qué justifica la vuelta al servicio
Antes de reactivar el agente, la empresa debe comprobar, en condiciones controladas, si puede enviar el contenido por otro conector o mediante un enlace compartido. Si su función se limita a resumir expedientes, el envío externo debe quedar bloqueado por defecto.
Si la empresa autoriza al agente a realizar envíos, puede establecer un control por umbral de riesgo. Dentro de los envíos autorizados, la aprobación humana previa será obligatoria cuando el destinatario sea externo o el documento tenga un nivel alto de confidencialidad. El sistema bloqueará el envío hasta que una persona habilitada compruebe el destinatario y el contenido y deje constancia de su aprobación -human-in-the-loop-.
La decisión de reanudar el servicio debe documentar qué pruebas respaldan la reactivación y qué restricciones seguirán vigentes.
Qué responsabilidades puede generar un incidente de IA
La responsabilidad civil puede ser contractual si la empresa incumple un deber de confidencialidad -art. 1101 del Código Civil, en adelante CC-, o extracontractual si una actuación negligente causa un daño a un tercero (art. 1902). Si la reclamación se funda en el art. 82 del RGPD, deben acreditarse una infracción, un daño y el nexo causal entre ambos. El TJUE confirmó estos requisitos en su Sentencia de 25 de enero de 2024, MediaMarktSaturn (asunto C‑687/21), dictada a raíz de la entrega por error a un tercero de documentos que contenían datos personales.
Aunque no se trate de un ejemplo relativo a la IA, en Derecho comparado, en Canadá, el Tribunal de Resolución Civil de Columbia Británica -Moffatt v. Air Canada, 2024 BCCRT 149- declaró responsable a Air Canada por la información errónea facilitada por su chatbot, cuya tecnología queda sin precisar en la resolución.
La responsabilidad administrativa puede derivarse del incumplimiento de obligaciones exigibles de seguridad, supervisión o notificación. La responsabilidad penal requiere que la conducta reúna los elementos de un delito. Para atribuirla también a la empresa, el Código Penal debe preverla para ese delito y deben concurrir los requisitos del art. 31 bis.
Dentro de la empresa, hay que reconstruir quién aprobó los permisos del agente, quién podía revocarlos al recibir la alerta y quién autorizó la reanudación. La eventual responsabilidad personal se valora atendiendo al deber de cada interviniente, a la información de que disponía, a su capacidad efectiva para actuar y a la relación de su conducta con el daño o la infracción.
Desde la perspectiva del compliance penal, antes de implantar un sistema de IA la empresa debe identificar en qué actividades su uso puede facilitar la comisión de delitos e incorporar controles proporcionados a esos riesgos en su modelo de prevención. En un agente conectado al correo corporativo, esto puede traducirse en limitar los permisos de envío y exigir autorización humana previa para determinadas comunicaciones externas. Si una actualización incorpora nuevas herramientas o amplía la autonomía del agente, habrá que revisar si los controles existentes siguen siendo adecuados.
A medida que las empresas incorporen agentes de IA a sus procesos y les encomienden actuaciones con efectos frente a terceros, es previsible que lleguen a los tribunales reclamaciones por los daños que causen sus fallos. Al resolverlas, los tribunales tendrán que valorar qué riesgos podía prever la empresa, qué controles tenía a su alcance y cómo actuó al detectar el incidente.
Conclusión
Cuando un agente de IA envía un expediente que solo debía resumir, la investigación empieza por una decisión anterior al incidente: qué permisos le concedió la empresa y con qué justificación. A partir de ahí, los registros deben permitir reconstruir qué ocurrió y valorar si la empresa actuó a tiempo para contener el daño. La capacidad de dar cuenta de esas decisiones se construye antes de poner el sistema en servicio, cuando todavía es posible limitar lo que el agente puede hacer y definir qué evidencias quedarán si algo falla.
