- Esta letrada, especialista en propiedad intelectual y entorno digital, socia de AUDENS, se convierte en el nuevo miembro del Consejo Asesor de Inteligencia Artificial del CGAE
El CGAE refuerza su Consejo Asesor sobre Innovación y Abogacía (CAIA9 con la incorporación de Maitane Valdecantos (@maivaldeflores), especialista en derecho digital, propiedad intelectual e inteligencia artificial, esta abogada y economista, socia de @Audens, aportará su experiencia al análisis de los retos de la transformación tecnológica en la profesión jurídica.
Maitane sustituye a Concepción Campos, nueva presidenta del Consejo de transparencia y Buen Gobierno, en el CAIA, del que forman parte otros ilustres juristas. A esta jurista no le viene de nuevas esta iniciativa porque su colaboración con el CGAE es estrecha en distintos proyectos tecnológicos como es el Libro Blanco de la Abogacia sobre el IA y además en varios proyectos europeos, en los que precisamente hablaba de las acciones que se estaban llevando a cabo por parte del Consejo General de la Abogacía y del Consejo General del Poder Judicial para hacer frente a la irrupción de la IA y las nuevas tecnologías.
“También fui formadora dentro del programa UPRO en competencias digitales aquí en Vizcaya, por lo que conocía bastante bien lo que se estaba haciendo a nivel interno y estoy encantada de sumarme a este trabajo en un Comité con perfiles tan diversos. He tenido la oportunidad de trabajar en grupos multidisciplinares, como la Comisión de Supervisión de la SGAE, donde éramos perfiles muy diversos (economistas, autores, etc.). Creo que en ese tipo de trabajos colectivos la suma es mucho más que la suma individual. Ya hemos tenido las primeras reuniones y en breve anunciaremos un nuevo evento presencial”.
Desde su punto de vista el momento que se vive es peculiar, entre los que abrazan la IA y otros que muestran sus temores de sus riesgos “Al principio cuando la IA llegó a nuestras vidas, gran parte de la sociedad la veía solo como una herramienta maravillosa, sin ser consciente de los riesgos que conlleva. El Reglamento Europeo de Inteligencia Artificial es una prueba de ello por la rapidez con la que se aprobó. Cuando se hablaba de sus riesgos , se nos tachaba de catastrofistas. Yo trabajo asesorando a un montón de empresas tecnológicas; nunca he sido detractora de la tecnología, pero sí soy realista”.
Maitane en un debate sobe el Libro Blanco de la IA. De izda. a dcha: Carlota Cuatrecasas, Alfredo Sánchez-Rubio, Paloma Santiago, Maitane y Eugenio Mallol. (Imagen Abogacia española)
En su opinión, “tenemos que ser capaces de regular la inteligencia artificial para aprovechar sus bondades y, a la vez, construir un mundo estable y seguro para las personas, que promueva la seguridad nacional e internacional y vele por la salud en el uso de la IA, que es el enfoque de la Unión Europea. Fui nombrada tutora del grupo internacional del Consejo de Europa para el curso HELP, y desde el Consejo de Europa se aboga por poner el foco en los derechos humanos y construir sociedades para las personas y con las personas”.
A su juicio, es fundamental apostar por la capacitación formativa. No podemos prever las consecuencias del uso que le dará la sociedad si no la capacitamos previamente. “Esa capacitación va mucho más allá de la alfabetización digital contemplada en el Reglamento de IA; tiene que ver con que la sociedad conozca tanto sus virtudes como sus riesgos inherentes para usarla de forma técnicamente viable y legalmente segura.. La única forma de usar una tecnología correctamente es conocer su impacto”.
Se usa poco la IA
Le recordamos a Maite Valdecantos el informe de UGT en las relaciones laborales sobre el impacto de la IA donde se indica que se habla mucho pero se utiliza muy poco todavía. Sobre esta cuestión incide en dos cuestiones “En primer lugar no se está implementando de forma continua en los sectores empresariales. y en segundo , que las empresas no saben que sus trabajadores sí la están utilizando, y ese es un problema doble. Las empresas, haciendo un buen análisis de riesgos y cumpliendo la normativa, deben prever políticas internas sobre cómo y para qué se utiliza la IA, capacitando a sus trabajadores”.
Respecto al debate sobre quién debe gestionar la IA, el RIA deja abierto esa cuestión y hay corrientes que señalan al DPO para que se ocupe de ello. “Tuvimos el mismo debate cuando se aprobó el RGPD sobre qué perfil debía tener el DPO. Al final todo se ha ido asentando. Respecto a cómo gestionarlo, la mejor fórmula que hemos encontrado en algunas empresas es crear un Comité de Inteligencia Artificial en el que estén necesariamente Dirección, IT, Compliance, Protección de Datos y la figura relativa al delegado de IA que probablemente se cree en el futuro”.
A su juicio un DPO ya tiene suficiente trabajo. Si no hay un equipo amplio de protección de datos, cargar al DPO con esto puede llevar a un trabajo inasumible y a una mala ejecución. “De hecho, un informe reciente sobre el conocimiento de los DPO respecto a la normativa de IA mostraba un porcentaje bastante bajo de profesionales que declaraban tener conocimientos suficientes en materia de IA. Si queremos que sea esa figura, debemos dotarla de formación y de recursos temporales y económicos. Otra opción es directamente externalizarlo y contratar servicios profesionales especializados”.
Maitane compareció ante la Comisión de Ciencia, Innovación y Universidades del Senado, para hablar de diversidad lingüística, propiedad intelectual e inteligencia artificial (Imagen Senado)
La IA en los despachos
En cuanto al uso de la IA por parte de la Abogacia, para esta jurista las directrices de su uso aparecen en el Libro Blanco de la IA, publicación en la que ha participado en su redacción “. El Libro Blanco busca ser una hoja de ruta para que la profesión jurídica tenga un primer acercamiento a las herramientas que pueden beneficiarle en el ejercicio profesional y comprenda el impacto jurídico de aceptar la IA dentro de los despachos. La abogacía no puede estar al margen de la tecnología ni desconocer lo que implica su uso. El Libro Blanco, junto con la circular sobre el uso de IA generativa del CGAE, pone el foco en esto”.
Maitane destaca que la IA más utilizada en los despachos hoy es la generativa, no tanto la predictiva u otros sistemas de análisis de datos. Y como vemos en diversas resoluciones, se está utilizando en muchos casos de manera incorrecta y vulneradora de los derechos de los justiciables. “Los abogados hemos pasado por un grado, máster, examen de acceso y colegiación; no podemos dejar todo ese conocimiento humano para validar a ciegas lo que devuelve una tecnología que comete errores, alucinaciones y carece de contexto o estrategia”, advierte
A su juicio ese es el gran error “desde sanciones del Tribunal Constitucional a letrados hasta juzgados que abren piezas separadas por mala fe procesal, además de expedientes deontológicos en los colegios de abogados. Adicionalmente, una sentencia que señale el uso negligente de IA llegará al cliente, sirviéndole de prueba para reclamar responsabilidad civil. Un error por desconocimiento o falta de tiempo puede destruir la reputación ante los tribunales y los clientes”.
En este contexto recuerda que “la IA es una herramienta brutalmente útil, como lo fueron en su día las bases de datos jurídicas digitales, pero los principios éticos del ejercicio profesional se mantienen intactos y la responsabilidad siempre es del abogado, no del proveedor de IA. Por eso es fundamental capacitar a las plantillas a nivel formativo y tomarnos su uso en serio. Debemos ser conscientes de para qué sirve la IA y usarla para prestar un mejor servicio, no uno peor”
Desde su punto de vista que los abogados asuman competencias digitales como las contempladas en el programa UPRO lo que les va a ayudar al uso de las herramientas de IA y a entender la transformación digital que se avecina “E. Cuando he explicado en otros países de la Unión Europea iniciativas como UPRO, el Libro Blanco, las circulares del CGAE o la instrucción del CGPJ, se sorprendían gratamente. Por una vez, el sector jurídico español ha respondido rápido para evitar que los profesionales se equivoquen por desconocimiento. Formar en tecnología permite conocer sus riesgos y es el punto de partida para usar correctamente no solo la IA, sino también el Big Data o el Blockchain.
En este entorno parece, por tanto que el concepto habitual de abogado digital va a evolucionar en los próximos años. Para Maitane no es descartable que en el futuro existan abogados especializados en asuntos relacionados con la IA, casi de forma exclusiva . Sin embargo, la IA es transversal. El Reglamento de IA es solo una de las normas aplicables; difícilmente se podrá prestar un buen servicio en IA si no se domina a la vez servicios digitales, mercados digitales, protección de datos, propiedad intelectual o responsabilidad civil por productos defectuosos. “Tener una visión de campo general da la mejor estrategia. Por eso, el concepto global de derecho digital sigue reuniendo lo necesario para asesorar a empresas que desplieguen o comercialicen IA en el mercado europeo”, indica.
Esta jurista en el Congreso de Mujeres Creadoras de la Cultura de Bizkaia donde fue ponente recientemente (Imagen del evento)
Falta normativa nacional
Otra cuestión que abordamos en esta conversación es que con el adelanto electoral han decaído varios proyectos de ley nacionales relacionados con la IA y normas como la transposición de la Directiva NIS2. En esta situación esta experta recuerda que no hay que relajarse “Aunque el adelanto electoral ralentice las normativas nacionales, tenemos reglamentos europeos plenamente aplicables. En el Reglamento de IA, agosto fue un momento clave. Hay confusión con la obligación de transparencia por las noticias sobre la propuesta de Ómnibus Digital que posponía ciertos aspectos; algunas empresas han creído que se posponía todo, cuando en realidad la prórroga afectaba solo al etiquetado de modelos de uso general. El resto de obligaciones de transparencia del artículo 50 está en aplicación desde agosto”.
Al mismo tiempo subraya que “llevamos dos años desde la entrada en vigor del Reglamento de IA y muchas obligaciones ya se aplican. El año pasado comparecí en el Senado en las Comisiones de Cultura y de Ciencia e Innovación para abordar la futura reforma de la propiedad intelectual, y este año se aprobó el informe JURI en el Parlamento Europeo. Además, las guías y directrices de la Comisión, del Supervisor Europeo de Protección de Datos y de la Oficina Europea de IA (AI Office) ofrecen contenido interpretativo provisional mientras el TJUE se pronuncia. Tenemos instrumentos suficientes para seguir trabajando e implementando las normas de forma segura”.
El auge de la Ia ha generado un gran debate en materia de derechos de autor, con distintos pleitos entre creadores y empresas que desarrollan estas herramientas de IA “Resoluciones judiciales definitivas de las que tenga conocimiento, no; quizá alguna en juzgados de lo mercantil de primera instancia que aún no ha trascendido. Sí se conocen resoluciones en otros países de la UE sobre la aplicabilidad del límite de minería de textos y datos para entrenar IA y sobre la protección de los outputs generativos”.
Sobre este asunto subraya que a día de hoy solo se protegen las obras creadas por personas naturales o físicas. Por tanto, un output automatizado de IA no tiene reconocidos derechos de autoría. El debate se traslada a los casos donde la IA se usa como herramienta dentro de un proceso creativo humano, evaluando cuánto "grado de humanidad" se requiere para proteger la obra”.
En su opinión. el tema de la minería de textos y datos es el más debatido. Hasta que haya una reforma normativa o una resolución del TJUE, algunos invocan el límite de minería de datos y otros lo rechazamos. “En mis comparecencias en el Senado defendí que dicho límite no aplica al entrenamiento de IA por no cumplir la regla de los tres pasos”, recuerda.
Por el momento nos indica que las resoluciones europeas parece que se inclinan por compensar a los creadores. “La balanza se va inclinando hacia exigir autorización previa, transparencia y remuneración justa. La sentencia Laion en su día consideró aplicable la excepción de minería de datos por tratarse de un entrenamiento con fines aparentes de investigación, pero la tendencia actual rechaza que aplique la excepción tal y como se está realizando el entrenamiento comercial”.
Esta jurista recuerda que como dije en el Senado y como recoge el informe Voss del Parlamento Europeo, “los tres pilares deben ser: autorización previa (sin asumir consentimiento por falta de oposición), transparencia y remuneración para los titulares de las obras utilizadas. Al mismo tiempo la ley de propiedad intelectual exige una autorización expresa y por escrito para ceder los derechos. Si se toma la obra de un tercero para entrenar un modelo que luego competirá o sustituirá esa misma labor, no se está cumpliendo con las garantías legales”.
