- Esta experta, socia de TMT en Augusta Abogados y presidenta de la sección de derecho digital del ICAB, cree que la llegada de la IA va a cambiar de forma notable los despachos de abogados y las estructuras empresariales.
Júlia Bacaria es desde hace dos años socia del área de Tecnología, Medios y Telecomunicaciones (TMT) de Augusta Abogados. Esta profesional cuenta con más de 15 años de experiencia en el asesoramiento a empresas y entidades del sector público en derecho en entornos digitales.
Desde sus inicios profesionales su principal área de especialidad ha sido el derecho de protección de datos y la privacidad, así como la regulación de actividades personales, comerciales y profesionales en Internet, asesorando a clientes en la adecuación de ecommerce y otras plataformas digitales, así como en el ámbito de la ciberseguridad y en tecnologías basadas en la IA.
En paralelo ha desarrollado también una sólida práctica de asesoramiento en otras áreas del derecho como la protección de activos intangibles de propiedad intelectual y marcas o el asesoramiento en el ámbito audiovisual y multimedia.
En la actualidad es presidenta de la sección de Derecho Digital del ICAB. En esta entrevista nos ofrece las claves para un mejor uso de la IA en despachos y organizaciones.
¿Cómo está viendo la evolución de la IA en los despachos de abogados en estos momentos? ¿Cuál debe ser el papel de los abogados especializados en sus relaciones con los clientes?
En general estoy viendo una evolución muy rápida, pero también desordenada en muchos casos. Los despachos empiezan a ver que la IA no es solo un facilitador de respuestas rápidas y ya la están identificando como un apoyo importante en todos los procesos de trabajo de los abogados. Podríamos decir que nos permite trabajar más y mejor, en menos tiempo.
Ahora bien, el reto más importante esta en no quedarse en la superficie del uso de herramientas de IA, sino integrarlas en la cultura de los despachos y de nuestra profesión.
Sobre el papel de los abogados especializados ante los clientes es también un reto puesto que debemos apoyarles en el uso de la IA y a su vez ofrecerles un marco seguro de gobernanza de la IA que consolide su implantación con todas las garantías legales, éticas y de ciberseguridad.
¿Qué es mas complicado para un abogado, entender la tecnología que rodea a la IA o el marco normativo? ¿Este marco normativo debería simplificarse?
El marco normativo europeo que regula la IA es complejo, porque como en todos los ámbitos digitales – tecnológicos, no se trata solo de una norma, sino de varias, que conviven y que deben aplicarse de forma transversal. Por ello, aunque para un abogado entender de leyes no le genera dificultad alguna, en un contexto de regulación de tecnología, puede introducir un pequeño grado de complejidad.
Para entender cómo se regula la IA, se debe entender con cierto grado de profundidad, la tecnología, y tener respuesta para cuestiones como el proceso de entrenamiento, el origen o destino de los datos, la necesidad de intervención humana, los riesgos asociados al sistema y las obligaciones aplicables al caso.
La tecnología es compleja, por lo que las normas que la regulan también deben serlo. Simplificar excesivamente el marco normativo podría conducir a regulaciones demasiado generales que dificultarían su aplicación a una realidad tecnológicamente compleja.
Sin embargo, sí que ayudaría a las empresas disponer de guías y directrices prácticas, claras, sectoriales, que les sirvan de apoyo en el proceso de comprensión de estas normativas.
“La implementación de un sistema de gobernanza de la IA es el camino hacia una IA confiable y estratégica. Cada empresa debe adaptar estos procesos a su grado de madurez en el uso de la IA”
Abogados y jueces han impulsado protocolos de uso de la IA, con un régimen sancionador, ¿Cómo debe organizar una empresa su protocolo de uso interno de la IA?
Las empresas deben hacer una inmersión en la gobernanza de la IA, no sólo elaborar un documento formal interno. Si como empresa se toma la decisión de invertir en el uso o integración de sistemas de IA en los procesos corporativos, técnicos, operativos, la regulación de la IA debe estar también integrada en estos procesos.
La implementación de un sistema de gobernanza de la IA es el camino hacia una IA confiable y estratégica que pasa por identificar los sistemas a inventariar, clasificarlos en función del riesgo, definir los requisitos legales que aplican a cada caso en base a esta clasificación anterior, integrarlo con las obligaciones previstas en la normativa de protección de datos y también tener en cuenta las obligaciones con relación a la alfabetización y las políticas de uso aceptable.
Ahora bien, cada empresa debe adaptar estos procesos a su grado de madurez en el uso de la IA.
Esta experta, en calidad de presidenta de la sección de derecho digital del ICAB, participo en una jornada organizada por esta entidad y la AEPD recientemente. En la mesa Julia aparece acompañada de iza a derecha por Lorenzo Cotino Presidente de la Agencia Española de Protección de Datos (AEPD).Meritxell Borràs i Solé. Directora de la Autoridad Catalana de Protección de Datos (APDCAT) y Alexander Salvador Diputado de la Junta de Gobierno del Ilustre Colegio de la Abogacía de Barcelona (ICAB) Foto ICAB
En esos contactos que mantiene usted con empresas por el uso de las herramientas de IA ¿Qué cree que es lo más complicado de entender por parte de la empresa?
Actualmente se percibe un claro interés por parte de las empresas por conocer qué medidas deben adoptar para garantizar que el uso de la IA dentro de la organización o en la que se prevé invertir, cumple con la normativa aplicable. En mi experiencia, una de las principales dificultades para muchas empresas es entender el alcance del uso de una herramienta de IA.
Existe, a menudo, un desequilibrio entre la percepción de la IA como una herramienta para la mejora de la productividad y el conocimiento real sobre los riesgos asociados a su uso, especialmente en materia de protección de datos personales, uso de información confidencial, entrenamiento de modelos, obligaciones técnicas y documentales.
¿Hay tantos protocolos de uso de la IA, como empresas. ¿Cómo podemos saber si este que utilizamos es adecuado?
El mejor protocolo para una empresa es aquel que se ajusta a su realidad, a sus usos concretos de la IA y a su nivel de riesgo. Un documento extenso y complejo no es necesariamente una garantía de cumplimiento. Sabemos que la IA es una tecnología que evoluciona muy rápidamente, por lo que los protocolos deben ser documentos vivos y deben poder adaptarse a esta velocidad.
Para evaluar si el protocolo que se esta utilizando es el adecuado, prestaría atención a aspectos clave: que esté basado en un inventario y una clasificación previa de los sistemas, que prevea cuestiones relacionadas con el tratamiento de datos personales, que regule la supervisión humana, que defina responsabilidades y que prevea un programa de formación y actualizaciones periódicas. Este protocolo deberá mantenerse actualizado ante cambios en la organización, en el uso de la IA y en la normativa.
Se habla de los sesgos de los algoritmos ¿ Hay alguna forma de eliminarlos para que no afecte a nuestro trabajo?
Los sesgos en la IA son una realidad y también constituyen un riesgo que debe ser analizado para poder identificarlo, gestionarlo y reducirlo. Los procesos de gobernanza de la IA deben incluir una revisión de cómo la herramienta ha sido entrenada.
Los datos utilizados para el entrenamiento pueden mostrar desigualdades y errores que pueden condicionar el funcionamiento, respuesta y resultados que después nos va a proporcionar. Por ello, resulta clave exigir evidencias de los protocolos y garantías que se han adoptado en relación con los datos utilizados para controlar los sesgos.
“La IA agentica representa el siguiente paso en el uso de la IA. Ya no es solo generar respuestas sino ante sistemas que pueden realizar un trabajo más complejo, profundo, ejecutivo”
Algunas empresas desarrollan sistemas de atención al cliente con el uso de herramientas de IA ¿Qué consejos le daría para que esos chatbots sean útiles?
Desde la perspectiva jurídica, debemos procurar que un chatbot sea útil y también legítimo y seguro. Los chatbot con IA son un claro ejemplo de actividad empresarial en las que la inteligencia artificial se integra directamente en la prestación de un servicio y donde convergen diversas normativas aplicables.
Por ello, para que un chatbot de atención al cliente se pueda presentar al cliente con garantías se deberá haber analizado desde la perspectiva de los riesgos.
El sistema debe ofrecer al interesado información clara de que esta interactuando con una IA, delimitar el contenido y funcionamiento del mismo, garantizar la supervisión humana y ofrecer también garantías en el cumplimiento de las obligaciones de la normativa de protección de datos.
Otras definen productos de IA para terceros ¿ En qué campo pueden ser útiles y que elementos deben tenerse en cuenta para que cumplan la normativa vigente?
El desarrollo de productos de IA para terceros está previsto y regulado en la normativa sobre inteligencia artificial, que establece obligaciones tanto para los que la desarrolla como para quienes los adquieren.
Y estas obligaciones se centran en acreditar documental y técnicamente que el sistema ofrece todas las garantías adecuadas en relación con los datos utilizados, la gestión de riesgos, la ciberseguridad, la transparencia. Para las empresas, adquirir productos de IA ya desarrollados puede ser una oportunidad para mejorar sus procesos, ganar eficiencia y posicionarse en el mercado. Sin embargo, es imprescindible realizar un análisis previo del proveedor y de su producto.
Por último, se habla de IA Agentica, del uso de Agentes de IA ¿Cómo deben incorporarse estos elementos en una empresa para que realmente aporten valor a nuestra estrategia empresarial’
La IA agentica representa el siguiente paso en el uso de la IA. Aquí no estamos solo ante herramientas capaces de generar respuestas o ejecutar acciones simples, sino ante sistemas que pueden realizar un trabajo más complejo, profundo, ejecutivo.
Los agentes de IA pueden aportar mucho valor a la estrategia empresarial, pero para que ese valor se materialice correctamente y se obtengan los resultados deseados es clave hacer una integración gradual. Se podría decir que a un agente de IA también se debe entrenar o mejor dicho configurar, parametrizar, ajustarlo a unos objetivos, con sus reglas y sus límites, para que trabaje en los resultados esperados.
