Javier Fernández-Lasquetty
La Agencia Española de Protección de Datos (AEPD), la Autoridad Catalana de Protección de Datos (APDCAT) y el Ilustre Colegio de la Abogacía de Barcelona (ICAB) —a través de su Sección de Derecho Digital e Inteligencia Artificial— organizan una nueva edición de los “Diálogos del Día de la Privacidad”, una jornada de referencia para el análisis de los principales desafíos actuales y futuros en materia de privacidad y protección de datos para conmemorar el Dia Internacional de la Protección de Datos.
La jornada se iniciará con la presentación institucional a cargo de Lorenzo Cotino, presidente de la AEPD; Meritxell Borràs, directora de la APDCAT; Cristina Vallejo, decana del ICAB; Alexander Salvador, diputado de la Junta de Gobierno del ICAB, y Júlia Bacaria, presidenta de la Sección de Derecho Digital e IA del ICAB.
El programa incluye cuatro mesas redondas temáticas. La primera, dedicada a la ciberseguridad, las brechas y la protección de datos, contará con la participación de representantes de la AEPD, del mundo académico y de la Agencia de Ciberseguridad de Cataluña. A continuación, la segunda mesa abordará los retos de la protección de datos y la inteligencia artificial.
Por su parte, la tercera sobre la nuevas normativas y las oportunidades profesionales y la curta abordará el debate sobre la necesidad de avanzar hacia un estatuto de los profesionales de la privacidad, con la participación de representantes de organizaciones profesionales como son ISMS Forum, APEP+IA y ENATIC y expertos del sector.
La AEPD encima de la IA
Al mismo tiempo la AEPD ha difundido un decálogo ‘Cuidado con lo que le confIAs’, que tiene como objetivo ofrecer claves a la ciudadanía para promover un uso seguro, responsable y consciente de la inteligencia artificial y fomentar un entorno digital respetuoso con los derechos fundamentales de las personas. La publicación de este documento coincide con la próxima celebración del Día Internacional de la Protección de Datos.
Casi el 63% de la población española considera que la inteligencia artificial experimentará un desarrollo muy importante en los próximos diez años, según una encuesta publicada el pasado diciembre por el Centro de Investigaciones Sociológicas (CIS). La Agencia es consciente del potencial de la IA y el creciente uso que de ella hace la ciudadanía, por lo que considera importante trasladar un conjunto de consejos para conocer y poder prevenir los riesgos para la privacidad de las personas de un uso inadecuado de la misma.
Entre las recomendaciones, la Agencia aconseja no compartir con la IA datos personales nombre completo, dirección, número de teléfono, DNI/NIE, imágenes de personas- ni información delicada o sensible -detalles médicos, financieros o contractuales, geolocalización o estancias en determinados lugares- e insta a describir un caso ficticio para evitar aportar detalles que permitan la identificación con fines indeseados.
Asimismo, recuerda que nunca deben utilizarse imágenes en las que aparezcan otras personas para generar nuevo contenido a partir de ellas, especialmente si se trata de personas menores de edad. Estas prácticas podrían derivar en una infracción de protección de datos e incluso, en un delito. En esta línea, la AEPD ya ha alertado de los riesgos visibles e invisibles del uso de imágenes de terceros en sistemas de inteligencia artificial, incluso en contextos aparentemente triviales o lúdicos.
En el ámbito laboral, la Agencia destaca la importancia de seguir las políticas de información y seguridad de cada organización y, en particular, de no incluir información que revele datos confidenciales de la entidad, ni de su personal o clientes.
Por otra parte, recuerda que la inteligencia artificial puede aparentar que entiende lo que se describe, pero realmente no lo comprende ni empatiza con la situación personal. Por ello, si se necesita asesoramiento profesional especializado, emocional o psicológico, la AEPD recomienda a acudir a un profesional cualificado.
Además, la Agencia insta a mantener una postura crítica ante las respuestas o consejos que pueda ofrecer la IA, por convincentes que puedan parecer, y destaca que es responsabilidad de cada persona contrastar en otras fuentes la veracidad de la información proporcionada.
Daniel Lopez cree que es bueno que la AEPD recuerde que hay que hacer un uso prudente de la IA (ECIJA)
Gestionar la IA es crítico
Daniel Lopez, es socio de ECIJA y copresidente del Capítulo de Madrid de la Asociación Internacional de Profesionales de la Privacidad (IAPP); una entidad que hace unos días organizó junto con DENAE, ISACA y la sección tic del ICAM el II Encuentro Digital donde Lorenzo Cotino, presidente de la AEPD, hablo de la relación de la IA con la protección de datos y ya indicó la importancia de la IA para los responsables de privacidad. “En este decálogo que publica la AEPD se vuelven a incidir en estos temas. Es evidente que el impacto de la IA en las organizaciones en particular y en la sociedad en general es una de las preocupaciones de la AEPD”. El cambio con la IA es muy fuerte con una norma el RIA que hay que interiorizar bien”.
En su opinión “hay que recordar la entrada progresiva del RIA que tiene varios plazas de entrada en vigor. Lo importante es el grado de afectación de esta tecnología disruptiva por las empresas y personas. Creo que es uno de los temas mas relevantes en materia de privacidad, de ahí que la AEPD en vísperas del Dia Internacional de la Protección de Datos se haya volcado en ello y difundido este decálogo. Sobre su uso hay que evitar emplear la tecnología con información real de las propias personas y de terceros. La IA puede acabar tener un perfil de nosotros Y luego supervisar los resultados que genere nuestra búsqueda tanto a nivel empresarial como en nuestro uso personal”.
Desde su punto de vista uno de los temas que tendrá que abordar el legislador es el uso de la IA por parte de los menores y definir una edad a partir de la cual se pueda autorizar ese uso con la supervisión de algún adulto “el papel de familias y colegios es clave porque hay un riesgo real en ese uso de estas herramientas”. Respecto a las sanciones parece que habrá una parte que gestione AESIA, supervisor de IA y otra más relacionada con los tratamientos de datos personales de la propia AEPD. Luego es posible que aparezcan otras autoridades. Para temas regulatorios financieros tendrá su hueco el Banco de España, depende del tema intervendrá un regulador u otro”.
Maria Vidal considera que hay que evitar entrenar las herramientas de IA con información nuestra o de clientes (finReg 360)
IA y la información esencial
Para Maria Vidal, socio de protección de datos en la boutique financiera finReg360, es lógico que la AEPD hace estas recomendaciones sobre el uso de la IA, “te completa mucho y es una herramienta muy útil pero hay que revisar la información que nos proporciona porque puede tener errores. Al mismo tiempo en los modelos abiertos se suelen utilizar datos personales o de clientes, algo que no es recomendable por la AEPD. Es mejor no entrenar los modelos con esos datos personales. Creo que el llamamiento que hacen es bastante oportuno”.
Nuestra interlocutora reconoce que la AEPD tiene capacidad sancionadora en el tratamiento de datos relacionados con la iA por encima de la AESIA, según indica el Reglamento de IA, otra cosa es que pueda haber. Desde este despacho se hace el asesoramiento en materia de IA desde dos puntos de vista, el análisis de la IA desde el RIA y el análisis de protección de datos siguiendo el RGPD. Esos análisis dobles conjuntos se están llevando a cabo. Generalmente en los Comités de IA donde está el DPO metido, el responsable de las herramientas lo eligen las empresas y el DPO complementa su análisis”.
En opinión de esta jurista “ pese a que muchas empresas firman contratos con proveedores de IA modelo DPA que en principio restringen mucho el uso de esos datos personales. Es cierto que los datos están anonimizados pero después de anonimizar esa información la siguen utilizando con lo cual puede haber cierto riesgo inherente a ello. Eso pasa en las versiones Enterprise de esas aplicaciones, las versiones abiertas no hay restricciones del uso de esos datos y ahí puede haber un problema porque entrenan los modelos con cualquier tipo de información”.
Javier Fernandez-Lasquetty subraya que es importante mantener el espíritu critico: “No podemos creernos todo lo que nos diga la IA “ (Ramon y Cajal)
El uso masivo de la IA preocupa
Javier Fernández-Lasquetty, of counsel de Ramon y Cajal Abogados, responsable del área de propiedad intelectual e industrial de la firma, recuerda que la IA afecta horizontalmente a todo y a todos. “El decálogo de la AEPD tiene una vertiente personal y otra profesional del uso de esta herramienta tan disruptiva. El uso de la IA es masivo y es importante contar con unas pautas claras de su utilización, de ahí que este decálogo de la AEPD sea una gran idea porque muchas cuestiones de privacidad tienen que ver con la IA. Ahora no se busca información sino que se pregunta a los buscadores que han integrado elementos de iA para esa búsqueda”.
Para este jurista, “en el plano personal es fundamental supervisar los resultados de esa máquina que no son infalibles, también habla de la supervisión que hagan los menores de esas herramientas de IA en su entorno familiar y escolar. El punto siete lo deja claro que no debemos creer todo lo que diga la IA y hay que mantener una postura crítica. Como profesor del IE School que soy, es algo que digo a mis alumnos que no se pueden creer todo lo que dice la máquina y deben saber más que la propia herramienta, Y por supuesto poder comprobar lo que les dice la propia IA. Esto en un plano profesional es fundamental, No debemos perder nunca el espíritu crítico como seres humanos”.
Respecto al régimen sancionador, este jurista no cree que vaya a ver conflicto entre AEPD y AESIA, reguladores que coinciden en esta parcela de la IA. Creo que hay una buena colaboración entre ambos reguladores. Está pensada que haya una interacción entre estas entidades y eso creo que es un buen planteamiento porque ninguna sustituye a la otra. La capacidad sancionadora del Banco de España y la AEPD no se ve perjudicada por la irrupción de la AESIA. El propio Belda, antes en este regulador, ha recalado en el Banco de España, con capacidad sancionadora hacia las entidades financieras. No podemos dejar de decir que la IA, las herramientas y el marco normativo lo va a cambiar todo y tenemos que prepararnos para ello”.
