La directora de la Autoridad Catalana de Protección de Datos (APDCAT), Meritxell Borràs i Solé, ha defendido este martes que, ante los riesgos de la IA agéntica, es necesaria una estrategia coordinada en materia de responsabilidad, gobernanza y transparencia. Durante la celebración del AI Congress Barcelona, ha advertido de que estos sistemas de IA son capaces de percibir, interpretar, interactuar y actuar de forma autónoma, así como de tomar decisiones que afectan a las personas.
Borràs ha señalado que los agentes de IA agéntica tratan datos personales de formas muy diversas: los consultan, los modifican y los intercambian. Los riesgos para los derechos de las personas derivados de su uso se amplifican y, del mismo modo, se refuerzan las responsabilidades y obligaciones de las organizaciones.
En este sentido, Borràs ha apuntado que la prevención y la precaución deben guiar las actuaciones que incorporen tecnologías disruptivas cuyo impacto en las personas todavía se desconoce. Por ello, ante el riesgo de perder el control sobre las propias acciones, ha afirmado que la responsabilidad proactiva de las organizaciones es hoy más necesaria que nunca para garantizar que la tecnología esté al servicio de las personas, y no al contrario.
Supervisión humana efectiva
Ha señalado que, en el ámbito de la IA, es necesario aplicar los principios de protección de datos desde el diseño y por defecto, incorporando desde el inicio todos los elementos necesarios para respetar los derechos fundamentales de las personas. También ha defendido la supervisión humana y ha recordado el derecho a no ser objeto de decisiones individuales automatizadas, ya reconocido en la normativa de protección de datos. En este sentido, ha destacado que las personas pueden solicitar una intervención humana efectiva y conocer la lógica que hay detrás de una determinada decisión automatizada.
En cuanto a la gobernanza de la IA, ha considerado imprescindible que los equipos de diseño y desarrollo de sistemas de IA cuenten con un experto en protección de datos y derechos fundamentales, que pueda evaluar la legitimidad y los riesgos asociados a cada proceso.
Por último, ha recordado la necesidad de evaluar los impactos de los sistemas en la protección de datos y los derechos fundamentales, y ha puesto en valor el modelo FRIA catalán, impulsado por la APDCAT, pionero en Europa y exportado a otros países del mundo.
El AI Congress, que se celebra del 20 al 22 de octubre en Barcelona, es un evento del Centre of Innovation for Data tech and Artificial Intelligence (CIDAI), coordinado por Eurecat, en el marco de la Estrategia de inteligencia artificial de Cataluña impulsada por la Generalitat de Catalunya.