Según se ha podido saber este medio la Agencia Española de Protección de Datos ha recibido la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial que utilizó un conocido modelo de lenguaje.
El agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos, y realizó un login correcto. Una vez accedió al sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas.
Con carácter previo a ningún tipo de conclusión, hay que señalar que la información disponible procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis. Asimismo, la utilización de un concreto modelo de IA tampoco implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas.
Ahora bien, lo relevante desde la perspectiva de la protección de datos es que un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque.
Esta primera notificación no permite afirmar una tendencia estadística, aunque sí constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales.
Según explica Francisco Perez Bes, adjunto a la presidencia de la AEPD, en la web del regulador, la llegada de los agentes de IA al ámbito ofensivo debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos
En su opinión, responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor, pero en el que continuarán siendo decisivos los mismos fundamentos: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder
Hay que blindarse ante la IA
 |
||
| José Leandro Núñez : “ La evolución reciente de los ataques obliga, en todo caso, a incorporar ya la IA entre los factores que deben tenerse en cuenta al analizar este tipo de incidentes”. | ||
José Leandro Núñez, socio de Audens y secretario general de ENATIC, cree que a esta brecha notificada, proveniente de un agente de IA, le vendrán otras en los próximos días. En su opinión. “los agentes de IA permiten ya no solo automatizar tareas, como ya permitían los bots, sino sobre todo adaptar los ataques en tiempo real. Con un bot lanzas un sistema automático contra una red y va haciendo pruebas según lo que tú le programas, pero un agente de IA lo puede modificar en tiempo real la forma en la que se comporta para tratar de lograr su objetivo. Esto es mucho más difícil de detectar que un bot convencional, que sigue patrones más previsibles”.
Sobre la notificación de este tipo de brechas, se sigue el procedimiento habitual de hacerlo en 72 horas “porque el uso de la IA no afecta a las obligaciones de notificación. La IA es una herramienta nueva de la que se valen los atacantes de siempre para tratar de conseguir sus objetivos. Pero no deja de ser una herramienta. El objetivo sigue siendo el mismo, que es atacar el sistema”.
En esta ocasión por los datos proporcionados por la AEPD, este experto revela que por lo que parece, el que usó la IA no se preocupó de ocultar que estaba usándola.. “Al parecer, se detectó claramente que detrás del ataque había un agente de inteligencia artificial. Es llamativo, porque los atacantes tienden a tratar de ocultar ese tipo de automatización, haciéndose pasar por un usuario convencional”.
Desde su punto de vista, “Estoy convencido de que muchas de las brechas de seguridad que han comunicado a la Agencia en los últimos meses también tenían a la IA como protagonista. O bien los atacantes ocultaron su uso y, por tanto, los responsables del tratamiento no se enteraron y simplemente notificaron una brecha convencional, o bien, los responsables del tratamiento no tenían medios para distinguir un ataque convencional de uno hecho por IA. La evolución reciente de los ataques obliga, en todo caso, a incorporar ya la IA entre los factores que deben tenerse en cuenta al analizar este tipo de incidentes”.
En cuanto a cómo actúa la AEPD en este tipo de situaciones, nuestro interlocutor revela que el responsable del tratamiento, una vez que detecta una brecha, tiene que hacer varias cosas. Primero tiene que determinar si se han visto afectados datos personales y valorar si lo ocurrido puede producir algún riesgo para los derechos y libertades de las personas. Y si es así, lo tiene que notificar a la Agencia Española de Protección de Datos. “Pero claro, la prioridad debe ser contener la brecha mitigar sus efectos y poner fin al ataque”.
Respecto a la actividad de la AEPD, “y ya no solo la agencia, sino también de otros organismos a los que también se, puede notificar, a veces obligatoriamente u otras de forma voluntaria, como por ejemplo INCIBE”, destaca que “las notificaciones les permiten conocer cómo están evolucionando los ataques y detectar nuevos patrones. Esa información sirve después para proponer nuevas medidas, actualizar sus guías y trasladar nuevas medidas de prevención a las empresas”.
En su opinión, “se trata de que los responsables del tratamiento y las empresas que, que tratan información, puedan estar mejor protegidos en el futuro siguiendo esas recomendaciones. Esa información también es útil para que las empresas de software corrijan vulnerabilidades. Ahí está precisamente una de las principales utilidades de la obligación de notificar: permitir que la información sobre los incidentes contribuya a prevenir otros similares. El porcentaje de notificaciones que acaban en procedimiento sancionador es muy, muy bajo: no alcanza el uno por ciento.[JNo1.1] Notificar una brecha no significa, ni mucho menos, que vaya a imponerse una sanción”.
Comunicación obligatoria a la AEPD
En este sentido este experto recuerda la necesidad de comunicar a la AEPD estos incidentes. “De hecho, si posteriormente se descubre una brecha que debía haberse notificado y no se hizo, es muchísimo más grave.. La tendencia de la Agencia es abrir un procedimiento sancionador cuando aprecia que la empresa incumple de forma muy relevante sus obligaciones, y ya te digo que no es lo habitual”..
Como reflexión final, este jurista indica que “las empresas tienen que tener en cuenta que este riesgo existe y, por tanto, tomar medidas específicas frente al uso de la IA en este tipo de ataques . Medidas que por lo que nos cuentan los expertos en ciberseguridad, van por la vía de la confianza cero, lo que ellos llaman «zero trust». Esto implica partir de que ninguna petición o acceso debe considerarse legítimo de forma automática, y establecer controles que verifiquen continuamente quién solicita acceso, a qué recursos y en qué condiciones. De esta forma se refuerza mucho más la seguridad interna de las organizaciones, precisamente porque se sabe que esto está ocurriendo y que el potencial de ataque de estas herramientas es infinito”.
En este contexto nos aclara que en algunas situaciones “el riesgo ya no consiste únicamente en que un atacante utilice IA contra la organización, sino también en que trate de interactuar con los propios sistemas o agentes de IA de la empresa para inducirles a ejecutar acciones sin autorización. Eso hace que las empresas tengan que reforzar sus controles internos, para reducir la exposición. Ahora la pregunta no es si te van a entrar o no, la cuestión es asumir que el intento de intrusión va a producirse y diseñar los sistemas para limitar al máximo qué puede conseguir un atacante si logra acceder”.
Luces y sombras de la IA
 |
||
| Xavier Ribas: “La consecuencia práctica es que debemos prepararnos tanto para corregir lo conocido como para detectar comportamientos anómalos y contener ataques cuya técnica todavía no reconocemos”. | ||
Para Xavier Ribas, soco director de Ribas Legal, la principal novedad de la inteligencia artificial es que reduce los costes del ciberataque, ya que permite realizar más intentos, analizar más información y adaptar las acciones con menos intervención humana. Esto obliga a revisar el tiempo de reacción de las organizaciones. Una medida de seguridad puede resultar insuficiente si la empresa tarda días en detectar un ataque que avanza en minutos.
“Desde el punto de vista jurídico, conviene recordar que el Tribunal Supremo, en su sentencia de 15 de febrero de 2022, señaló que la obligación de adoptar medidas de seguridad para proteger los datos personales es una obligación de medios y no de resultado. Sufrir una brecha no demuestra, por sí solo, que se haya incumplido esa obligación. Ahora bien, hay que adoptar medidas adecuadas, aplicarlas con diligencia y mantenerlas actualizadas. En mi opinión, la extensión de los ataques apoyados en IA obliga a revisar qué medidas pueden considerarse razonablemente suficientes, ya que lo que era adecuado hace unos años puede dejar de serlo”, indica
A su juicio, “la IA también puede facilitar el descubrimiento y la explotación de vulnerabilidades desconocidas, incluidas las de día cero. Podría decirse que la mayoría de los ataques realizados con IA serán de día cero porque explotarán vulnerabilidades desconocidas o no documentadas. Pero sería incorrecto identificar cualquier ataque realizado con IA con esta categoría, ya que muchos seguirán aprovechando fallos conocidos, credenciales robadas o configuraciones deficientes. La consecuencia práctica es que debemos prepararnos tanto para corregir lo conocido como para detectar comportamientos anómalos y contener ataques cuya técnica todavía no reconocemos”.
Para este experto, “un ataque de día cero debería implicar una exoneración de responsabilidad, pero no automática. Aunque una vulnerabilidad concreta sea desconocida, habrá que examinar si existían medidas razonables para limitar el acceso a los datos, detectar su extracción o reducir el alcance del incidente. La diligencia debe valorarse atendiendo a lo que podía exigirse antes del ataque, evitando juzgar a la organización como si entonces conociera lo que solo se ha descubierto después”
Desde su punto de vista, “la computación cuántica plantea un riesgo distinto. Si llega a disponer de capacidad suficiente, podrá comprometer algunos de los sistemas de clave pública que hoy sostienen nuestras comunicaciones y firmas digitales. No sabemos con certeza cuándo ocurrirá, pero existe un riesgo que obliga a anticiparse, porque hoy ya se está capturando información cifrada para descifrarla en el futuro. Esto resulta especialmente relevante para datos cuya confidencialidad debe mantenerse durante muchos años”
“Por eso, la seguridad poscuántica debe entrar ya en la planificación de las organizaciones. Hay que identificar qué criptografía utilizan, qué información necesita protección a largo plazo y qué capacidad tienen sus proveedores para migrar a algoritmos resistentes a ataques cuánticos y de IA. Ya existen estándares para iniciar esa transición. La diligencia en seguridad incluirá cada vez más la capacidad de actualizar las defensas antes de que su obsolescencia exponga los datos y en reducir los plazos de conservación de los datos más sensibles”, resalta Ribas