Manuel Hernández
Director y socio del Bufete Vilches Abogados
La inteligencia artificial permite hoy crear vídeos, fotografías y audios en los que una persona parece decir o hacer algo que nunca ha dicho o hecho. Son los deepfakes, contenidos que pueden resultar especialmente difíciles de distinguir de una imagen real.
¿Qué es un deepfake?
Un deepfake es un contenido audiovisual creado o manipulado mediante inteligencia artificial para hacer que parezca real algo que nunca ocurrió.
Por ejemplo, una fotografía de una persona con su rostro sobre el cuerpo de otra en un vídeo, modificar su voz para que parezca que está diciendo determinadas palabras o crear una grabación en la que parece participar en una situación en la que nunca estuvo.
El Instituto Nacional de Ciberseguridad (INCIBE) define los deepfakes como vídeos manipulados mediante herramientas de inteligencia artificial que pueden modificar, entre otros elementos, el rostro o la voz de una persona para hacer creer que realizó declaraciones o acciones que en realidad nunca tuvieron lugar.
El problema aparece cuando esta tecnología se utiliza para engañar, humillar, difamar, acosar, obtener dinero o perjudicar a otra persona.
Además, no es necesario que la víctima sea una persona famosa. Cualquier fotografía publicada en redes sociales puede convertirse en material de partida para crear un contenido falso.
¿Crear un deepfake es delito?
Esta es una de las principales dudas que nos hemos encontrado y la respuesta requiere una aclaración: no existe un delito general que castigue simplemente la creación de cualquier deepfake. Lo que puede ser delito es la conducta que se encuentra detrás de ese contenido y la finalidad con la que se crea o utiliza.
Por ejemplo, no tiene las mismas consecuencias un vídeo creado con fines claramente humorísticos y que deja evidente que es una ficción que otro en el que se utiliza la imagen de una persona para hacer creer que ha cometido un delito, mantener relaciones sexuales realizar determinadas declaraciones.
Por eso, para determinar si existe responsabilidad penal, hay que analizar cada caso: qué se ha creado, quién aparece, cómo se ha obtenido su imagen o su voz, con qué finalidad se ha realizado, si se ha difundido y qué consecuencias ha tenido.
La propia Agencia Española de Protección de Datos ha advertido de los riesgos que plantea el uso de imágenes de terceros en sistemas de inteligencia artificial, incluidos los contenidos íntimos y aquellos que afectan especialmente a menores y personas vulnerables.
¿Qué delitos pueden relacionarse con un deepfake?
Dependiendo de las circunstancias, un mismo deepfake puede estarlo con diferentes delitos. No existe, por tanto, una única respuesta aplicable a todos los casos.
Deepfakes que afectan a la intimidad
Uno de los supuestos más delicados aparece cuando se utiliza la imagen de una persona para crear contenido relacionado con su vida íntima o sexual.
El Código Penal protege la intimidad y castiga determinadas conductas relacionadas con el descubrimiento y revelación de secretos. El ar. 197 contempla, entre otras conductas, la utilización de medios técnicos para vulnerar la intimidad y la captación o reproducción de imágenes sin consentimiento en determinadas circunstancias.
Hay que tener en cuenta, además, que se puede utilizar una fotografía pública de la víctima y transformarla completamente. Esto hace que cada caso tenga que estudiarse de forma concreta, porque no siempre estaremos ante el mismo delito.
Una cuestión especialmente relevante es que el hecho de que una fotografía original estuviera publicada en Internet no significa que exista permiso para utilizarla para cualquier finalidad.
Deepfakes sexuales
Especialmente graves.
Consisten, por ejemplo, en utilizar el rostro de una persona para crear una imagen o vídeo sexual en el que realmente nunca participó.
Además del posible daño a la intimidad y a la propia imagen, pueden entrar en juego otras conductas delictivas cuando el contenido se utiliza para humillar, acosar, amenazar o coaccionar a la víctima.
La investigación jurídica reciente sobre este fenómeno también ha señalado que un deepfake sexual puede utilizarse para acosar a una persona cuando se emplea su imagen simulada para crear perfiles falsos, anuncios o contenidos destinados a humillarla o facilitar el contacto de terceros con ella.
Por eso, no debemos pensar que, al ser una imagen artificial y no una grabación real, deja de existir un problema legal. El daño puede ser perfectamente real aunque el vídeo sea falso.
Deepfakes utilizados para acosar
La legislación castiga determinadas conductas insistentes y reiteradas que alteren el normal desarrollo de la vida cotidiana de una persona, entre ellas establecer contacto por cualquier medio o utilizar indebidamente sus datos personales para provocar que otras personas contacten con ella.
La pena prevista puede llegar a dos años de prisión o multa, dependiendo de las circunstancias.
Imaginemos, por ejemplo, que alguien crea un vídeo sexual falso, lo acompaña del teléfono de la víctima y lo publica en una página o perfil para provocar que desconocidos contacten con ella. El deepfake sería en este caso una herramienta utilizada dentro de una conducta de acoso.
¿Qué ocurre si quien aparece en el vídeo es menor?
Estamos ante una situación todavía más grave.
El Código Penal contiene una protección específica frente a la pornografía infantil y castiga determinadas conductas relacionadas con la producción, distribución, difusión y posesión de este tipo de material.
Por eso, ante un contenido sexual falso en el que aparece un menor, no debe descargarse nunca, reenviarlo ni conservar copias innecesarias. La obligación es actuar rápidamente y acudir a las autoridades o solicitar asesoramiento jurídico.
Los deepfakes nos plantean un reto porque permiten fabricar situaciones que nunca han ocurrido y presentarlas como si fueran reales. La víctima tiene que demostrar que algo que parece una grabación auténtica nunca sucedió.
Sin embargo, que un contenido sea generado artificialmente no significa que carezca de consecuencias. Por eso, ante un deepfake que perjudica a una persona, hay que rápidamente: conservar las pruebas, solicitar la retirada del contenido, acudir a las autoridades cuando pueda existir un delito y valorar con un abogado las acciones legales que correspondan.
