- Casi uno de cada dos españoles no identifica correctamente los fraudes creados con IA, una tecnología que puede utilizarse para difundir contenidos falsos e influir en los votantes
La inteligencia artificial no decide unas elecciones por sí sola, pero sí puede influir en el debate público y en la formación de la opinión de los votantes. Lo advierte ARAG, compañía de seguros de Defensa Jurídica, que señala la desinformación y los deepfakes como uno de los principales riesgos.
La dimensión del problema se hace patente cuando se comprueba que el 46% de los españoles no identifica correctamente fraudes basados en inteligencia artificial, como los vídeos hiperrealistas manipulados o las clonaciones de voz, según la Prueba Nacional de Privacidad de NordVPN. “En un contexto electoral, este tipo de contenidos puede aprovecharse para atribuir declaraciones falsas a candidatos, descontextualizar hechos o amplificar mensajes engañosos a gran escala”, explica Miriam Montero, abogada de ARAG. “Esto, unido a la microsegmentación política y a la difusión automatizada de mensajes, plantea nuevos retos para la integridad de los procesos electorales, ya que el voto debe ser libre, informado y exento de manipulaciones indebidas”.
De hecho, la Unión Europea considera de especial riesgo los sistemas de IA destinados a influir en procesos electorales. Por ese y otros motivos, se aprobó la Ley de IA (AI Act) y otras normas relacionadas con la publicidad política y los servicios digitales para proteger la integridad democrática. “La preocupación del legislador europeo es que la IA pueda utilizarse para facilitar una influencia masiva y personalizada sobre los votantes, especialmente mediante desinformación, manipulación psicológica o segmentación extremadamente precisa”, indica Montero. “Y es que la ciudadanía tiene derecho a formar su opinión política libremente, sin manipulaciones encubiertas”.
Siete señales para no caer en el engaño
“La mejor defensa frente a un contenido electoral manipulado sigue siendo detenerse antes de compartir”, explica Miriam Montero, que da siete consejos para no caer en engaños generados por IA:
1. Comprobar si el contenido procede de una cuenta oficial, una administración pública o un medio reconocido.
2. Contrastar la información en varias fuentes independientes.
3. Observar posibles fallos: movimientos faciales extraños, sincronización labial imperfecta, voces artificiales o detalles visuales incoherentes.
4. Revisar la fecha y el contexto original del vídeo, audio o imagen.
5. Utilizar búsquedas inversas de imágenes y servicios de verificación.
6. No compartir contenidos dudosos, especialmente si buscan provocar una reacción inmediata.
7. Buscar avisos que identifiquen el contenido como generado o alterado mediante IA.
Cómo actuar si detecto contenido falso
Si detectamos contenido manipulado, la abogada de ARAG recomienda denunciar primero en la propia plataforma donde lo hayamos visto. “Si crees que puede vulnerar la normativa electoral, también puede ponerse en conocimiento de la Junta Electoral”. Además, está disponible la línea 017 de INCIBE, que, si bien es una línea de ayuda en ciberseguridad para recibir orientación ante fraudes digitales, también nos puede orientar en campañas de desinformación.
“Conviene guardar capturas de pantalla, conservar la dirección original del contenido, anotar la fecha y la hora de publicación y, cuando sea posible, descargar una copia sin volver a difundirla”. Miriam Montero advierte que estas evidencias pueden resultar esenciales para acreditar lo sucedido.
