Jorge Navarro Massip es abogado penalista y Vicedecano del ICAB.
“Si no creemos en la libertad de expresión para la gente que despreciamos, no creemos en ella en absoluto”. (Noam Chomsky)
La Huella del Odio y la Polarización (HODIO) es una herramienta desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español contra el Racismo y la Xenofobia (OBERAXE).
Nadie duda del incremento de la violencia verbal y de radicalización ideológica, por lo que este observatorio tiene un fin loable, analizar la presencia de discurso de odio y polarización en las principales redes sociales utilizadas en España (Instagram, TikTok, X, YouTube…). Hay excesos indeseables que superan las normas de convivencia.
Cada mes, OBERAXE analiza decenas de miles de mensajes de "odio" en las principales redes sociales. Consecuencia de estas alertas de OBERAXE, la Ley de Servicios Digitales (DSA) permite a las grandes plataformas retirar contenidos en cuestión de horas.
La herramienta de Inteligencia Artificial (IA) que se utiliza se denomina FARO (Filtrado y Análisis de Odio en las Redes Sociales), un sistema que aplica la inteligencia artificial entrenada con el Monitor para la Observación del Odio en el Deporte (MOOD) de LALIGA que clasifica tuits, publicaciones y vídeos en categorías como "deshumanización" (57% de los casos en febrero de 2026) o "amenaza" (26%). El discurso oficial celebra estos números como una victoria. Pero detrás de esta maquinaria tecnológica surge una duda inquietante que los juristas no podemos ignorar: ¿Sacrificamos la libertad de expresión frente a una supuesta corrección política o ética gestionada desde el Gobierno?
La libertad de expresión es incómoda. El efecto desaliento.
Desde hace décadas, el Tribunal Europeo de Derechos Humanos tiene establecido que la libertad de expresión no solo comprende las "informaciones" o "ideas" acogidas favorablemente o consideradas como inofensivas o indiferentes, sino también aquellas que chocan, ofenden o inquietan; así lo requiere el pluralismo, la tolerancia y el espíritu de apertura sin los cuales no existe una "sociedad democrática". Esta es la grandeza de la democracia, y de la libertad de expresión, respetar al discrepante y permitir que se exprese.
La libertad de expresión tiene un papel preferente en nuestro ordenamiento jurídico y permite tolerar excesos, a fin de evitar el riesgo del denominado efecto desaliento. El efecto desaliento se entiende como el resultado disuasorio por la existencia de una reacción estatal frente a una conducta que pueda desagradar o sea transgresora. La consecuencia es que los ciudadanos dejan de opinar, criticar, discrepar, protestar o expresarse en determinados ámbitos, por temor a que su propia conducta sea sancionada o perseguida por el Estado.
El efecto desaliento “social” también existe hoy en día por el temor a ser atacado en las redes, por el ejercicio de la libertad de expresión de todos. En el ámbito del debate social y del pensamiento crítico, el temor a recibir ataques furibundos por lo expresado y por no ser acorde a una determinada ideología o forma de pensar, genera el temor a expresarse y a ser etiquetado o perseguido, algo inaceptable en un Estado de Derecho. La consecuencia es letal para el pluralismo ideológico, político y la libre circulación de ideas y opiniones. Desde esta perspectiva, la doctrina entiende que eso ya vulnera la dimensión objetiva del derecho fundamental a la libertad de expresión, columna vertebral de una sociedad democrática.
No todo insulto es discurso del odio.
Empecemos por lo básico, porque aquí está el primer gran problema. Odiar no es delito. No cualquier exabrupto en redes sociales merece la etiqueta de "odio". Existe una categoría amplia llamada "comunicación violenta y de odio" que engloba calumnias personales, difamaciones, agresiones verbales e incluso inveracidades o noticias falsas que atacan a individuos o colectivos. Piénsese en afirmaciones como "psicópata", “dictador” dirigidas a una figura pública o en las teorías negacionistas del COVID. En el debate político la libertad de expresión goza de máxima protección según el TEDH (Erbakan c. Turquía, 2006). Hay excesos, insultos, innecesarios incluso, pero probablemente no se cruza la línea roja del odio discriminatorio que castiga el artículo 510 CP.
Definir el odio y lo odioso es una tarea, cuando menos, controvertida. Sin embargo, las diferentes definiciones tienen un elemento en común que es recogido por la Organización de las Naciones Unidas al definir el discurso de odio como «todo tipo de comunicación que ataca o usa un lenguaje peyorativo o discriminatorio en referencia a una persona o grupo de personas en base a quién son».
Como señala un sector de la doctrina, hemos de identificar dos tipos de discurso del odio. Por un lado, el que incita a una violencia física inmediata contra un colectivo: piense en la STEDH Soulas y otros c. Francia (2008), donde un libro que llamaba abiertamente a una "guerra de reconquista étnica" contra inmigrantes e islam fue objeto de condena por su peligro inminente. O Leroy c. Francia (2008), la caricatura post-11S que celebraba los atentados como "Todos nosotros hemos soñado con ello…Hamas lo ha hecho". Sin embargo, en Dmitriyevskiy c. Rusia (2017), las críticas a Rusia por el genocidio checheno fueron amparadas pues no pueden sancionarse conductas que silencian críticas políticas legítimas.
El segundo tipo es más sutil y peligroso: mensajes que crean una atmósfera de hostilidad a largo plazo que puede derivar en violencia futura. Aquí entran Vejdeland c. Suecia (2012), folletos escolares que vinculaban homosexualidad con pedofilia y sida, o Féret c. Bélgica (2009), octavillas del Frente Nacional pidiendo "preferencia nacional" para empleos y ayudas sociales. El TEDH condena no por violencia inmediata, sino por erosionar la dignidad de grupos vulnerables.
La herramienta gubernamental
¿Y OBERAXE? Su IA FARO no parece que haga esta distinción. Etiqueta como "deshumanización" el 57% de sus detecciones, una categoría tan amplia que puede capturar desde insultos racistas genuinos hasta críticas legítimas a determinadas políticas que no se comparten. Concepto jurídico indeterminado muy maleable. Lamentablemente, en febrero de 2026, durante el Ramadán, la islamofobia ha repuntado el 30%.
Junto a la herramienta gubernamental, existe otra herramienta divulgativa denominada LIBEX comprometida con la defensa de la libertad de expresión, pilar esencial de una sociedad abierta, libre y pluralista sobre la que se erige un Estado social y democrático de Derecho.
El Supremo pone el freno: "No al secuestro digital sin juez"
El 3 de octubre de 2022, la Sala de lo Contencioso-Administrativo del Tribunal Supremo dictó una importante Sentencia (STS 1231/2022) que marca pautas. La Agencia Española de Medicamentos y Productos Sanitarios había ordenado el bloqueo íntegro del sitio Women on Web, que vendía pastillas abortivas sin receta. El Supremo entendió que eso equivalía a un "secuestro sutil" de publicaciones, vulnerando el artículo 20.5 de la Constitución Española, que prohíbe cualquier intervención administrativa sobre "publicaciones, grabaciones y otros medios de información".
Los sitios web, aclaró el Supremo, son "otros medios de información" si circulan ideas, opiniones o hechos, aunque mezclen contenido lícito e ilícito. Solo un juez puede ponderar la proporcionalidad, garantizando contradicción y seguridad jurídica: bloquear solo las secciones específicas ilegales, no el conjunto. En el caso mencionado, anuló el bloqueo total, permitiendo solo la interrupción del contenido de venta ilegal.
Traslademos esto a 2026. Un blog o una red publica un comentario desatinado, ofensivo y molesto. OBERAXE lo señala vía DSA (Ley de Servicios Digitales). La plataforma, temerosa de multas que pueden ser un tanto por ciento de su facturación, lo elimina en apenas unas horas. Sin juez, sin contradicción. El Gobierno no ordena directamente, pero su herramienta sí influye en el destino del mensaje… ¿Vulnera o puede afectar a derechos fundamentales?
Dentro de la caja negra ¿quién programa el odio?
¿Quién decide qué es odio en FARO? No es un ente abstracto. La empresa privada Séntisis Intelligence, especializada en procesamiento de lenguaje natural, desarrolla el algoritmo. Lo entrena con MOOD, la IA de LALIGA que detecta insultos racistas en estadios de fútbol. ¿Cómo y quién lo supervisa, vigila y controla? ¿Quién decide qué palabras y patrones semánticos activan las alertas? Según quien gobierne ¿se puede orientar, determinar o condicionar?
Las "notas metodológicas" de OBERAXE son vagas: hablan de IA FARO supervisada con validación humana, pero no detallan pesos algorítmicos ni, según parece, tasas de errores o “falsos positivos”.
Hay un grupo de seguimiento trimestral entre Gobierno y plataformas (creado en 2025) que permite ajustes discrecionales. ¿Quién lo audita y qué criterios se siguen? El DSA exige transparencia en las IA en su art. 42.
En redes sociales, como se ha señado la doctrina, hay que ponderar emisor, intención, contexto geográfico y canal en el cual se emite. Entendemos que FARO lo debe hacer en milisegundos, sin humanidad, sin matices.
Las cifras marean: 845.000 contenidos detectados en 2023; 808.000 en 2025; 37.000 al mes en febrero de 2026. No parece fácil un control humano real. Tasas de retiradas elevadas. Es posible que las plataformas se anticipen a las alertas de OBERAXE y eliminen preventivamente para esquivar sanciones millonarias.
La libertad de expresión es el derecho a expresar a los demás todo aquello que, precisamente, no quieren escuchar. Esa es la grandeza de un Estado de Derecho democrático. Es el oxígeno de toda democracia frente a la polarización real y al propio Estado. HODIO u OBERAXE no puede convertirse en una herramienta gubernamental -de loable supervisión- que acabe en un instrumento de censura, independientemente del color político de quien gobierne, instrumento que decida qué puedes expresar, decir, publicar o compartir. La libertad de expresión no es un lujo ideológico en un Estado de Derecho, es su propio fundamento. La Abogacía, centinela de los derechos y libertades frente al poder del Estado, debe estar atenta.
