Las semanas pasadas, la mayoría, incluso nosotros los juristas, descubrimos que llevamos años conviviendo con algoritmos que toman decisiones públicas. El Tribunal Supremo ordenó abrir el código del sistema que decide el bono social eléctrico —BOSCO— y, aunque la sentencia es del 11 de septiembre, el impacto social no ha hecho más que empezar. No es una anécdota: por primera vez se impone la obligación de enseñar las “tripas” de un algoritmo que afecta derechos, y afecta a todos los algoritmos utilizados por las administraciones.
De entrada, eso nos obliga a mirar a casa (lo de las barbas del vecino). En el buscador oficial del Poder Judicial también hay algoritmos que filtran, etiquetan y priorizan lo que vemos. Lo supimos tarde. Y lo supimos mal, porque todo se ha llevado con una opacidad que, más que confianza, genera inseguridad. No hace una semana que el Consejo General del Poder Judicial ha hecho una nota de prensa sobre ello, presentando el sistema.
Esta misma semana, en Esquel (Chubut, Argentina), otro aviso: un tribunal anuló una condena porque el juez redactó partes decisorias con un asistente de IA (ChatGPT). El fallo ordena repetir el juicio con otro magistrado e investigar al juez. Un recordatorio de bolsillo para quien todavía crea que “la IA sólo ayuda”: cuando la máquina entra sin control, la justicia sale por la ventana. Y sí, todo lo anterior ha pasado, y lo venimos sufriendo por años.
Volvamos a nuestro patio. El CENDOJ —órgano técnico del CGPJ— lleva años automatizando tareas con su suite KENDOJ. ¿Hace lo que dicen que hace? Sí, y está escrito: estructura resoluciones, detecta entidades, enlaza jurisprudencia y legislación, clasifica por voces de un tesauro jurídico, realiza “scoring” de la importancia de las sentencias y aplica seudonimización (que no anonimización) con validación. No es rumor ni marketing: lo han presentado oficialmente.
A esto se suma un detalle que casi nadie lee, pero condiciona todo: el portal difunde íntegramente Supremo, Audiencia Nacional, TSJ y Audiencias Provinciales, y añade “una selección creciente” de resoluciones de juzgados cuando su “interés doctrinal” lo justifica. Traducción: primero hay selección institucional; después, hay priorización algorítmica. Dos filtros. Dos riesgos de sesgo. Una sola vitrina.
Cuando un tribunal cite una sentencia, a partir de ahora tendremos la duda de si la cita es porque la conoce o, por el contrario, porque le ha saltado la primera de la lista, como saltan los resultados de Google.
¿Y quién responde por esa vitrina? Aquí empieza la inseguridad que usted y yo palpamos al trabajar. No existe, a día de hoy, una ficha pública de gobernanza algorítmica de KENDOJ que explique criterios de inclusión y exclusión, pesos del tesauro, responsables, métricas de precisión y sesgo, ni logs de ranking y scoring. Tampoco hay, en abierto, un inventario claro de proveedores, subcontratas o modelos (LLM) sobre los que corre.
Eso quiere decir, que quien ha realizado el algoritmo, lo ha hecho, con no se sabe qué documentación ni qué objetivos, con el soporte de no se sabe qué empresas, pertenecientes éstas a qué multinacionales, con intervención de qué grandes despachos, y que representan qué intereses. Y todo con financiación de qué bancos y no sabiendo si el en accionariado o representación de toda la cadena de elaboración han intervenido intereses o plataformas controladas por qué estados o qué lobbys, sean éstos, amigos o no.
El Poder Ejecutivo ya ha publicado su Política de IA para la Administración de Justicia; pero hoy por hoy es solo un brindos al sol, pero algo es. El Poder Judicial, ni eso. Debería como mínimo igualar ese listón en su propio terreno —y no lo está haciendo.
Cuando lo esencial se decide con reglas que no se publican, lo que crece no es la eficiencia: es la desconfianza. Y se lo dice uno al que le ha tocado defender a Internos y Clases Pasivas.
Lo importante es sencillo, y conviene dejarlo nítido. Uno: existen algoritmos que median nuestro acceso, y la de los jueces, a la jurisprudencia, por tanto influyen en ella. Dos: nos hemos enterado de verdad la semana pasada, al calor del caso BOSCO. Tres: se ha llevado y generado con la máxima opacidad posible, impropia de un servicio público que condiciona el trabajo diario de todos los operadores jurídicos.
Pedir lo obvio, criterios de selección por escrito, métricas de cobertura, “por qué veo esto” junto al buscador, auditorías externas y contratos/modelos identificados, no es hostilidad tecnológica: es higiene democrática. BOSCO ya ha dicho que el código administrativo puede y debe abrirse cuando afecta derechos; trasladar esa claridad a la vitrina judicial no es pedir la luna, es ponerse al día.
Si no hay nada que esconder, explíquenlo. Si hay algo que ajustar, háganlo con luz y taquígrafos. Entre fe y pruebas, el abogado de a pie —que litiga con plazos y no con promesas— tiene claro qué elige.
