- Tras recibir queja del padre de una menor expuesta a contenido sobre suicidio y autolesiones y haber denunciado, sin éxito, a una red social
El Defensor del Pueblo, Ángel Gabilondo, acaba de abrir una actuación ante la Secretaría de Estado de Telecomunicaciones e Infraestructuras Digitales, el Comisionado de Salud Mental del Ministerio de Sanidad, y la Fiscalía General del Estado para conocer qué medidas están llevando a cabo para abordar las posibles consecuencias nocivas en menores de edad por ciertos contenidos que marcan los algoritmos de las redes sociales.
Esta actuación se ha abierto tras recibir la queja de un progenitor de una menor indefensa ante las redes sociales, y que manifiesta su preocupación por la vulnerabilidad en la que se encuentra tanto la menor como su entorno familiar. La menor, usuaria de X (Twitter hasta julio de julio de 2023) se autolesionaba y tenía tendencia a prácticas suicidas. Antes de dirigirse al Defensor del Pueblo, el padre de la menor denunció la situación ante la conocida red social, sin éxito. Esta consideró que su contenido era acorde con la legalidad.
La institución del Defensor del Pueblo considera que los casos de menores de edad que, como consecuencia del uso de las redes sociales están expuestos a contenidos nocivos, pueden inducirles a riesgos para su integridad física e incluso para su vida. Inicialmente, es el menor el que voluntariamente accede a esas redes buscando determinado contenido o incorporándose a grupos en los que se difunden prácticas peligrosas. Posteriormente, es el propio algoritmo el que detecta este comportamiento y proporciona información nociva de forma automática.
Los hechos denunciados por el padre de la menor podrían ser de carácter delictivo, tal y como contemplan los artículos 143 bis y 156 ter del Código Penal.
El movimiento del Defensor del Pueblo introduce un cambio de tono en el debate público. Ya no se trata únicamente de discutir la responsabilidad ética de las plataformas, sino de explorar si existen responsabilidades legales —incluso penales— en la difusión automatizada de contenidos que pueden poner en peligro la vida de menores. La mención explícita a artículos del Código Penal sugiere que la frontera entre negligencia tecnológica y delito podría estar más cerca de lo que se pensaba.
Pero el fondo del asunto es aún más complejo. Las redes sociales no son espacios pasivos: son entornos diseñados para captar atención, moldear comportamientos y maximizar el tiempo de uso. En ese ecosistema, los menores —con estructuras emocionales aún en desarrollo— se convierten en usuarios especialmente vulnerables. El algoritmo aprende rápido; la madurez emocional, no tanto.
Quizá la mayor novedad del enfoque del Defensor del Pueblo sea precisamente señalar al algoritmo como un actor con capacidad de daño. No como una herramienta neutral, sino como un sistema que, al optimizar la atención, puede terminar promoviendo contenido autodestructivo.
Conocer medidas
La institución del Defensor del Pueblo requiere de la Secretaría de Estado de Telecomunicaciones e Infraestructuras Digitales información sobre las actuaciones que estén llevando a cabo o vayan a implementar para evitar situaciones como a la que se enfrenta esta menor, en aras al interés del menor ante escenarios de peligro extremo y riesgo para la vida. Asimismo, se reclama conocer si existe la posibilidad de que se informe sobre estas circunstancias a las redes sociales, a fin de que se proceda a la supresión del contenido y control de las publicaciones futuras.
En el marco de esta actuación se ha solicitado además al Comisionado de Salud Mental del Ministerio de Sanidad que indique si disponen de medio de contacto para que, bien los propios menores, o bien sus familiares, reciban información inmediata o asistencia sobre el protocolo a seguir ante este tipo de situaciones.
El Defensor del Pueblo ha requerido también a la Fiscalía General del Estado información sobre las actuaciones en relación con la aplicación de los artículos del Código Penal citados, a fin de salvaguardar el interés de los menores ante situaciones de peligro extremo y riesgo para la vida. Y, además, si por parte de las redes sociales se están adoptando las medidas, en su caso, dictadas por parte de los órganos judiciales.
Las medidas de Pedro Sánchez
El Defensor del Pueblo incide en uno de los temas en los que más atención ha puesto en los últimos tiempos el presidente del gobierno, Pedro Sánchez. “Las redes sociales se han convertido en un Estado fallido en el que se ignoran las leyes y se toleran los delitos”, dijo en febrero cuando presentó una batería de medidas para combatir la impunidad de las plataformas. La más llamativa fue la intención de prohibir el acceso a las redes sociales a menores de 16 años, obligando a las plataformas digitales a implementar sistemas efectivos de verificación de edad.
Otra de las medidas anunciadas ese día tiene que ver con la responsabilidad legal de las posibles infracciones en el terreno digital. “Vamos a modificar la legislación en España para que los directivos de las plataformas sean legalmente responsables de las múltiples violaciones que tienen lugar en sus plataformas. Eso significa que los consejeros delegados de esas plataformas tecnológicas se enfrentarán a responsabilidad penal si no retiran contenidos de odio o ilegales”, explicó Sánchez. La Comisión Europea replicó poco después que los Estados miembros de la UE “no pueden imponer obligaciones adicionales a las grandes plataformas digitales” más allá de las previstas en el Reglamento de Servicios Digitales.
Sánchez aseguró también que se tipificará como delito la manipulación de los algoritmos y la amplificación de contenidos ilegales, como podrían ser los que promuevan el suicido o las autolesiones.
La prohibición de las redes para menores de 16 años es una política que están adoptando varios países. Va en la línea de las directrices de la Comisión Europea y se está tramitando en Portugal o Francia, mientras que en Australia se aplica desde el pasado verano.
Mientras, en EE UU, las grandes plataformas están en el foco público debido a dos importantes varapalos judiciales. Hace dos meses, un jurado de Nuevo México determinó que Meta es culpable de engañar a los consumidores sobre la seguridad de sus plataformas y de poner en riesgo a menores de edad, priorizando los ingresos a la integridad de los niños. El mismo día en que se conoció esa sentencia, Meta y YouTube (de Google) perdían en Los Ángeles un juicio que las declara culpables de generar adicción entre menores y de usar el diseño de sus plataformas para causar dependencia.
