¿Cómo se construye una máquina para medir el odio? La ofensiva de Sánchez para controlar lo que dices en internet

HODIO es el siguiente paso de un Gobierno que ha decidido mirar a las redes sociales como un tablero que hay que vigilar, medir y, llegado el caso, corregir. Pedro Sánchez lo ha presentado como una herramienta casi científica, destinada a calcular la «huella de odio y polarización» que dejan los usuarios en plataformas como X, Instagram, TikTok o YouTube. Sobre el papel suena razonable; en manos de un poder político que lleva años intentando controlar cada rincón del debate público (que no vaya en su línea ideológica), suena bastante menos inocente.

Qué quiere hacer el Gobierno

Según el anuncio, HODIO medirá de forma sistemática la presencia, evolución y alcance de los discursos de odio en las plataformas digitales que operan en España. No se trata de contar insultos, más bien de elaborar una especie de «índice de toxicidad» de cada red, de cada tema y de cada momento político.

Sánchez promete que la herramienta se basará en «criterios académicos», mezclará análisis cuantitativo con revisión experta y será transparente, con resultados publicados periódicamente. Esos resultados se usarán para «exponer públicamente» qué plataformas frenan esos contenidos, cuáles miran «hacia otro lado» y cuáles «hacen negocio con el odio». No contento con esto, el Ejecutivo prepara nuevas figuras penales, como el «delito de amplificación algorítmica», que apuntan directamente a quienes diseñan los algoritmos de recomendación.

Cómo se construye una máquina para medir el «odio»

Detrás del nombre rimbombante hay una arquitectura técnica bastante reconocible. Primero, hay que capturar el flujo de mensajes. El Gobierno, a través de organismos como OBERAXE y sistemas previos como FARO, ya sabe lo que es monitorizar Facebook, Instagram, TikTok, YouTube o X para detectar contenidos racistas o xenófobos en tiempo real. HODIO iría más allá para ampliar el foco a todo tipo de «odio» y a la «polarización», lo que obliga a recolectar millones de publicaciones, respuestas, comentarios y metadatos cada día.

Luego viene la fase más delicada, la de clasificar. Ahí entran en juego modelos de lenguaje basados en inteligencia artificial, capaces de leer textos en castellano y otros idiomas, interpretar emojis, ironía y sarcasmo, y decidir si un mensaje es un insulto, una amenaza, una crítica política dura o una simple invención. Para entrenar esos modelos hacen falta conjuntos de datos etiquetados a mano, siguiendo las definiciones oficiales de «discurso de odio» que el propio Gobierno ya ha fijado.

Para entrenar esos modelos hacen falta conjuntos de datos etiquetados a mano, siguiendo las definiciones oficiales que el propio Gobierno ya ha fijado

Por último, llegarán los mapas de polarización. Con los mensajes ya etiquetados, se dibujan gráficas que muestran quién habla con quién, qué comunidades se forman y qué cuentas actúan como altavoces de los contenidos marcados como problemáticos. A partir de ahí se pueden construir índices, rankings e informes por plataforma que indiquen, por ejemplo, si X –como denuncia Sánchez– ha visto crecer un 50 % los mensajes de odio desde la llegada de Elon Musk.

Todo esto, desde el punto de vista técnico, es perfectamente posible. La pregunta no es si se puede hacer, sino quién decide dónde termina la crítica legítima y dónde empieza el «odio» medible y punible.

El interés de Moncloa

Cuando un presidente anuncia que medirá la «huella del odio» igual que medimos la huella de carbono, está admitiendo que quiere construir una métrica política de la conversación pública. Y cuando añade que esa métrica «tendrá consecuencias» para las plataformas y que servirán para que «rindan cuentas», está dibujando un mecanismo de presión que va mucho más allá de la lucha contra delitos concretos.

La misma lógica está detrás de la futura ley que elevará a 16 años la edad mínima para usar redes sociales y que introduce nuevas obligaciones, sanciones y órdenes de alejamiento digital. El Gobierno no solo regula contenidos; intenta tutelar el propio acceso a los espacios digitales donde se forma la opinión pública.

Una herramienta que permite saber qué temas se «descontrolan», qué hashtags se disparan contra el Ejecutivo y qué comunidades concentran la crítica es un regalo para cualquier poder con tentaciones de vigilancia. Basta con ajustar los modelos, apretar o relajar definiciones y usar la etiqueta de «odio» como coartada para señalar a medios, creadores e, incluso, empezar a fabricar opositores.

HODIO sigue el mismo patrón; un problema real, una solución tecnocrática, un fuerte componente de datos sensibles y la promesa de que todo será neutral y académico.

Una herramienta 'muy' de este Gobierno

No hace falta ser especialmente malpensado para ver que HODIO encaja como un guante en la estrategia de comunicación de Sánchez. Un presidente que acusa a las plataformas de «hacer negocio con el odio», que centra sus ataques en X y en Elon Musk y que asocia sistemáticamente la crítica a su gestión con la «ultraderecha» encuentra, en un panel de indicadores de odio y polarización, un argumento perfecto para apuntar con el dedo.

La tecnología, en sí misma, no es el problema. Un sistema de monitorización bien limitado podría ayudar a perseguir amenazas, campañas de acoso o discursos violentos contra minorías concretas. Hay compañías españolas que se dedican a monitorizar las redes sociales para saber, por ejemplo, de qué se habla después de un gran acontecimiento deportivo: a quién se enaltece, contra quién se dirigen las críticas y por qué...

Un sistema de monitorización bien limitado podría ayudar a perseguir amenazas

Lo que intenta diseñar Pedro Sánchez es un instrumento capaz de fiscalizar, con apariencia de ciencia de datos, cualquier corriente de opinión que el Gobierno decida en cada momento presentar como peligrosa para la «convivencia».

HODIO es, de nuevo, mucho más que un proyecto tecnológico, que ya veremos si verá la luz o si acabara en otro Radar covid. Se parece más a una declaración de intenciones sobre qué tipo de relación quiere mantener este Gobierno con las redes sociales y con quienes las usan. Y ahí, más que algoritmos, lo que falta es una garantía de que la vara de medir no cambiará cada vez que cambien los intereses del poder.