MADRID.– El gobierno de España anunció la creación de Hodio, una nueva herramienta destinada a medir y analizar la presencia del discurso de odio en las plataformas digitales. El sistema, presentado por el presidente de gobierno, Pedro Sánchez, forma parte de una estrategia más amplia para reforzar el control sobre las grandes redes sociales y exigirles mayor responsabilidad por los contenidos que circulan en ellas.
El nombre Hodio es el acrónimo de Huella del Odio y la Polarización. Según explicó el mandatario, el objetivo es realizar un seguimiento sistemático del nivel de mensajes de odio en internet, su evolución y su impacto social. La herramienta analizará las principales plataformas utilizadas en España, entre ellas Meta –propietaria de Facebook e Instagram–, TikTok, X y Youtube.
La iniciativa se inscribe en un plan más amplio del Ejecutivo para regular el entorno digital. Entre las medidas discutidas, figuran restricciones de acceso a redes sociales para menores de 16 años y mayores obligaciones legales para las empresas tecnológicas en relación con contenidos ilícitos u ofensivos.
El concepto central detrás de HODIO es la idea de “huella del odio”, inspirada en la noción de huella de carbono utilizada para medir el impacto ambiental de las actividades humanas.
“Cuando algo se mide, deja de ser invisible”, sostuvo Sánchez al presentar el sistema. Según el jefe del Ejecutivo, la creciente circulación de mensajes hostiles en redes sociales está alimentando divisiones sociales profundas y contribuyendo a un clima de polarización política.
De acuerdo con datos citados por el gobierno, los delitos de odio en España han aumentado un 41% en la última década, mientras que estudios oficiales indican que una gran parte de los jóvenes se encuentra regularmente con mensajes hostiles o discriminatorios en internet.
Hodio será gestionado a través del Observatorio Español del Racismo y la Xenofobia, conocido como Oberaxe, un organismo estatal que desde hace años monitorea contenidos racistas o discriminatorios en internet.
La herramienta combinará dos tipos de análisis. Por un lado, el procesamiento automático mediante inteligencia artificial, que permitirá examinar grandes volúmenes de publicaciones en redes sociales en busca de expresiones o patrones asociados al discurso de odio. Por otro, revisión humana especializada, destinada a evaluar los resultados del sistema automático y garantizar que el análisis se ajuste a criterios académicos y estándares internacionales.
El sistema generará informes semestrales que evaluarán la evolución del discurso de odio en cada plataforma digital. Además, producirá un ranking público que comparará el nivel de exposición a estos contenidos entre redes sociales.
Según el gobierno, publicar estos resultados busca aumentar la presión pública sobre las empresas tecnológicas. “Queremos que todo el mundo sepa quién frena el odio, quién mira hacia otro lado y quién hace negocio con él”, afirmó Sánchez.
La herramienta se suma a otros sistemas que España ya utiliza para detectar mensajes de odio en internet. Entre ellos se encuentra Alertodio, una aplicación desarrollada en colaboración con la Universitat Politècnica de València, y FARO, un sistema basado en inteligencia artificial lanzado junto con la organización deportiva LaLiga.
Estas iniciativas permitieron detectar, por ejemplo, aumentos masivos de comentarios racistas o xenófobos durante crisis sociales o políticas, cuando la circulación de rumores y mensajes hostiles en redes se multiplica.
El gobierno sostiene que las plataformas tecnológicas relajaron sus mecanismos de moderación en los últimos años. En particular, Sánchez criticó a Elon Musk, propietario de X, por considerar que desde la compra de la red social aumentaron significativamente los mensajes de odio.
La creación de Hodio generó debate político en España. Algunos críticos consideran que el sistema podría convertirse en una herramienta de control del discurso en internet o incluso en un mecanismo de censura.
Entre quienes cuestionaron la iniciativa se encuentra la presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso, que ironizó sobre el nombre del sistema y puso en duda su utilidad.
El gobierno, sin embargo, insiste en que el objetivo no es censurar opiniones, sino identificar contenidos que puedan constituir delitos de odio o violar las normas de las plataformas. Según el Ejecutivo, el sistema se basará en estándares legales y académicos para clasificar los mensajes analizados.
Uno de los puntos que aún genera interrogantes es cómo se definirá exactamente el discurso de odio dentro del sistema y qué criterios utilizará el algoritmo para clasificar los contenidos. Las autoridades indicaron que esos parámetros se harán públicos cuando la herramienta esté plenamente operativa.
Más allá de la polémica, Hodio refleja una tendencia más amplia en Europa y otros países: la creciente presión de los gobiernos para que las grandes plataformas tecnológicas asuman mayor responsabilidad por los contenidos que circulan en sus servicios.
Agencias AFP y Reuters y diario El País