¿Censura o una gran noticia? Qué es HODIO, la herramienta de Sánchez de la que todo el mundo habla | Tecnología

El presidente del Gobierno, Pedro Sánchez, lo afirmó este miércoles en el I Foro contra el Odio lanzamiento de una nueva herramienta llamada HODIO (Huellas de odio y polarización, según explicó el gobierno), que vigilará la difusión de contenidos de odio en las plataformas. tantos la naturaleza misma del sistemaquién será el responsable de algo, el odio que no se puede medir objetivamente, así como el nombre que le dieron, provocaron una cascada de comentarios online sobre HODIO.

Algunas opiniones dicen que esta herramienta proporciona «censura». Otros argumentan que es inútil. Algunas personas consideran que esto es una buena idea. Y muchos, muchos usan su nombre para burlarse. Esto es lo que hizo, por ejemplo: La presidenta de la Comunidad de Madrid, Isabel Díaz Ayuso, este jueves en el parlamento regional: «Veo que la herramienta que presentaron no es realmente un HODIO, sino un ‘joder’ como lo entiendes tú si piensas ponérselo a alguien medianamente informado. Los españoles te están dando la espalda, y por eso lo tienen muy ‘jodido'», se burló, para regocijo aún mayor de su banquillo.

¿Qué hace realmente HODIO? ¿Qué tan nueva es esta herramienta? ¿Se puede considerar esto una herramienta de censura? Esto es lo que se sabe actualmente sobre el sistema.

¿Qué es el CHODIO?

La Huella de Odio y Polarización (HODIO) es una herramienta desarrollada por el Ministerio de Inclusión, Seguridad Social y Migraciones a través del Observatorio Español del Racismo y la Xenofobia (Oberaxe). Tal y como anunció Sánchez este miércoles, HODIO analiza la presencia del discurso de odio y la polarización en las principales redes sociales utilizadas en España (Instagram, TikTok, X, YouTube y Facebook) y genera clasificación público y transparente, que compara el nivel de exposición al odio entre plataformas.

Su finalidad es “medir y evaluar la presencia de discursos de odio y polarización en las redes sociales”, especifica el documento. sitio web de herramientaspublicando periódicamente clasificación que mide la prevalencia del discurso de odio y la distribución de ese contenido. Se elaborarán informes semestrales para monitorear el desarrollo de cada plataforma.

¿Cómo funciona esto?

HODIO tiene una parte de análisis automático y una parte de análisis manual. Por un lado, combina métodos cuantitativos e inteligencia artificial (IA) para procesar grandes volúmenes de contenidos ( alimentao historiales de redes sociales rastreados) para palabras clave específicas. Por otro lado, incluye análisis humano “que garantiza precisión, coherencia y respeto a los estándares internacionales”, dice el sitio web.

Según fuentes del Ministerio de Inclusión, Protección Social y Migraciones, HODIO aún no está listo pero se encuentra en etapa de revisión técnica.

¿Es esta la primera herramienta para medirlo?

No, se suma a otras herramientas que ya están disponibles en Inclusión. Oberaxe (Observatorio Español sobre el Racismo y la Xenofobia) inició un análisis diario del discurso de odio en 2020, coincidiendo con el estallido de la pandemia. Desde 2022, Oberaxe cuenta con su propia app, Alertodio, desarrollada por la Universidad Politécnica de Valencia (UPV) y gestionada por el ministerio, que registra contenidos de odio encontrados en las redes.

En 2024, Inclusión, en colaboración con LaLiga, lanzó el sistema FARO (Filtrado y Análisis del Odio en Redes Sociales), que utiliza inteligencia artificial para detectar este tipo de discursos.

Estas herramientas detectan, p.e. Aumento significativo del discurso de odio durante la crisis de Torre Pacheco. El fin de semana del 12 de julio decenas de jóvenes procedentes de distintos puntos de España se desplazaron hasta la ciudad de Murcia para “ir a cazar» a los inmigrantes, alentados por los engaños de la extrema derecha pidiendo «que se haga algo» respecto del supuesto abandono de funciones gubernamentales. Ese fin de semana, Oberaxe encontró un 1.500% más de comentarios de odio en línea (unos 33.000, en comparación con un promedio de 2.000 en un día normal).

¿Cómo se determina que un contenido incita al odio?

Este es el punto clave. El ministerio aún no ha especificado exactamente qué criterios se deben utilizar para considerar el contenido como discurso de odio, aparte de garantizar que “se base en criterios académicos y estándares internacionales”.

Algunos grupos ya han pedido aclaraciones. Tal es el caso de las feministas de la Alianza Contra la Destrucción de las Mujeres, que quieren saber si HODIO considerará el “feminismo crítico de género” como un discurso de odio. Requieren, entre otras cosas, información sobre la definición normativa, el modelo algorítmico de clasificación, los criterios de etiquetado, la definición operativa del odio, el funcionamiento del sistema, sus datos de entrenamiento y posibles sesgos ideológicos.

Hasta que hagan públicos sus criterios, Oberaxe puede dar alguna pista: «El seguimiento que hace Oberaxe del discurso de odio en las redes sociales consiste en buscar, recopilar, analizar y alertar a las plataformas sobre contenidos de discurso de odio con motivaciones racistas, xenófobas, islamófobas, antisemitas y antigitanas que puedan constituir un delito, una infracción administrativa o violar las normas de uso de las propias plataformas para la prestación de servicios digitales». La línea roja, según el sitio web del ministerio, es la legalidad.

¿Se puede considerar esto un sistema de censura?

A menos que se especifique lo contrario, se espera que los criterios que seguirá HODIO para decidir si un mensaje contiene discurso de odio sean similares a los de Oberaxe o FARO. En este caso, el criterio será si los comentarios pueden constituir delito o falta.