Un sistema de monitoreo del Ministerio de Inclusión español detectó un aumento del 1.500% en contenido racista dirigido a norteafricanos después de una agresión no provocada a un residente mayor.
En España, en un día cualquiera de 2025, se publicaron alrededor de 2.000 mensajes de odio en redes sociales. El 12 de julio, esa cifra se multiplicó hasta los 33.000, un aumento del 1.500 %. Ese sábado se alcanzó el punto álgido de los rumores, bulos y discursos de odio que provocaron los disturbios de Torre Pacheco (Murcia). Esto demuestra una vez más la conexión que el mundo digital tiene con lo que ocurre simultáneamente y posteriormente en las calles.
La parte central de este pico de publicaciones de odio duró principalmente un día, cuando se concentraron casi el 30% de los mensajes detectados a lo largo de la semana por el Observatorio Español del Racismo y la Xenofobia del Ministerio de Inclusión (Oberaxe). La mayoría estaban dirigidos a personas originarias del norte de África e incluían palabras como “paliza”, “mierda” y “machete”. Estas publicaciones en redes sociales también se centraban en la seguridad ciudadana y en intentar captar la atención del ciudadano común.
A pesar de este increíble aumento del discurso de odio, las empresas propietarias de estas plataformas de redes sociales no tomaron medidas adicionales para eliminar dicho contenido. Su actividad fue rutinaria. Desde el 11 de julio, X, Facebook, Instagram, TikTok y YouTube solo han eliminado unos pocos mensajes de sus usuarios, incluso menos que en días anteriores. Para contextualizar, a lo largo de 2024, el gobierno español notificó a las plataformas de redes sociales 2.870 contenidos considerados de odio que podrían ser delictivos o infringir las normas de conducta de las redes. Las empresas eliminaron solo el 35%, y solo el 4% de los mensajes de odio se eliminaron en las 24 horas siguientes a su denuncia.
La red social X recibió la mayor cantidad de notificaciones (26% del total) y, sin embargo, fue la que eliminó menos contenido (14%). Según el Observatorio, la diferencia en el volumen de notificaciones de contenido se debe a la distinta dificultad para identificar contenido en cada red social. TikTok fue la red que más cumplió con las solicitudes de eliminación de mensajes, con un 69%. El trabajo de Oberaxe muestra claramente cómo el aumento de mensajes de odio se disparó, mientras que la tendencia de eliminación de mensajes se mantuvo estable.
Telegram, la controvertida plataforma de mensajería, fue una de las principales fuentes de discurso de odio en Torre Pacheco , pero no figura en la lista porque no puede ser monitoreada como una red abierta. Existen grupos abiertos para la difusión pública, pero también grupos privados donde se traman estrategias. Para acceder a Telegram se requiere un número de teléfono móvil, y Oberaxe no puede recurrir a los mismos métodos que las fuerzas de seguridad, según fuentes del Ministerio.
El Ministerio de Inclusión denunció esta falta de respuesta de las redes sociales en un informe la semana pasada y, para abordar el problema, ha creado un grupo de seguimiento con las empresas, tras una reunión celebrada el miércoles pasado en Madrid. «Esta colaboración no tiene precedentes», declaró la ministra de Inclusión, Elma Sáiz. «El Gobierno no hará oídos sordos, porque lo que ocurre en las redes sociales tiene su reflejo en la realidad, y lo hemos visto en Torre Pacheco». Según fuentes gubernamentales, Telegram será invitada a estas reuniones como plataforma interesada.
La falta de respuesta de algunas de las empresas encargadas de moderar contenidos fue duramente criticada en el informe: “Esta circunstancia facilita que los mensajes que deshumanizan, estigmatizan o incitan a la violencia sigan siendo visibles, afectando especialmente a distintos grupos objetivo como las personas de origen norteafricano, y contribuyendo así a la normalización del discurso de odio en línea”.
Oberaxe lleva analizando el discurso de odio en redes sociales desde 2020, pero en octubre de 2024 activó un sistema de monitorización llamado Faro, gracias a la cesión de una herramienta que la liga española de fútbol llevaba años utilizando. El sistema fue adaptado por la empresa Séntisis Intelligence. El seguimiento está automatizado, pero el Observatorio cuenta con un equipo de ocho personas que observan y analizan el contenido.
Uno de los desafíos de la herramienta es examinar mensajes que incluyen más que solo texto. La red X es donde se encuentra con mayor facilidad el contenido de odio, ya que el sistema Faro captura texto mucho mejor que el video o el audio: la recopilación de mensajes «se basa principalmente en el análisis textual, aunque se está trabajando para ampliarla a publicaciones basadas en imágenes, videos y audio», según un informe sobre el sistema.
Meta y respuesta de Google
Algunas de las redes sociales y empresas de comunicación mencionadas abogan por no generalizar la respuesta de todos, sino analizar las cifras con cautela y distinguir entre lo que estas empresas consideran mensajes aceptables en el marco de la libertad de expresión, “aunque no coincidan con una forma de pensar particular y puedan considerarse cuestionables, y las comunicaciones que violan la ley, sobre las que se pueden actuar”.
En este sentido, las empresas señalan que quienes cuentan con políticas de prevención del discurso de odio tienen sus propios protocolos de actuación, incluso inmediatos. Sin embargo, advierten que una cosa es lo que una institución en particular considera objetable y otra muy distinta es la opinión y resolución de cada plataforma respecto a los mensajes en cuestión. En este caso, señalan que una advertencia de una entidad en particular no implica que el aviso se considere inmediatamente un informe de infracción de la política. «Un informe no es lo mismo que una queja», explica un portavoz de Meta, empresa propietaria de Facebook .
La empresa accedió a comentar directamente sobre las conclusiones de Oberaxe: «Como establecen nuestras Normas Comunitarias, tenemos políticas estrictas contra las conductas de odio, la incitación a la violencia y el acoso». Meta añade: «Siempre nos tomamos muy en serio la aplicación de nuestras políticas, como lo hicimos durante los recientes incidentes [en Torre Pacheco]».
Google también respondió a las menciones a YouTube, defendiendo sus acciones, tanto inmediatamente como después de los hechos. Según esta entidad, la intervención en relación con el discurso de odio fue proporcionada e inmediata.