Tik Tok, la popular aplicación de videos cortos, se ha convertido en un inesperado refugio para la propagación de la ideología nazi. Un reciente estudio del Instituto para el Diálogo Estratégico (ISD) ha desvelado una alarmante red de 200 cuentas que difunden contenido nazi, obteniendo millones de visualizaciones.

Los investigadores han documentado una amplia gama de contenidos, desde negación del Holocausto y glorificación de Hitler hasta llamados a la violencia y la promoción del nazismo como solución a los problemas actuales. La inteligencia artificial ha jugado un papel fundamental en la creación de este contenido, generando imágenes y traducciones que modernizan la propaganda nazi y la hacen más atractiva para un público joven.

Lo más preocupante es que TikTok, a pesar de contar con políticas contra el discurso de odio, parece incapaz de detectar y eliminar este tipo de contenido de manera efectiva. Los investigadores han reportado numerosas cuentas que incumplen claramente las normas de la plataforma, pero TikTok las ha descartado, alegando que no infringen sus políticas.

El algoritmo de TikTok, diseñado para mostrar a los usuarios contenidos que puedan resultarles interesantes, se ha convertido en un amplificador de este discurso de odio. Los investigadores han comprobado cómo, al visualizar unos pocos videos nazis, la plataforma sugiere de forma automática más contenido similar, creando así una suerte de "burbuja" extremista.

Esta situación se ve agravada por la coordinación entre diferentes plataformas. Los activistas nazis utilizan canales como Telegram para promover sus videos en TikTok, creando campañas coordinadas para viralizar sus mensajes y alcanzar a un público más amplio.

La incapacidad de TikTok para combatir este problema plantea serias interrogantes sobre la responsabilidad de las grandes plataformas en la difusión de contenidos tóxicos. ¿Hasta qué punto son responsables las redes sociales de los contenidos que se comparten en sus plataformas? ¿Qué medidas deben tomar para garantizar que sus algoritmos no se utilicen para propagar el odio y la violencia?