El algoritmo de TikTok recomienda pornografía a menores según informe y contenido altamente sexualizado a cuentas infantiles, según un nuevo informe de un grupo de campaña por los derechos humanos.
Los investigadores crearon cuentas falsas de niños y activaron las configuraciones de seguridad, pero aun así recibieron sugerencias de búsqueda sexualmente explícitas.
Los términos sugeridos condujeron a material sexualizado que incluía vídeos explícitos de sexo con penetración.
La plataforma afirma estar comprometida con ofrecer experiencias seguras y apropiadas para cada edad, y que tomó medidas inmediatas al conocer el problema.
A finales de julio y principios de agosto de este año, investigadores del grupo de campaña Global Witness crearon cuatro cuentas en TikTok haciéndose pasar por niños de 13 años.
Utilizaron fechas de nacimiento falsas y no se les pidió ninguna otra información para confirmar sus identidades.
Pornografía
También activaron el «modo restringido» de la plataforma, que según TikTok impide que los usuarios vean «temas maduros o complejos, como… contenido sexualmente sugerente».
Sin realizar búsquedas por sí mismos, los investigadores encontraron términos de búsqueda abiertamente sexualizados recomendados en la sección «quizás te guste» de la aplicación.
Esos términos conducían a contenido de mujeres simulando masturbación.
Otros vídeos mostraban a mujeres exhibiendo su ropa interior en lugares públicos o exponiendo sus pechos.
En su forma más extrema, el contenido incluía películas pornográficas explícitas con sexo penetrativo.
Estos vídeos estaban incrustados en otros contenidos aparentemente inocentes, en un intento exitoso de evadir la moderación de contenido.
Ava Lee, de Global Witness, dijo que los hallazgos fueron un «gran impacto» para los investigadores.
«TikTok no solo está fallando en impedir que los niños accedan a contenido inapropiado, sino que se lo está sugiriendo desde el momento en que crean una cuenta».
Global Witness es un grupo de campaña que normalmente investiga cómo las grandes tecnológicas afectan las discusiones sobre derechos humanos, democracia y cambio climático.
Los investigadores se toparon con este problema mientras realizaban otra investigación en abril de este año.
LEA TAMBIEN: Doctores advierten sobre reto viral de ramen caliente que ya deja niños hospitalizados TikTok recomienda pornografía a menores según informe
Vídeos eliminados
Informaron a TikTok, que dijo haber tomado medidas inmediatas para resolver el problema.
Pero a finales de julio y agosto, el grupo de campaña repitió el experimento y volvió a encontrar que la aplicación recomendaba contenido sexual.
TikTok afirma tener más de 50 funciones diseñadas para mantener seguros a los adolescentes: «Estamos totalmente comprometidos con ofrecer experiencias seguras y apropiadas para cada edad».
La aplicación dice que elimina nueve de cada diez vídeos que violan sus normas antes de que sean vistos.
Al ser informado por Global Witness de sus hallazgos, TikTok afirma que tomó medidas para «eliminar contenido que violaba nuestras políticas y lanzar mejoras en nuestra función de sugerencias de búsqueda».
Códigos Infantiles
El 25 de julio de este año entraron en vigor los Códigos Infantiles de la Ley de Seguridad en Línea, imponiendo un deber legal de proteger a los niños en internet.
Las plataformas ahora deben usar «verificación de edad altamente efectiva» para evitar que los niños vean pornografía. También deben ajustar sus algoritmos para bloquear contenido que fomente la autolesión, el suicidio o los trastornos alimenticios.
Global Witness realizó su segundo proyecto de investigación después de que los Códigos Infantiles entraran en vigor.
Ava Lee de Global Witness dijo: «Todos estamos de acuerdo en que debemos mantener a los niños seguros en línea… Ahora es momento de que los reguladores actúen».
Durante su trabajo, los investigadores también observaron la reacción de otros usuarios ante los términos sexualizados que se les recomendaban.
Un comentarista escribió: «¿Alguien puede explicarme qué pasa con mis recomendaciones de búsqueda, por favor?»
Otro preguntó: «¿Qué le pasa a esta aplicación?»
BBC/RDN
