[responsivevoice_button buttontext="Escuchar la noticia" voice="Spanish

Latin American Female"]

Por José María Bacelo

Un estudio realizado por Maldita.es explora el lado oscuro de las plataformas, en donde depredadores virtuales buscan aprovecharse de los usuarios más jóvenes. Éxito Educativo ha consultado con distintos expertos para analizar los riesgos y posibles medidas preventivas desde la familia y la escuela.

Los múltiples riesgos de TikTok para los menores de edad – Generado con IA

El comportamiento abusivo a través de las redes sociales es bastante habitual dentro de las mismas y múltiples estudios lo avalan. Este puede darse de diversas formas pero una de las más comunes es la relacionada con la pedofilia y los depredadores de carácter sexual. Maldita.es ha revelado, investigación mediante, cómo estos comportamientos son permitidos e ignorados en el punto de encuentro más consumido por los jóvenes: TikTok. A través de esta investigación fueron expuestos más de 20.200 comentarios inapropiados, 1.600 cuentas difusoras de contenido sensible y 380 vídeos analizados con ese material. 

Maldita.es ha accedido a contenidos en donde se solicitan imágenes de niñas de 12, 13 y 14 años. Una quincena de vídeos han servido como prueba para localizar 5.000 publicaciones de menores que adjuntan sus fotos en los comentarios, acumulando más de un millón de visualizaciones. Bajo el mismo prisma, otro de los trends se centra en pedir fotografías para ser calificadas por edad u ofrecerse a ser calificadores. 

Silvia Álava, especialista en Psicología General Sanitaria y en Psicología Educativa, advierte de la irresponsabilidad de muchos de los padres, pues también tenemos que pensar que no solo los menores son los que suben los vídeos: “gran parte de los materiales que se encautan a los pederastas son materiales que han subido los propios padres”. Álava subraya, desde la psicología, que la pérdida de control que tienen en las redes sobre su propia imagen y su “nefasta utilización puede tener consecuencias tremendamente severas a nivel emocional”. Esta reputada especialista pone el foco en la responsabilidad de los educadores “porque los niños y los adolescentes no van a tener la misma percepción de riesgo que un adulto. Su cerebro todavía no está desarrollado y esa corteza prefrontal, ese córtex prefrontal no se termina de desarrollar hasta los 25 años y es precisamente en el córtex prefrontal donde hacemos esa evaluación del peligro y anticipamos las consecuencias”.

De ahí nace la responsabilidad de los centros educativos por concienciar a sus alumnos sobre los peligros que encierra el mal uso de las redes sociales. El debate, históricamente, se ha trasladado hacia el bando de la educación familiar y las facilidades dadas por la propia familia al menor para controlar sus perfiles. Aunque, desde las instituciones educativas, surge la necesidad de dar a conocer los riesgos que existen en el ámbito online para prevenir situaciones como las que el estudio previamente mencionado ha podido confirmar.

Cuando el algoritmo premia al depredador

TikTok se rige mediante algoritmos que promocionan contenidos de forma invasiva y menos personalizada que en otras plataformas. Esto lleva consigo la popularización del término trend, acuñado a las tendencias creadas dentro del lugar. Muchas de ellas se corresponden con material no apto para menores, a pesar de que no se les ofrezca a estos un mecanismo efectivo para prohibir su entrada. De ese modo, pedófilos y depredadores comparten ecosistema con estudiantes de edades muy tempranas que caen en la trampa. 

Diana Jiménez, psicóloga experta en adolescencia y neuropsicóloga educativa, pone como ejemplo un contenido inapropiado y su falta de censura hasta que este gane popularidad en la plataforma. “Si un individuo decide enseñar sus genitales durante un plano rápido en un vídeo sobre puzzles, su clip se colgará normalmente en TikTok como apropiado para menores, estando a disposición de estos hasta que un número suficiente de reacciones haga que el material se considere ‘digno de ser comprobado’ por los censores de contenido”.

Jiménez denuncia que ese contenido peligroso, hasta ser revisado, quedará durante un tiempo con el riesgo de que decenas de miles de menores puedan verlo hasta que sea eliminado. Y va más allá, considerando que “lo ideal es que los chicos no tuvieran acceso a esa red social siendo menores de 16-17 años”.

La red social de origen chino es la más consumida por los jóvenes, que empiezan a utilizarlas desde edades más tempranas. Diana Jiménez, además de lo anterior, rescata la influencia de la fórmula de visibilidad como factor clave. “El algoritmo de TikTok, según la cuenta que lleva el menor, le sugiere determinados contenidos. Se basa en los intereses o los vídeos en los que se detiene. La plataforma identifica que es algo potencialmente interesante para esa persona y no tiene por qué ser así, simplemente está hecho para que los vídeos que más llamen la atención sean los que más te cautiven, aunque no te interesen. Luego hablamos de adolescentes, pero cada vez entran a edades más tempranas: con ocho años entran a una red social en la que hay bailes y empiezan queriendo ver solo bailes. Pero también generan contenidos como la cosmeticorexia, que son niñas que cuidándose la piel, o unboxings. Los adultos no ven nada peligroso en ello, pero están compartiendo cómo hacen su skincare a unas edades en las que no deberían preocuparles esos temas“. 

Vicente de la Cruz, criminólogo, experto en seguridad y director de Delta13 News, puntualiza la responsabilidad de la red social china como origen del problema general, además de destacar el papel de una correcta educación digital entre los afectados. “La clave no es prohibir una aplicación, sino dificultar que puedan encontrar y contactar con las potenciales víctimas. El problema es la existencia de entornos digitales donde millones de menores interactúan diariamente con muy poca supervisión”. Para este experto en seguridad, “lo que se podría exigir es que las plataformas pusieran más controles al acceso de menores, identificando esos perfiles vulnerables”. Cruz explica que “este tipo de plataforma con tantísimo contenido permite el trabajo de los depredadores con relativa facilidad porque tanto los menores como los adultos que los deberían controlar no tienen una educación digital adecuada y comparten datos que no deberían: ubicaciones, conductas, lugares donde van a estar o sus propios gustos”. 

IA + TikTok: un cóctel explosivo

Si bien la Inteligencia Artificial tiene útiles aplicaciones para facilitar labores de trabajo o de creatividad, esta es un arma de doble filo cuando se pasan los límites. El informe de Maldita.es confirma que decenas de cuentas han usado IA para generar vídeos en donde los menores son sexualizados. Por otro lado, la automatización de los algoritmos en TikTok hace que su grado de tolerancia frente a contenidos como estos sea mayor, optando por no eliminarlos e, incluso, impulsarlos frente a otros contenidos menos controvertidos. Durante el estudio, Maldita.es denunció a 15 cuentas que compartían vídeos de menores sexualizadas generados con IA. Solo uno de ellos fue retirado por la plataforma, siguiendo todos accesibles para el público 72 horas después de la denuncia.

Además, estas publicaciones generan un rédito económico tanto para las cuentas que las difunden directamente en TikTok como para aquellos que redirigen a depredadores y víctimas a páginas y plataformas externas aún menos vigiladas (WhatsApp, Telegram, Reddit). Con el objetivo de prevenir estas situaciones, muchos centros están optando por hacer cursos de Inteligencia Artificial tanto para el profesorado como para el alumnado. Estos tienen por objetivo dar visibilidad a los problemas del entorno digital, aportar soluciones factibles y ofrecer un conocimiento suficiente a ambos grupos. 

Silvia Álava hace hincapié en la propiedad de los materiales subidos a redes sociales así como su conversión a productos ficticios. “Es importante saber que el material subido deja de pertenecer al usuario que lo creó. Es posible utilizarlo para muchas cosas, incluso para entrenar una IA que transforme las imágenes en un contenido sexual”.

El aspecto legal de la problemática y sus antecedentes

Para las plataformas este problema puede tener consecuencias más allá de lo reputacional, entrando también en el terreno de lo legal. Abel González, director de criminología en la UDIMA y ex agente tutor en la Guardia Civil, advierte sobre la responsabilidad judicial de estas plataformas. “Aunque TikTok detecte malos comportamientos no parece importarles mucho en su ética empresarial. Otra cosa es que se les obligue desde el punto de vista judicial. No hay que olvidar que Instagram y TikTok ya han sido condenadas en Estados Unidos precisamente porque el funcionamiento de estas plataformas genera adicciones en los menores, se ha demostrado”.

La problemática también tiene un origen legal, pues TikTok, al ser una plataforma china, no está sujeta a las leyes europeas que regulan el funcionamiento de estas redes. Para González, la solución pasaría por “exigir a TikTok el cumplimiento de la ley de servicios digitales en la Unión Europea, sobre todo cuando se detecten los diferentes riesgos en los que se identifica, se selecciona y se contacta con los menores”.

¿Qué papel deberían jugar los colegios e institutos?

Los centros educativos tienen la responsabilidad de promover conductas positivas y de concienciación sobre jóvenes basándose en ejemplos de escala algo más global. En España, el Instituto Nacional de Ciberseguridad (INCIBE) ofrece programas de orientación y formación frente a los riesgos del mundo en red, además de soporte telefónico (017) y virtual (por web y formularios). 

Por ejemplo UNESCO, en colaboración con el Consejo Nacional de Investigación y Formación Educativa (NCERT), ha lanzado un programa de formación para profesores y directivos llamado Online Violence Against Children (Violencia Online contra la Infancia). La iniciativa da a estos competencias técnicas, legales y psicológicas al detectar síntomas de captación o extorsión en redes. 

También existen iniciativas como la eSafety Commissioner de Australia, primera agencia gubernamental dedicada exclusivamente a la seguridad en Internet vinculada a las escuelas. Esta consiste en capacitar a los profesores para frenar actitudes sospechosas por redes sociales. En el caso de los alumnos, se intenta concienciar a los mismos mediante módulos de contactos no deseados o grooming de la peligrosidad de estos basándose en casos reales.

Fuente: https://exitoeducativo.net/empresas-de-servicios-del-sector-educativo/educar-para-prevenir-una-investigacion-revela-la-magnitud-del-acoso-y-la-explotacion-de-menores-en-tiktok