Las cuentas que mostraban imágenes de niños que planteaban preocupación no se eliminaron incluso después de ser denunciadas.
Instagram no elimina las cuentas que atraen cientos de comentarios sexualizados por publicar fotos de niños en trajes de baño o ropa parcial, incluso después de que se les marquen a través de la herramienta de informes dentro de la aplicación.
La empresa matriz de Instagram, Meta, afirma que adopta un enfoque de tolerancia cero para la explotación infantil. Pero las cuentas que han sido marcadas como sospechosas a través de la herramienta de informes dentro de la aplicación han sido declaradas aceptables por su tecnología de moderación automatizada y permanecen en funcionamiento.
En un caso, un investigador informó de una cuenta que publicaba fotos de niños en poses sexualizadas, utilizando la herramienta de informes dentro de la aplicación. Instagram proporcionó una respuesta el mismo día diciendo que «debido al alto volumen», no había podido ver el informe, pero que su «tecnología ha descubierto que esta cuenta probablemente no va en contra de las directrices de nuestra comunidad». Se aconsejó al usuario que bloqueara o dejara de seguir la cuenta, o que la denunciara de nuevo. Permaneció en directo el sábado, con más de 33 000 seguidores.
También se descubrió que cuentas similares, conocidas como «páginas de atributos», se ejecutaban en Twitter.
Se consideró que una cuenta, que publicaba fotos de un hombre realizando actos sexuales en imágenes de un influencer de TikTok de 14 años, no violaba las reglas de Twitter después de que se denunciara que utilizaba las herramientas dentro de la aplicación, a pesar de que sugiriera en publicaciones que estaba tratando de conectarse con personas para compartir material ilegal. «Buscando intercambiar algunas cosas más jóvenes», dijo uno de sus tuits. Se eliminó después de que el grupo de campaña Collective Shout publicara públicamente sobre él.
Los hallazgos plantean preocupaciones sobre las herramientas de informes dentro de la aplicación de las plataformas, y los críticos dijeron que se parecía permitir que el contenido permaneciera en vivo porque no cumplía con un umbral criminal, a pesar de estar vinculado a presuntas actividades ilegales.
A menudo, las cuentas se utilizan para «depurar pan», donde los delincuentes publican imágenes técnicamente legales pero hacen arreglos para reunirse en línea en grupos de mensajería privados para compartir otro material.
Andy Burrows, jefe de política de seguridad en línea del NSPCC, describió las cuentas como un «ventanilla» para pedófilos. «Las empresas deben identificar de forma proactiva este contenido y luego eliminarlo ellas mismas», dijo. «Pero incluso cuando se les informa, están juzgando que no es una amenaza para los niños y que debe permanecer en el sitio».
Pidió a los parlamentarios que abordaran las «lagunas» en el proyecto de ley de seguridad en línea propuesto, que tiene como objetivo regular las empresas de redes sociales y se debatirá en el parlamento el 19 de abril. Dijo que deberían obligar a las empresas a abordar no solo el contenido ilegal, sino también el que es claramente dañino pero que puede no cumplir con el umbral penal.
Lyn Swanson Kennedy de Collective Shout, una organización benéfica con sede en Australia que supervisa el contenido explotador a nivel mundial, dijo que las plataformas dependían de organizaciones externas para hacer su moderación de contenido por ellas. «Estamos pidiendo a las plataformas que aborden algunas de estas actividades tan preocupantes que ponen a las niñas menores de edad particularmente en grave riesgo de acoso, explotación y sexualización», dijo.
Meta, la empresa matriz de Instagram, dijo que tenía reglas estrictas contra el contenido que explota o pone en peligro sexualmente a los niños, y que lo eliminó cuando se dio cuenta de ello. «También nos centramos en prevenir daños prohibiendo los perfiles sospechosos, restringiendo a los adultos enviar mensajes a los niños con los que no están conectados y incumpliendo a los menores de 18 años a cuentas privadas», dijo un portavoz.
Twitter dijo que las cuentas de las que se le informó habían sido suspendidas permanentemente por violar sus normas. Un portavoz dijo: «Twitter tiene tolerancia cero para cualquier material que incluya o promueva la explotación sexual infantil. Luchamos agresivamente contra el CSE en línea y hemos invertido mucho en tecnología… para hacer cumplir nuestra política».
Imran Ahmed, director ejecutivo del Centro para Combatir el Odio Digital, un grupo de reflexión sin fines de lucro, dijo: «Confiar en la detección automatizada, que sabemos que no puede mantenerse al día con el simple discurso de odio, y mucho menos con las astutas y decididas redes de explotación sexual infantil, es una derogación del deber fundamental de proteger a los niños».
Fuente: https://www.theguardian.com/society/2022/apr/17/instagram-under-fire-over-sexualised-child-images
QAnons España 