- Una investigación impactante sugiere que la IA se está utilizando para hacer imágenes de abuso infantil
- Estas imágenes se intercambian y venden en el sitio japonés de Pixiv
- En la legislación del Reino Unido, las imágenes de abuso infantil generadas por IA se tratan de la misma manera que las imágenes reales
Los pedófilos están utilizando la inteligencia artificial (IA) para crear imágenes realistas de abuso sexual infantil, según un nuevo informe.
Una investigación impactante alega que las representaciones de bebés y niños pequeños siendo violados se encuentran entre las numerosas imágenes producidas por abusadores que utilizan Stable Diffusion.
Si bien el software de generación de imágenes está destinado a hacer obras de arte, el uso de indicaciones de palabras por parte de la IA permite que se forme cualquier imagen deseada.
La BBC afirma que estos se venden y comercializan en el sitio japonés de Pixiv, con cuentas que a menudo conducen a un contenido más explícito en el Patreon con sede en EE. UU.
«Desde que las imágenes generadas por la IA se hicieron posibles, ha habido esta gran inundación… no son solo chicas muy jóvenes, son [pedófilas] hablando de niños pequeños», dijo la periodista Olivia Sheepshanks a la publicación.
El nuevo informe llega solo un mes después de que se descubriera que la plataforma de IA Midjourney también transformaba fotos reales de niños en imágenes sexualizadas.
En algunos casos, los pervertidos han ido aún más lejos al experimentar con tecnología «deepfake» para pegar las caras de los niños actores de la vida real en cuerpos desnudos, según las autoridades.
En medio de estas revelaciones, Anna Edmundson, Jefa de Política y Asuntos Públicos de la Sociedad Nacional para la Prevención de la Crueldad hacia los Niños (NSPCC), dijo a MailOnline que «es impresionante», pero lamentablemente «no es sorprendente».
«La IA y la Realidad Virtual están facilitando nuevas líneas de primera línea en el abuso sexual infantil en línea que están siendo explotados por delincuentes a gran escala», dijo.
«La velocidad con la que estas tecnologías emergentes han sido cooptadas por los abusadores es impresionante, pero no sorprendente, ya que las empresas que fueron advertidas de los peligros se han sentado en sus manos mientras hablaban de tópicos vacíos sobre la seguridad.
«Las empresas de tecnología ahora saben cómo se están utilizando sus productos para facilitar el abuso sexual infantil y no puede haber más excusas para la inacción».
En la legislación del Reino Unido, estas imágenes generadas por IA se tratan de la misma manera que las fotografías pornográficas reales de niños que son ilegales de poseer o comerciar.
Pero las caricaturas sexualizadas de niños no son ilegales en Japón, que alberga el sitio de intercambio de imágenes Pixiv, lo que significa que los creadores pueden promocionar fácilmente este contenido.
Se entiende que los hashtags se utilizan principalmente para hacer esto, y los creadores los utilizan para indexar palabras clave de nicho.
También se dice que una serie de comentarios en estas publicaciones dirigen a los usuarios a otro contenido abusivo que a veces es completamente real.
La Sra. Edmundson continuó: «El Gobierno debería establecer explícitamente cómo el Proyecto de Ley de Seguridad en Línea regulará tanto la IA como la tecnología de inmersión y solucionará el vacío legal en la legislación que dejaría a los altos directivos fuera del gancho si no abordan la forma en que sus productos contribuyen al abuso sexual infantil».
Un portavoz de Pixiv dijo a la BBC que había reforzado sus sistemas de monitoreo en un intento de abordar este problema de la pornografía infantil.
Las imágenes fotorrealistas de IA de niños también fueron prohibidas el 31 de mayo, pero no está claro qué impacto ha tenido esto.
«El volumen es enorme», continuó la Sra. Sheepshanks. «Así que la gente [los creadores] dirá «apuntamos a hacer al menos 1000 imágenes al mes».
Mientras tanto, tanto Patreon como Stability AI dijeron a la publicación que no toleran material de abuso sexual infantil.
Stability AI dijo: «Apoyamos firmemente los esfuerzos de aplicación de la ley contra aquellos que hacen un mal uso de nuestros productos con fines ilegales o nefastos».
MailOnline se ha puesto en contacto con Pixiv, Stable Diffusion AI y Patreon para hacer más comentarios.
¿QUÉ ES LA IA DE DIFUSIÓN ESTABLE?
Midjourney es un generador de imágenes en línea que, al igual que ChatGPT, utiliza indicaciones para entregar una salida.
Pero estos resultados suelen consistir en imágenes en lugar de palabras.
Millones de personas utilizan esta plataforma para crear imágenes realistas que a menudo han engañado a personas de todo el mundo.
Por ejemplo, en abril, los hombres solitarios en Reddit fueron engañados para que compraran desnudos de lo que creían que era una mujer «hermosa», solo para descubrir que la chica de pelo negro fue generada por la IA.
Un usuario llamado «Claudia» publicó imágenes escandalosas en la plataforma, ofreciendo enviar desnudos a cualquiera que le enviara un mensaje en privado, pero por el precio justo.
Varios usuarios se lanzaron a la ocasión: uno se ofreció a pagar por sus desnudos y otro le pidió a la IA que saliera, señalando que ganan un salario de seis cifras.
QAnons España 