Angus Crawford y Tony Smith

BBC News

Logran el acceso a las imágenes pagando subscripciones a cuentas en sitios populares de intercambio de contenido como la plataforma Patreon.

La empresa declaró que tiene una política de “cero tolerancia” contra este tipo de imágenes en su sitio.

El Consejo Nacional de Jefes de Policía en Reino Unido (NPCC) expresó que era “indignante” que algunas plataformas estuvieran percibiendo “enormes ganancias” al no adoptar una “responsabilidad moral”.

Por su parte, la agencia de inteligencia y ciberseguridad británica GCHQ respondió al informe diciendo: “Los criminales de abuso sexual infantil adoptan todas las tecnologías y algunos creen que el futuro del material de abuso sexual infantil yace en el contenido generado por IA”.

Los productores de las imágenes de abuso están utilizando un programa de IA llamado Stable Diffusion, cuya función original era para generar imágenes para arte o diseño gráfico.

La IA posibilita a las computadoras realizar tareas que típicamente requieren inteligencia humana.

El software de Stable Diffusion permite a los usuarios describir la imagen que buscan, a través de palabras clave, para que el programa luego genere esa imagen.

Pero la BBC ha encontrado que se está usando para crear imágenes realistas de abuso sexual infantil, incluyendo la violación de bebés y menores.

Los equipos de la policía británica que investigan el abuso infantil online dicen ya haberse topado con ese contenido.

La periodista independiente Octavia Sheepshanks investigó el asunto durante varios meses. Se puso en contacto con la BBC a través de la organización benéfica Sociedad para la Prevención de la Crueldad de los Niños (NSPCC, en inglés) para hacer público su trabajo.

“Desde que la generación de imágenes con IA se hizo posible, ha habido una enorme aluvión… no sólo de niñas muy jóvenes, se trata de [pedófilos] hablando de menores”, expresó.

Una “pseudo imagen” generada por una computadora que muestra abuso sexual infantil es considerada en Reino Unido como una imagen real y su posesión, publicación o transferencia son ilegales.

El director de protección infantil del consejo NPCC, Ian Critchley, dijo que sería incorrecto alegar que no se está causando daños a alguien por el hecho de que ningún menor real está representado en ese tipo de imágenes “sintéticas”.

Critchley advirtió que un pedófilo podría “progresar a lo largo de esa escala de ofensa partiendo del pensamiento, a lo sintético, hasta actualmente abusar un niño de verdad”.

Las imágenes de abuso son compartidas a través de un proceso de tres etapas:

• Pedófilos generan las imágenes con software de IA
• Promueven las fotos en plataformas como Pixiv, un sitio japones de intercambio de imágenes
• Estas cuentas tiene vínculos que dirigen a los clientes a imágenes más explícitas, para las que pueden pagar para mirar en cuentas en sitios como Patreon

Algunos de los creadores de las imágenes las están colocando en una popular plataforma de redes sociales llamada Pixiv, que es principalmente usada por artistas de comparten manga y anime.

Sin embargo, debido a que el sitio está basado en Japón, donde el intercambio de dibujos animados sexuales y las ilustraciones de menores no son ilegales, los creadores lo utilizan para promover su trabajo en grupos y vía etiquetas, que crean índices de tópicos según palabras clave.

Un portavoz de Pixiv señaló que el sitio pone mucho énfasis en abordar este tema. Afirmó que el 31 de mayo había prohibido toda representación realista de contenido sexual que involucrara menores.

La compañía aseguró que había fortalecido proactivamente sus sistemas de monitoreo y estaba destinando recursos sustanciales para contrarrestar los problemas relacionados al desarrollo de la IA.

Octavia Sheepshanks dijo a la BBC que los usuarios parecían estar produciendo imágenes de abuso sexual infantil a una escala industrial.

“El volumen es inmenso, hasta el punto en que [los creadores] dicen que ‘apuntamos a producir al menos 1000 imágenes al mes’”, informó la periodista independiente.

Los comentarios de los usuarios sobre las imágenes individuales en Pixiv djan claro que tienen interés sexual en menores, con algunos de ellos incluso ofreciendo aportar imágenes y videos de abuso que no ha sido generados por IA.

Sheepshanks ha estado monitoreando algunos de estos grupos en la plataforma.

“Entre esos grupos, que tendrán 100 miembros, la gente estará compartiendo, ‘Oh, mira, aquí hay un vínculo a la cosa real’”, dice.

“Las cosas más horrorosas, ni siquiera sabía que existieran esas palabras [descripciones]”.

Los precios

Muchas de las cuentas en Pixiv incluyen vínculos a sus biografías que dirigen a la gente a lo que llaman sus “contenidos sin censura” dentro del sitio de contenido compartido Patreon, que está basado en EE.UU.

Patreon está valorado en US$4.000 millones y afirma contar con más de 250.000 creadores, la mayoría de estos son cuentas legítimas que pertenecen a celebridades, periodistas y escritores bien conocidos.

Sus seguidores pueden apoyar a los creadores afiliándose a una subscripción que les da acceso a blogs, podcasts, videos e imágenes por un costo que empieza en US$3,85.

Pero nuestra investigación encontró cuentas de Patreon que ofrecen vender imágenes obscenas fotorrealistas de niños, con diferentes niveles de precio dependiendo del tipo de material requerido.

Uno escribió en su cuenta: “Yo entreno a mis niñas en mi PC”, añadiendo que despliegan “sumisión”. Por US$8,30 al mes, otro usuario ofreció “arte exclusivo no censurado”.

La BBC envió a Patreon un ejemplo, que la plataforma confirmó como “semi realista y viola nuestras políticas”. Dijo que la cuenta había sido inmediatamente retirada.

Patreon afirmó que tiene una política de “tolerancia cero”, insistiendo que: “Los creadores no pueden financiar contenido dedicado a temas sexuales que involucran a menores”.

La compañía dijo que el aumento de contenido dañino generado por IA en internet era “real y preocupante”, añadiendo que había “identificado y eliminado “crecientes cantidades” de dicho material.

“Ya prohibimos material sintético de explotación infantil generado por IA”, manfiestó, describiendo el sitio como “muy proactivo”, con equipos, tecnología y socios dedicados a “proteger a los adolescentes”.

El generador de imágenes de IA Stable Diffusion fue creado como una colaboración internacional entre académicos y una serie de compañías, encabezados por la firma Stability AI.

Se han lanzado varias versiones, con restricciones redactadas dentro de la codificación que controlan el tipo de contenido que se puede crear.

Pero el año pasado, una versión anterior de “fuente abierta” fue lanzada públicamente que permitía a los usuarios remover cualquier filtro y capacitarse para producir cualquier imagen, incluyendo las ilegales.

Stability AI dijo a la BBC que “prohíbe todo uso indebido como propósito ilegal o inmoral en nuestra plataforma, y nuestras políticas aclaran que esto incluye [material de abuso sexual infantil]”.

“Apoyamos firmemente los esfuerzos de los cuerpos policiales contra aquellos que abusan nuestros productos con propósito ilegal o nefario”.

A medida que la IA se desarrolla rápidamente, han surgido dudas sobre los riesgos futuros que podría presentar para la privacidad de las personas, sus derechos humanos y seguridad.

Jo [un pseudónimo por razones de seguridad], directora de la misión contra el abuso sexual infantil de GCHQ, dijo a la BBC: “GCHQ apoya a las agencias policiales para que estén a la delantera de las amenazas emergentes como el contenido generado por IA y asegurar que no haya un refugio para los ofensores”.

Ian Critchley del NPCC declaró que también estaba preocupado que el aluvión de imágenes realistas de IA o “sintéticas” pudiera entorpecer el proceso de identificación de las víctimas reales de abuso.

“Crea un requerimiento adicional, en términos de la vigilancia policial y las agencias del orden para identificar dónde un menor actual, dondequiera que esté en el mundo, está siendo abusado en lugar de un niño artificial o sintético”, explicó.

Critchley señaló además que creía que era una momento crucial para la sociedad.

“Podemos procurar que internet y la tecnología permitan crear las fantásticas oportunidades para los jóvenes, o que se vuelvan un lugar mucho más perjudicial”, concluyó.

Recuerda que puedes recibir notificaciones de BBC News Mundo. Descarga la última versión de nuestra app y actívalas para no perderte nuestro mejor contenido.

¿Ya conoces nuestro canal de YouTube? ¡Suscríbete!

El Ministerio Público (MP) informó que un hombre fue condenado a 79 años de prisión inconmutables luego que el Tribunal de Sentencia Penal de Delitos de Femicidio y otras formas de sindicado de Violencia contra la Mujer y Violencia Sexual de Baja Verapaz lo encontró culpable de tres delitos.

Según la información del MP, el sentenciado es Santiago Canahui Andrés, quien fue encontrado culpable de los delitos de violación, agresión sexual (ambos con agravación de la pena) y posesión de material pornográfico de personas menores de edad.

Añade que el personal de la Agencia Fiscal de la Mujer de Baja Verapaz presentó las pruebas testimoniales, materiales, documentales e informes periciales ante el Tribunal, que finalmente le dio probatorio y con ellas sustentó la condena.

Por WhatsApp

Según el MP, los fiscales demostraron que Canahui Andrés “violentó la indemnidad sexual de una niña de 10 años de edad” y que además le pidió en varias ocasiones que le enviara por WhatsApp, videos con contenido pornográfico.

Mediante la investigación realizada por los fiscales se estableció que los hechos ocurrieron en diferentes lugares de Salamá, Baja Verapaz en el 2018.

Una joven sin hogar de 16 años denunció haber sido abusada sexualmente por cientos de hombres durante los últimos seis meses en el estado de Maharashtra, en la costa oeste de India.

Este es el último aberrante caso que deja en evidencia los problemas de violencia sexual que existen en el país asiático.

De acuerdo al reporte de CNN, al menos siete hombres han sido arrestados luego de que la menor confesara que fue abusada sexualmente en múltiples ocasiones por aproximadamente 400 hombres diferentes.

El Comité de Bienestar Infantil de la India (CWC) relató que esto comenzó cuando la joven india, la cual vive en las calles del distrito de Beed, estaba pidiendo dinero al lado de una parada de autobús, cuando tres hombres la obligaron a tener sexo con ellos.

La menor ha logrado identificar a 25 hombres que habrían abusado sexualmente de ella, en los que se encuentran dos policías y un menor de edad.

A este dramático relato se le suma otros datos impactantes que brindó la joven en sus declaraciones. A los 13 años fue obligada a casarse con un hombre de 33 que abusó sexualmente de ella y también fue agredida sexualmente por su padre desde que era una niña pequeña.

Esta situación de abuso que ha vivido la joven, de quien no se conoce el nombre, fue la que la obligó a huir y terminar viviendo en las calles de India.

Ante estos lamentables hechos, Yogita Bhayana, activista por los derechos humanos de las mujeres indias, escribió en Twitter: “”16 años abusada sexualmente por 400 hombres, incluidos policías a los que había pedido ayuda en el distrito Beed de Maharashtra, pero ¿no hay indignación? ¿sin protestas? … ¿qué hay de los medios? ¿por qué están mudos?”.

Este impactante relato se trata del último caso que deja en evidencia el profundo problema de violencia sexual contra la mujer en India, una situación que lleva existiendo por décadas y lamentablemente sigue aumentando.

Los delitos de violencia contra la mujer en India son un problema social, ya que en muchos casos las víctimas sienten “vergüenza” al sufrir distintos abusos y por esta razón no denuncian a sus agresores.

En 2012, la fatal violación en grupo a una joven india provocó un hecho histórico en el país asiático: miles de personas tomaran las calles del centro de Nueva Delhi para exigir leyes más estrictas ante estos crímenes.

Según la agencia AP, en 2013, luego de este indignante delito, las autoridades de India endurecieron las leyes y las penas ante este tipo de delitos sexuales. La indignación de la población provocó una rápida acción sobre la legislación, la cual duplicó las penas de prisión para abusada sexualmente a 20 años y criminaliza el acoso, acecho y trata de mujeres.

De igual manera, los legisladores indios también votaron a favor de reducir de 18 a 16 años la edad en que una persona puede ser juzgada como adulta ante delitos atroces.

Según CNN, Las estadísticas oficiales de India indican que en 2020 fueron reportados más de 28 mil casos de presunta violación contra mujeres. No obstante, se estima que los números pueden ser mucho mayores debido a la gran cantidad de víctimas que no se atreven a denunciar.

Sin embargo, a pesar de las distintas leyes para castigar severamente el abuso sexual contra la mujer, el delito de violación grupal sigue siendo un problema en aumento en el país asiático.

En septiembre de este año, la policía india arrestó a 33 hombres por la presunta violación en grupo de una niña de 15 años; asimismo, en 2018, una niña de 8 años fue secuestrada, abusada sexualmente , torturada y asesinada por un grupo de personas en una comunidad en el estado de Jammu Cachemira.

Apple anunció detalles de un sistema para detectar material de abuso sexual infantil en los dispositivos de sus clientes estadounidenses.

Antes de que una imagen se almacene en iCloud Photos, el sistema buscará similitudes entre las imágenes en el dispositivo y otras ya conocidas de abuso infantil.

Apple afirmó que si se encuentra una coincidencia, un revisor humano evaluará e informará sobre el usuario a la policía.

Sin embargo, el anuncio ha generado temores de que la tecnología pueda expandirse y permita escanear teléfonos en busca de otros materiales prohibidos, incluso contenidos políticos en dispositivos de disidentes.

Expertos en privacidad expresaron preocupación de que gobiernos autoritarios puedan utilizar esta tecnología para espiar a sus ciudadanos.

Nuevas aplicaciones

Apple anunció que las nuevas versiones de iOS y iPadOS, que se lanzarán a finales de este año, tendrán “nuevas aplicaciones de criptografía para ayudar a limitar la propagación de material de abuso sexual infantil en línea, teniendo en cuenta a la vez la privacidad de los usuarios”.

El sistema funciona comparando fotos con una base de datos de imágenes de abuso sexual infantil compiladas por el Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos (US National Center for Missing and Exploited Children o NCMEC) y otras organizaciones de protección infantil.

Esas imágenes se traducen en códigos numéricos que pueden “coincidir” con el de una imagen en un dispositivo Apple.

La compañía agregó que el sistema también capturará versiones editadas pero similares de imágenes originales.

“Alto nivel de precisión”

“Antes de que una imagen se almacene en iCloud, se cotejará esa imagen con los códigos numéricos de fotos de abuso infantil conocidas”, afirmó Apple.

La compañía señaló que el sistema tiene un “nivel extremadamente alto de precisión y garantiza menos de una en un billón de posibilidades por año de marcar incorrectamente una cuenta determinada”.

Apple dijo que revisará manualmente cada informe para confirmar que hay una coincidencia.

Y luego podría deshabilitar la cuenta de un usuario e informar a las autoridades.

Apple aseguró que la nueva tecnología ofrece beneficios de privacidad “significativos” sobre los sistemas existentes, ya que la empresa solo analizará las fotos de los usuarios si éstos tienen una colección de imágenes de abuso sexual infantil conocidas en su cuenta de iCloud.

Sin embargo, algunos expertos en privacidad han expresado su preocupación.

“Independientemente de los planes a largo plazo de Apple, han enviado una señal muy clara. En su opinión (muy influyente), está bien construir sistemas que escaneen los teléfonos de los usuarios en busca de contenido prohibido“, afirmó Matthew Green, experto en criptografía de Universidad Johns Hopkins.

“No importa si tienen razón o no en ese punto. Esto equivale a ‘abrir las compuertas’; los gobiernos pedirán esta tecnología”.