top of page

Educación digital

  • Foto del escritorAdmin

La inteligencia artificial se utiliza para crear imágenes de explotación sexual infantil en línea

Actualizado: 10 ene

En 2023, la Internet Watch Foundation (IWF) creó sus primeros informes sobre material de explotación sexual infantil (MESI) generado por inteligencia artificial (IA). Las investigaciones iniciales descubrieron un mundo de tecnología de conversión de texto a imagen. En resumen, escribimos lo que queremos ver en generadores en línea y el software genera la imagen.

La tecnología es rápida y precisa, las imágenes normalmente se ajustan muy bien a la descripción del texto. Se pueden generar muchas imágenes a la vez; en realidad, sólo estamos limitados por la velocidad de nuestro ordenador. Luego podremos elegir nuestros favoritos, editarlos y dirigir la tecnología para producir exactamente lo que deseamos. Estas imágenes de IA pueden ser tan convincentes que no se pueden distinguir de las imágenes reales.


Resumen del informe


En total, se descubrió que 20.254 imágenes generadas por IA se publicaron en un foro MESI de la dark web en un período de un mes.


De ellas, se seleccionaron 11.108 imágenes para su evaluación por parte de los analistas de la IWF. Estas eran las imágenes que se consideraron con mayor probabilidad de ser catalogadas como criminales. (Las 9.146 imágenes restantes generadas por IA no contenían niños o contenían niños, pero claramente no eran de naturaleza criminal).


12 analistas de IWF dedicaron un total combinado de 87,5 horas a evaluar estas 11.108 imágenes generadas por IA.

Cualquier imagen considerada criminal lo era según una de las dos leyes del Reino Unido. Estas son:


  • Ley de protección de la infancia de 1978 (modificada por la Ley de justicia penal y orden público de 1994). Esta ley tipifica como delito la toma, distribución y posesión de una “fotografía o pseudofotografía indecente de un niño”.

  • Ley de forenses y justicia de 2009. Esta ley tipifica como delito la posesión de “una imagen prohibida de un niño”. No son fotográficos, generalmente caricaturas, dibujos, animaciones o similares.


2.562 imágenes fueron evaluadas como pseudofotografías delictivas y 416 como imágenes delictivas prohibidas.


Otros hallazgos clave


El contenido generado por IA actualmente comprende una pequeña proporción de las actividades normales de la IWF, aunque una de sus características definitorias es su potencial de rápido crecimiento.


Los perpetradores pueden descargar legalmente todo lo que necesitan para generar estas imágenes y luego pueden producir tantas imágenes como quieran, sin conexión, sin posibilidad de ser detectados. Existen varias herramientas para mejorar y editar las imágenes generadas hasta que se vean exactamente como quiere el perpetrador.


La mayoría de los MESI generados por IA encontrados ahora son lo suficientemente realistas como para ser tratados como MESI "reales". El MESI generado por IA más convincente es visualmente indistinguible del MESI real, incluso para los analistas capacitados de la IWF. La tecnología de conversión de texto a imagen ha evolucionado mucho en un año, de aquí en adelante mejorará y planteará más desafíos para la IWF y las agencias encargadas de hacer cumplir la ley.


La investigación encontró evidencia razonable de que el MESI generado por IA ha aumentado el potencial de revictimización de víctimas conocidas de abuso sexual infantil, así como de victimización de niños famosos y de niños conocidos por los perpetradores. Los perpetradores utilizan imágenes de niños, conocidos, hijos de famosos y víctimas previas para generar más material de explotación sexual infantil.


El MESI generado por IA ofrece otra ruta para que los perpetradores se beneficien del abuso sexual infantil. Por un lado venden las imágenes a otros perpetradores, y por otro lado crean y venden guías para ayudar a otros a crear este tipo de material usando la inteligencia artificial. Crear y distribuir guías para la generación de IA CSAM no es actualmente un delito, pero podría tipificarse como tal y el informe insta a los gobiernos a adelantarse e ir legislando en este ámbito.



Conclusiones del informe de IA


Los avances en las tecnologías informáticas, incluido el progreso en la IA generativa, tienen un enorme potencial para mejorar nuestras vidas, y el mal uso de esta tecnología es una pequeña parte de este panorama.


El desarrollo de tecnologías informáticas como el crecimiento de Internet, la difusión de las videollamadas y la transmisión en vivo, y el desarrollo de CGI y programas de edición de imágenes, han permitido la producción y distribución generalizada de MESI que está actualmente en evidencia.


Es demasiado pronto para saber si la IA generativa debería agregarse a la lista anterior como una tecnología notable que supone un cambio radical en la historia de la producción y distribución de MESI.


No obstante, este informe evidencia un problema creciente que presenta varias diferencias clave con tecnologías anteriores. La principal de esas diferencias es el potencial para la generación fuera de línea de imágenes a escala, con el claro potencial de abrumar a quienes trabajan para luchar contra el abuso sexual infantil en línea y desviar importantes recursos del MESI real hacia el MESI generado por IA.


En este contexto, vale la pena volver a enfatizar que esto es lo peor, en términos de calidad de imagen, que jamás será la tecnología de IA. La IA generativa sólo surgió en la conciencia pública el año pasado; una consideración de cómo será dentro de un año (o, de hecho, cinco años) debería dar que pensar. Además, dentro de poco el contenido de vídeo realista en movimiento completo se convertirá en algo común. Ya se han visto los primeros ejemplos de vídeos cortos de MESI generados por IA; estos se volverán más realistas y se extenderán más.


En un intento de auto-regulación y previniendo regulaciones legales estrictas, las principales compañías de inteligencia artificial basadas en generar imágenes a partir de textos, establecen en sus términos de uso la prohibición de contenido indeseable como MESI, pornografía adulta o violencia. El problema es que técnicamente no hay ningún límite para la creación de MESI, estas compañías no pueden prevenir su creación y se muestran muy ambiguas al especificar cómo controlan el material generado o si son capaces de hacerlo.


Los avances en las tecnologías informáticas, incluido el progreso en la inteligencia artificial generativa, tienen un enorme potencial para mejorar nuestras vidas, pero el mal uso de esta tecnología es un quebradero de cabeza que hay que tratar.

Nosotros por nuestra parte, tenemos una razón de peso para seguir trabajando por la privacidad de menores en internet y para seguir recomendando la ausencia de fotos de niños en redes sociales. Con estas nuevas tecnologías cualquiera puede coger fotos de quien sea y convertirlas en material sexual.


Consulta el informe completo en inglés aquí.

41 visualizaciones0 comentarios

Entradas Recientes

Ver todo

Comments


bottom of page