Detenidos 25 miembros de un red criminal dedicada a distribuir imágenes de abuso infantil generadas por IA

Según ha informado este viernes la Policía Nacional, dos de las 25 detenciones han tenido lugar en las provincias de Madrid y Barcelona, por agentes españoles. Se han llevado a cabo 33 entradas y registros en domicilios, 4 de ellos en España -en las provincias de Madrid, Barcelona, Jaén y Málaga- y 173 dispositivos electrónicos han sido incautados, 8 de ellos en nuestro país con 16.800 archivos.

«Se trata de una de las primeras operaciones en las que se investiga material de abuso sexual infantil generado íntegramente por inteligencia artificial», ha destacado, para después añadir que la operación aún continúa abierta por lo que no se descartan nuevas detenciones.

La investigación comenzó a partir de la detención en el año 2024 de un ciudadano danés, quien dirigía una plataforma online a través de la que se distribuía material generado por IA que producía previamente. Usuarios de todo el mundo, después de realizar un pago simbólico en línea, podían obtener una contraseña para acceder al material de esta plataforma donde podían visualizar abusos a menores.

«La explotación sexual infantil online sigue siendo una de las mayores amenazas del delito cibernético en la Unión Europea y continúa siendo una de las principales prioridades de las autoridades que se enfrentan a un volumen cada vez mayor de este tipo de contenido ilegal.

En este contexto, la Policía Nacional ha explicado que el material sexual infantil autogenerado constituye una parte importante del total que se detecta y que los delincuentes se sirven de modelos de IA capaces de generar o alterar imágenes para producir el material. Además, ha señalado que estos modelos están «ampliamente» disponibles y se han desarrollado «rápidamente con resultados que actualmente se parecen cada vez más a las imágenes reales, lo que hace que sea más difícil identificarlos como material generado por inteligencia artificial».

«Esto plantea importantes desafíos a las autoridades a la hora de identificar a las verdaderas víctimas. Incluso en los casos en los que el contenido es íntegramente generado por IA y no se representa a ninguna víctima real, como en esta operación, sigue contribuyendo a la cosificación y sexualización de los niños», ha subrayado.

Por otro lado, ha señalado que la operación internacional también está orientada a la adopción de medidas proactivas para prevenir futuros delitos. Por eso, Europol lanzará una campaña online en los próximos días en la que se subrayarán las consecuencias del uso de la IA con fines ilegales, con mensajes en línea para llegar a los compradores de contenido ilegal, así como llamadas telefónicas y mensajes en las redes sociales.

En el curso de la investigación, Europol y el Grupo de Trabajo Conjunto de Acción contra la Ciberdelincuencia (J-CAT) proporcionaron coordinación operativa a las autoridades implicadas en el caso. Asimismo, el Centro Europeo de Ciberdelincuencia de Europol facilitó el intercambio de información y proporcionó inteligencia y análisis operativos a los investigadores de los diferentes países involucrados en la operación.