Almendralejo: De Rosalía al instituto: la inteligencia industrial generaliza la creación de imágenes pornográficas no consentidas | Tecnología

La detección de fotografías falsas de desnudos de adolescentes en Almendralejo (Badajoz) evidencia que la plaga de violencia machista con creaciones hiperrealistas de inteligencia industrial con fines maliciosos, especialmente pornográficos, ha llegado a España. Estados Unidos, Reino Unido y Corea del Sur están a la inicio en denuncias, pero los casos de la cantante Rosalía, víctima de otro cantante que difundió un desleal desnudo, y la maniquí Laura Escanes, que denunció un ataque similar, demuestran que esta marca se ha sólido además en España y se ha extendido a todos los ámbitos, incluidos grupos de menores. Las armas son aplicaciones de inteligencia industrial de dócil acercamiento, pese a las limitaciones que intentan imponer algunas compañías.

El número de estos contenidos en internet, conocidos como deepfakes, se duplica cada seis meses y acaparan más de 134 millones de visualizaciones. En el 95% de los casos, la intención es crear pornografía sin consentimiento y las mujeres son las víctimas en nueve de cada 10 creaciones, según Sensity AI, una compañía de investigación que rastrea vídeos hiperrealistas falsos en internet.

Un deepfake es un vídeo o una imagen estática (además puede ser sonido) donde se sustituye el rostro de la imagen flamante por el de cualquier otra persona, famosa o no. Se basan en técnicas de educación mecánico profundo a raíz de algoritmos complejos que, una vez implementados en una aplicación, son de dócil manejo.

La inteligencia industrial ha convertido este proceso en poco accesible. Esta recrea una secuencia aprendiendo de miles de imágenes similares y utiliza redes neuronales generativas antagónicas (GAN, por sus siglas en inglés) para desarrollar patrones y favorecer que la reproducción sea hiperrealista. Ni siquiera es necesario disponer de un potente equipo personal para crearlos, ya que existen medios en plataformas en la abundancia, en aplicaciones, webs e incluso por Telegram. Algunas compañías como Google han resuelto una cojín de datos con miles de vídeos manipulados para desarrollar herramientas que detecten las falsificaciones.

Responsabilidad empresarial

Dall-e, una de las aplicaciones de creación digital, asegura que ha “acotado la capacidad para crear imágenes violentas, de odio o adultas” y ha desarrollado tecnologías para “evitar generaciones fotorrealistas de rostros de individuos reales, incluidos los de figuras públicas”. Un colección de 10 empresas ha firmado un catálogo de directrices sobre cómo construir, crear y compartir contenidos generados por IA de forma responsable.

Pero muchas aplicaciones campan autónomamente por la Red o por plataformas de transporte o de código hendido. Adicionalmente, la misma inteligencia industrial que se aplica para crear las imágenes facilita eludir los controles.

Los deepfakes más conocidos afectan a personajes populares. Dos de las primeras famosas afectadas fueron las actrices Emma Watson y Natalie Portman. Pero se pueden crear con cualquier persona accediendo a sus imágenes en redes sociales o robándolas de los equipos personales.

“Es crucial surtir las imágenes protegidas y avalar la privacidad, ya que muchos ciberdelincuentes pueden ingresar a ellas a través de diversas técnicas”, afirma Marc Rivero, investigador de seguridad de Kaspersky. Sin retención, según un noticia de esta compañía, el 43,5% de los españoles no protege las cámaras de nadie de sus dispositivos y siquiera sus imágenes.

Ciberviolencia machista

La utilización de deepfakes de mujeres “es un problema de violencia machista”, afirma al Instituto Tecnológico de Massachusetts (MIT) Adam Dodge, fundador de EndTAB, una ordenamiento sin talante de provecho para la educación en usos tecnológicos.

El Instituto Europeo para la Igualdad de Condición además lo considera así e incluye estas creaciones en su noticia sobre ciberviolencia contra las mujeres como una forma más de acometida machista.

“La violencia online no es más que una continuación de la violencia que se produce contra las mujeres y las chicas en el día a día. Esta se amplifica, se extiende y se agrava con el uso de internet y los dispositivos digitales”, explica Iris Luarasi, presidenta del Congregación Práctico en la Lucha contra la Violencia contra la Mujer y la Violencia Doméstica (Grevio).

El Instituto Europeo para la Igualdad de Condición (EIGE, por sus siglas en inglés) incluye entre los ataques “emergentes” contra las mujeres “la difusión de imágenes falsas o la recibo de contenido sexual patente no requerido”.

Expertos como Borja Adsuara, profesor universitario especializado en derecho digital, abogan por la identificación inequívoca de los contenidos como falsos y por rastreadores automáticos de estas creaciones. A su sumario, lo que separa el deepfake de una creación personal amparada por la sinceridad de expresión es su certeza y la finalidad. Adsuara explica que la regulación contemporáneo se fija en el resultado de las acciones y la intención del delincuente. “Si la cuadro nunca ha existido porque es falsa, no se está descubriendo un secreto. Habría que tratarlo como un caso de injurias o como delito contra la integridad honesto al difundirlo con intención de humillar públicamente a otra persona”, explica.

El erudito apunta como una opción que se incorpore el concepto de pseudopornografía, que ya se aplica con menores. “Esto permitiría que los delitos contra la intimidad no incluyeran solo los vídeos reales, sino además los realistas con imágenes íntimas que se parezcan a las de una persona”.

El pasado mayo, Junts per Catalunya presentó una proposición de ley que abordaba la reforma del Código Penal para incluir la difusión de deepfakes, pero fue rechazada y relegada para su debate en la próxima asamblea. El texto proponía penas de prisión de seis meses a dos primaveras para la divulgación de estas creaciones por cualquier medio cuando “menoscabe gravemente el honor o la intimidad”. Asimismo se pedía multa de uno a tres meses para quien, habiéndolas recibido por cualquier plataforma, “las difunda, revele o ceda a terceros sin el consentimiento de la persona afectada.” La pena decano se dirigía a cónyuges o amigos, si existía, adicionalmente, talante de provecho, y cuando la víctima fuera pequeño de etapa o una persona con discapacidad.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para percibir nuestra newsletter semanal.