De vez en cuando, hay artículos que no queremos hacer en Omicrono, pero que no tenemos más remedio que publicar. El artículo sobre DeepNude, un programa que permite “desnudar” a mujeres usando aprendizaje automático, fue uno de ellos. Muchos de nuestros lectores se quejaron, y con razón, por dar publicidad a una app con intereses tan mezquinos; ahora, y en parte gracias a la denuncia de tantas webs, sus creadores han decidido abandonar el proyecto, aunque el daño ya esté hecho.

DeepNude promete hacer realidad el sueño húmedo de muchas personas: desnudar a cualquier mujer. En realidad, el programa funciona basándose en una base de datos de desnudos y aplicando las partes que más encajan con el cuerpo de la persona; de esta manera, podemos coger cualquier fotografía y crear una en la que parezca que la mujer está desnuda. Realmente los senos y genitales mostrados no son de esa persona, pero poco importa; el potencial de esta app para crear falsos desnudos es tremendo, y puede ser usado tanto para invadir la privacidad de las víctimas como para otros objetivos más siniestros, como venganzas (por ejemplo, publicar fotografías como si fueran reales).

La app para desnudar a mujeres cierra

Aunque DeepNude llevaba en marcha ya varios meses, fue con un artículo publicado por Motherboard y una multitud de medios que la mayoría de la gente lo descubrió. De hecho, sus creadores no esperaban esto y la página sufrió problemas por la gran cantidad de gente que intentaba descargar la app. La presión fue mayor que nunca, y finalmente los creadores de la app usaron Twitter para anunciar que abandonaban el proyecto.

En el mensaje, dejan entrever que el problema está precisamente en la reciente popularidad de la app. Que inicialmente sólo hacían algunas ventas (a 50 dólares cada licencia) de manera controlada; pero que “las posibilidades de abuso” eran demasiadas con cientos de miles de usuarios. Sin embargo, ignoran el hecho de que estas “ventas controladas” probablemente hayan servido para ese tipo de abuso. El mensaje tiene un claro tono defensivo, probablemente para evitar problemas con posibles denuncias.

Por ejemplo, afirman haber implementado una serie de “medidas de seguridad” como las marcas de agua; pero no dicen que, en la versión de pago esas marcas de agua no molestan y están en sitios donde pueden ser recortadas fácilmente. Las marcas de agua sólo molestan realmente en la versión gratuita, donde tapan la mayor parte del desnudo falso.

La app seguirá siendo compartida

Parece evidente que la fama ha sentado mal a los creadores de esta app, y han decidido dejar de ofrecer el software; no solo dejarán de actualizarlo sino que no ofrecerán descargas, y avisan que descargarlo de cualquier otro sitio vulnera la licencia de uso. Para terminar, afirman que “el mundo no está listo aún para DeepNude”, dejando entrever que echan la culpa a quienes no han sabido aceptar su idea.

Por supuesto, estamos ante un patético intento de cerrar la Caja de Pandora. Ya hay suficiente gente con una licencia de pago como para generar una cantidad importante de desnudos falsos; pero es que, además, los propios creadores de DeepNude reconocen que su programa seguirá siendo distribuido y compartido en la red. Ya hay copias piratas disponibles en los sitios habituales, y la cantidad de descargas sólo aumenta. Además, es muy probable que aparezcan alternativas basadas en el mismo concepto o incluso el mismo código.

Por lo tanto, esto es sólo el principio. Lo queramos o no, hemos entrado en la era de los desnudos falsos y ya no podemos salir. Un uso irresponsable de la tecnología nos ha llevado a esta situación, y sólo esperamos que la cosa no empeore.