Aunque el fenómeno de las apps capaces de desnudar a cualquier mujer como por ‘arte de magia’ no es precisamente nuevo, no cabe ninguna duda de que la popularización de la IA generativa ha empeorado este problema. No es raro encontrarse con apps que no sólo permiten ‘desnudar’ a una persona usando IA, las hay incluso que lo promocionan como su principal ventaja respecto a otras. Y en el futuro, será posible crear vídeos de personas desnudas.
En realidad, lo único que hacen estas apps es crear imágenes falsas a partir de una base de datos de fotografías de mujeres desnudas. Pero los resultados son cada vez más realistas y por lo tanto, son cada vez más populares; hasta el punto de que ya se están usando en casos de ‘bullying’ a menores en España en los que se comparten desnudos no consentidos creados a partir de fotografías inocentes.
La tecnología de IA generativa tiene el potencial de empeorar las cosas, por su excepcional capacidad de crear imágenes realistas con una simple orden. Lo peor es que no hace falta que la app esté diseñada específicamente para eso; desde el principio, los servicios de generación de imagen se han usado para crear desnudos de famosas como Taylor Swift, hasta que los creadores han implementado limitaciones.
Ahora, imponer esas limitaciones será algo obligatorio antes de lanzar una app de Android a través de Google Play, la mayor tienda de apps y la que viene por defecto en casi todos los móviles Android vendidos en España. Google ha publicado nuevas directrices para los desarrolladores, que les obliga a prevenir la generación de contenido “restringido”, que es como califica al contenido sexual y violento entre otras cosas.
En concreto, Google advierte a los desarrolladores de apps que usen IA de que tendrán que “comprobar rigurosamente” que sus modelos respetan la privacidad y la seguridad de los usuarios, incluyendo la creación de desnudos no consentidos. Todas las apps que generen contenido por IA tendrán que restringir la creación de ese tipo de contenido; y deben ofrecer a los usuarios una manera de marcar ese contenido para su eliminación. Los desarrolladores deben monitorizar estos avisos y darles prioridad para acabar con este tipo de contenido.
El otro gran cambio va dirigido más directamente contra las apps de desnudos. Los desarrolladores no podrán publicitar sus apps como que son capaces de quitarle la ropa a una persona o desnudarla completamente. Un detalle muy importante es que no importa si la app realmente puede hacer eso; aunque sea mentira, Google puede expulsar al desarrollador si afirma que puede.