El potencial de la IA generativa es indudable, como también lo es el potencial para el abuso. Desde que llegaron las primeras apps que usaban IA para crear imágenes, era evidente que se iban a usar con fines maliciosos; en muy poco tiempo, las tiendas de apps de Android y iOS se llenaron de apps para desnudar a mujeres, que sólo necesitaban una foto para aplicar su 'magia'.

Aunque las apps para quitar la ropa han sido prohibidas por Google y Apple, sus responsables han encontrado una manera de entrar en el móvil de los usuarios sin tener que pasar por el aro; se están aprovechando de otra app que también ha tenido su ración de polémica: Telegram.

Desde que su CEO Pavel Durov fuese arrestado en Francia, Telegram ha anunciado varios cambios con los que pretende demostrar su colaboración con la justicia, incluyendo compartir datos de los usuarios con la policía. Sin embargo, la plataforma aún aloja contenido potencialmente ilegal, y como ha revelado Wired y ha confirmado EL ESPAÑOL - El Androide Libre, buena parte de este contenido tiene que ver con la pornografía ilegal.

Telegram aloja decenas de 'bots' capaces de crear imágenes de personas desnudas usando IA, a partir de fotografías reales; algunos de estos 'bots' se aprovechan de una función poco conocida de Telegram, llamada 'Mini Apps', para ganar dinero con cada creación de una foto desnuda sin permiso. Otros 'bots' afirman ser capaces de meter a cualquier persona en una película porno, cambiando la cara del actor o actriz con la de la víctima.

Los 'bots' de Telegram son usuarios automatizados, que son capaces de responder cuando el usuario escribe comandos concretos; los 'bots' normalmente están asociados a un canal, porque son usados dentro de estos foros, pero también se pueden usar de manera independiente. La investigación de Wired reveló que al menos 25 de estos canales asociados con los 'bots' tienen más de 3 millones de usuarios combinados.

Los 'bots' promocionan su capacidad de desnudar a cualquier mujer, en ocasiones usando fotografías de modelos que son modificadas para aparentar que les han quitado la ropa. Sin embargo, el proceso no es gratis; la mayoría de los 'bots' requieren el uso de 'tokens', que se obtienen con las Estrellas de Telegram, monedas virtuales que se pueden comprar directamente dentro de la aplicación o en las tiendas de apps de Apple y Google. Por lo tanto, Telegram no solo aloja estas plataformas, también las monetiza y gana algo de dinero con cada compra de un desnudo falso.

Otros 'bots' se aprovechan de una función de Telegram, las 'mini apps', que son básicamente páginas web adaptadas a la pantalla del móvil, que se inician cuando el usuario usa el 'bot'. De esta manera, los responsables pueden redirigir al usuario a su propia app, desde la que pueden cobrar directamente al usuario por la creación de fotos de desnudos.

Como es habitual, estos 'bots' y 'mini apps' que prometen ser capaces de desnudar a una mujer en realidad son una estafa. Lo único que hace la función es sustituir las partes del cuerpo que están tapadas por imágenes obtenidas de una base de datos de mujeres desnudas; en otras palabras, la IA realmente no está 'desnudando' a la mujer que aparece en la foto, sólo le está poniendo partes sacadas de otras mujeres. Aún así, el efecto psicológico que tiene esta práctica y su uso para el 'bullying' y el acoso es bien conocido y documentado, como el caso de Almendralejo.

Aunque Telegram afirma que ha borrado los 'bots' y canales que fueron identificados por Wired, EL ESPAÑOL - El Androide Libre ha podido confirmar de manera independiente que sigue siendo posible encontrar y usar muchos 'bots' similares o idénticos.