La IA que se inventaba perfiles de mujeres para simular paridad

Lo malo, o lo peligroso, es que ahora estas herramientas están al alcance de todos, buenos y malos. Cada avance que se da, abre también una puerta para el desarrollo del crimen, o de acciones menos éticas de lo que deberían. Hace unos días, un desarrollador anunciaba el lanzamiento de una herramienta casi mágica para agilizar el trabajo de diseñadores web. Bastaba un pantallazo de una web para que una IA la clonase al instante, replicando su código de manera gratuita.

No tardaron en llegar los comentarios en X (antiguo Twitter) advirtiendo de los daños colaterales del invento: estaba circulando una herramienta perfecta para el phising, esta estafa online que consiste en copiar un mail del banco, la compañía eléctrica o tu red social favorita para obtener nuestros datos bancarios o cualquier otra información de relevancia.

No es nada nuevo. Desde que el hombre es hombre, la tecnología ha sido usada para el bien o para el mal y, aunque algunos sostengamos que el balance ha sido positivo para la humanidad, no conviene menospreciar los riesgos que un mal uso de la misma puede comportar, especialmente en estos días donde vivimos tan deprisa que no tenemos tiempo a leernos las cosas dos veces antes de tomar cualquier decisión.

Y de esta prisa, o de esta falta de rigor a la hora de leer o de escuchar, se aprovechan muchos. Los maleantes y la gente sin escrúpulos. Porque no solo existen las fake news -impulsadas por agentes de la desinformación a veces patrocinados por estados- sino ahora también las “fake speakers”, descubiertas ahora gracias a que una persona se ha tomado el tiempo de leer dos veces el programa antes de acudir a una conferencia.

El encuentro de desarrolladores Dev Ternity llevaba tres años incluyendo en su programa perfiles de oradoras que no existían. 

Resulta que el encuentro de desarrolladores Dev Ternity llevaba tres años incluyendo en su programa perfiles de oradoras que no existían, generadas con IA. El objetivo era aumentar la presencia de mujeres en un sector, el tecnológico, donde la presencia masculina sigue siendo mayoritaria, pero donde cada vez más veces reclaman más peso de la mujer en eventos y ponencias.

Llegado el día, las “fake speakers” no aparecían en el congreso, algo que a nadie sorprendía, puesto que es bastante habitual que motivos de agenda, enfermedades o cualquier percance hagan variar el desarrollo de un evento en el último instante. Así hasta que el escritor e ingeniero Gergely Orosz decidió investigar un poco el asunto.

Su revelación, que ha generado un aluvión de comentarios en X y en LinkedIN, no ha dejado indiferente a nadie. Máxime porque la conferencia que Orosz denuncia tiene un coste de 789 euros por asistente. Y porque tirando del hilo ha encontrado que otro evento, este enfocado a desarrolladores de Java, que sigue el mismo modus operandi. Se inventa el perfil de mujeres ingenieras que luego no existen ni acuden a las ponencias.

Ambos encuentros son organizados por la misma persona, que se defiende alegando una persecución por parte del denunciante. Pero ya es demasiado tarde. Otros ponentes han anunciado su renuncia a asistir y el evento se viene abajo. Casualmente, las webs ahora no existen, pero el investigador ha demostrado –y lo constata con datos en su hilo de X- que los perfiles de las fake speakers, personas que no han existido nunca- estuvieron colgados más de 10 meses en la web del evento.

Más allá del uso de inteligencia artificial para generar perfiles falsos, lo preocupante de este asunto es la falta de rigor con la que nos movemos por la vida.

¿Cómo es posible que nadie se diese cuanta hasta ahora? La conferencia –que no es barata- ha estado celebrándose al menos tres años con ponentes falsas sin generar ninguna sospecha, o al menos sin que nadie se tomase un rato para investigar quienes eran las personas a las que había pagado dinero por escuchar. Personas que no existían.

Más allá del uso de inteligencia artificial para generar perfiles falsos –algo que también podría hacerse con el antiguo photoshop- lo preocupante de este asunto es la falta de rigor con la que nos movemos por la vida. Estamos cada vez más expuestos a los montajes, cierto. Herramientas muy poderosas pueden clonar voces en cuestión de segundos, y no solo para memes.

Pero es responsabilidad nuestra decidir qué podemos y que no podemos creernos. Dedicar unos minutos a leer con calma aquellas cosas que son importantes. Y dirigir, en definitiva, el desarrollo de unas herramientas que, estoy segura de ello, generarán más beneficios que perjuicios. Debemos exigir una mejor regulación y un respeto absoluto a la privacidad, pero la comprensión lectora debemos ponerla nosotros. Eso, y la curiosidad, que como la de Gergely Orosz ha sido capaz de desvelar una trama que llevaba tres años pasando por buena.

*** Alicia Richart es directora general de Afiniti para España y Portugal.