Polémica con las modelos creadas por inteligencia artificial: ¿mayor diversidad o machismo?

La inteligencia artificial (IA) avanza a una velocidad vertiginosa y cada vez está más presente en nuestra vida diaria. De hecho, hace escasas semanas la marca de tejanos Levi's anunciaba que va a utilizar modelos generadas por esta tecnología para mostrar sus prendas. Esto será posible gracias a su alianza con Lalaland.ai, un estudio de moda digital que ofrece la posibilidad de crear avatares personalizados para aumentar la diversidad entre sus modelos.

[Qué es la inteligencia artificial y por qué todo el mundo está hablando sin parar de ella]

Según apuntó el Daily Mail, la campaña que usará esta tecnología presentará modelos de IA con diferentes tipos de cuerpo, colores de piel y edades, lo que permitirá a los clientes ver cómo se verían los productos en ellos, generando una "experiencia de compra más personal e inclusiva". Aunque la empresa apuntó que: "Probablemente, la IA nunca reemplace completamente los modelos humanos".

Las críticas en redes sociales no tardaron en llegar. Por una parte, se acusó a la compañía de emplear la tecnología para crear "falsas personas no blancas" en lugar de pagar por dicho trabajo a "modelos reales no blancas".

[Levi's se asocia con una IA para expandir su modelaje de ropa y ser más inclusivos]

Algunos usuarios se atrevieron a decir y juzgar que el interés por incluir modelos de varias razas, edades y tipos de cuerpo sea solo una respuesta políticamente correcta a la situación actual. Otros, se lanzaron a afirmar que la marca camufla así un supuesto objetivo de reducir costes y lo valoraron negativamente. 

Por otra parte, se criticó la banalización del arte y se ha cuestionado si es una nueva vía de reproducción de los sesgos de género, ya que la mayoría de personas que trabajan en posiciones relacionadas con la tecnología, y más concretamente con la inteligencia artificial, son hombres.

De hecho, según publicó El Independiente en 2019, apenas el 20% de las personas que se dedican a la IA en España son mujeres. Ese mismo año, el dato que publicó Business Insider se limitaba al 18%.

MagasIN trató de contactar con Levi's para saber si el equipo que desarrolló con la IA el perfil de las modelos contó con mujeres y cómo evita, si es que lo hace, que a través de su tecnología y sus modelos aparezcan sesgos de género, pero no hemos obtenido respuesta. 

En cualquier caso, la compañía publicó un comunicado en el que aclara que no ven el proyecto como un medio para promover la diversidad o como un sustituto de la acción real "que se debe tomar para cumplir con nuestros objetivos de diversidad, equidad e inclusión y no debería haberse presentado como tal". 

Y añadieron que: "La tecnología de Lalaland.ai, y la IA en general, pueden ayudarnos potencialmente al permitirnos publicar más imágenes de nuestros productos en una variedad de tipos de cuerpo con mayor rapidez. Dicho esto, no vamos a reducir nuestros planes de sesiones de fotos en vivo, el uso de modelos en vivo o nuestro compromiso de trabajar con diversas modelos".

En cualquier caso, el debate sobre el impacto de la inteligencia artificial y si esta, al estar dominada por hombres, servirá para reproducir los sesgos de género, está servido. 

¿Un impacto real?

Para conocer si existe un impacto real y, en caso afirmativo, cómo impacta la falta de mujeres en puestos de trabajo vinculados con la tecnología y la inteligencia artificial, nos pusimos en contacto con varios expertos de distintas universidades. 

Desde la Universidad de Salamanca señalan que el impacto de no contar con mujeres en los equipos que desarrollan las modelos con IA se debe, más que al número de mujeres en el equipo, a la mentalidad de dicho equipo.

"Es decir, la falta de mujeres en los equipos de desarrollo de inteligencia artificial puede tener un impacto en cuanto a un posible sesgo de género en los algoritmos creados y modelos de aprendizaje automático. Por ejemplo, si los equipos de desarrollo son preferentemente masculinos y no consideran adecuadamente las perspectivas y experiencias femeninas en la recopilación y preparación de datos y la evaluación de resultados, existirán sesgos", apuntan.

Y continúan: "Más en detalle, si los algoritmos de IA se entrenan con conjuntos de datos históricos que reflejan desigualdades de género, tales como la discriminación en el lugar de trabajo, es probable que los sistemas de IA reproduzcan esas mismas desigualdades. Esto podría manifestarse en decisiones automáticas que reflejen estereotipos de género, como la discriminación en la contratación o en la evaluación de solicitudes de un crédito…"

Sin embargo, señalan que si los equipos, aun siendo mayoritariamente masculinos, tienen en cuenta estas perspectivas, el sesgo no se produciría. "De ello se puede concluir que el impacto viene determinado por la mentalidad y no por el número de mujeres en el equipo".

Por otra parte, la profesora María Julia Flores Gallego (subdirectora del departamento de Sistemas Informáticos en la E.S. de Ingeniería Informática de Albacete, UCLM), considera que el impacto existe y es muy alto "puesto que ya hay muchos sistemas, herramientas, procedimientos, aplicaciones que están ya sea total o parcialmente guiados por modelos de inteligencia artificial".

"Si nos centramos en los equipos de trabajo, deberían de representar la mayor diversidad posible. En el caso de perspectiva de género, la mitad de la población está infra representada. Esto hace que las estrategias y perspectivas con las que se desarrollan los modelos de inteligencia artificial, que luego de manera automática van a regir muchas de nuestras actividades cotidianas, sigan parámetros que no siempre se van a alinear con las mujeres y sus necesidades o características", añade.

En este sentido, considera que la IA puede ser una nueva herramienta para que el machismo se mantenga vivo. "Ese desequilibrio en los equipos de trabajo, y dada la influencia de la IA en nuestro mundo actual, puede generar problemas que dificulten la igualdad. Pero más que abrir una nueva vía, creo que seguiría en una continuidad de lo ya existente. Quiero decir, es compromiso de todos, hombres y mujeres, reducir cualquier brecha que haga nuestra sociedad menos diversa e integradora".

"Pienso que hay que atacar a la raíz del problema, y concienciarnos todos, como sociedad. Muchas niñas no se interesan por las matemáticas, o por la programación, o por la tecnología después, o por informática más tarde, en gran parte por los discursos que reciben tanto de la sociedad, como de sus familias. En mi opinión, esas es la barrera que hay que derribar. Y en cualquier caso, sea quien sea quien trabaje en informática o en IA, deberían siempre hacerlo con unos valores donde se intente huir del machismo y otro tipo de prejuicios", apunta.

La profesora cuenta a magasIN que encontró bastante inspiradora a Sheryl Sanberg. Es famosa su intervención en Ted Talk de 2014, y también escribió un libro (Vayamos Adelante, Conecta, 2013) en el que profundiza en por qué existe ese desequilibrio en las profesiones asociadas a las empresas tecnológicas.

En su opinión, es un trabajo de todos el conseguir que esas desproporciones se reduzcan: "Desde los medios se han de mostrar referentes femeninos, que los hay muchos, como por ejemplo Nuria Oliver en España. Pero también debemos presentar la tecnología de una forma más divertida, creativa, plural y motivante, pues creo que muchas mujeres no se interesan por ella por los clichés que existen, y porque en general no se valoran esos aspectos que indudablemente la IA posee".