La gurú en inteligencia artificial Manuela Delgado y el curioso caso del sesgo de la croqueta

Manuela Delgado trabaja desde hace más de 20 años en el sector industrial en áreas relacionadas con la gestión de productos y los últimos diez en producto digital.

[Cómo crear imágenes con Inteligencia Artificial en español y gratis con lo nuevo de Microsoft]

Actualmente, es responsable del área de Proyectos de Innovación Tecnológica en NTT Data, uno de los 10 principales proveedores de servicios informáticos del mundo, con sede en Tokio y que opera en más de 50 países.

En 2020 impulsó la publicación, junto con otras diecisiete colegas ingenieras, del libro 10001 amigas ingenieras, un texto que busca fomentar e incentivar la competencia científica en las niñas a través de historias de esfuerzo y curiosidad que van acompañadas de experimentos, recetas y datos.

Manuela Delgado firmando ejemplares del libro '10001 amigas ingenieras'.

Además, es una de las ‘Top 100 Mujeres Líderes en España’ y forma parte de la Asociación de Mujeres Investigadoras y Tecnólogas, una organización que busca ser red de apoyo para otras mujeres de ciencia e investigación.

Hablamos con Manuela Delgado sobre Inteligencia Artificial y sus usos, y sobre un divertido experimento que recientemente ha llevado a cabo.

“En mi trabajo como utilizamos todas las tecnologías, estoy profundizando en cómo debe ser el tratamiento de los datos para alimentar los modelos de inteligencia artificial, porque no es lo mismo analizar un dato y sacar unas estadísticas con porcentajes que el tratamiento que se debe hacer a los datos para alimentar una buena inteligencia artificial. Tiene que darse otra visión porque tiene otro impacto. Bueno, y ahora con el ChatGPT ya ni te cuento, es como la barbaridad absoluta que puede derivar en cosas que no queremos”, asegura la experta.

¿Qué es la inteligencia artificial para tí?

Es una herramienta muy potente para encontrar soluciones que a lo mejor con otras herramientas o con nuestro propio proceso mental no podríamos encontrar. Es una buena herramienta que nos puede ayudar mucho pero claro, cuando se entiende bien como es la inteligencia artificial, y cuando se utiliza bien desde el principio, que para mí ocurre cuando le das buenos datos.

Manuela Delgado comiendo croquetas para su experimento de IA.

¿Por qué no es la cura para todo?

No es la cura para todo porque la inteligencia artificial es una herramienta y ninguna sirve para todo, igual que ninguna medicina, sirve para todas las enfermedades. Tenemos que verla como una herramienta que nos ayude a hacer algo, pero ese algo debe tener un propósito, tiene que estar bien analizado.

Puedes utilizar la inteligencia artificial para, por ejemplo, aumentar los conocimientos o encontrar nuevas soluciones en el campo de la Biomedicina, por ejemplo. Eso tiene un propósito y si lo conducimos bien, nos va a dar buenos resultados. Pero no podemos coger lo que hemos hecho para la Biomedicina y aplicarlo en la Gastronomía, porque ese es otro campo que tiene otro propósito y tienes que preparar la herramienta para ello. No es la cura para todo, porque cada tema tiene su propósito.

¿Qué nos pasa con ChatGPT ahora? ¿No te da un poco de miedo?

Más miedo que la inteligencia artificial, me da miedo la ignorancia humana, porque la inteligencia artificial llevamos usándola y desarrollándola desde hace muchísimos años. Cuando entramos en Internet y nos recomiendan un viaje o una compra, todo eso está hecho con inteligencia artificial. ¿Qué pasa con ChatGPT? Primero, que es una versión beta, que eso lo oigo muy pocas veces. Los inventores del tema dicen: ¡Ojo que estamos probando esto!

Por otro lado, el ChatGPT se ha alimentado de todos los textos, imágenes, recomendaciones y foros de Internet. Con todo lo que eso conlleva. 9 de cada 10 personas en el mundo no tienen acceso a Internet. Por lo tanto, el primer sesgo es que tiene el sesgo del primer mundo, porque se ha alimentado de lo que hemos escrito en el primer mundo.

Y después, se trata de unas redes neuronales que no identifican como a lo mejor hacen otros algoritmos. Por ejemplo, los algoritmos para la visión se alimentan de cámaras... Pues tu alimentas ese modelo con un montón de tipos de pieles, de ojos, de nariz, le estás aportando diversidad y entonces sabe identificar que es una cara, pero porque entiende la diversidad.

¿Qué le pasa a este modelo? Que, al ser entrenado primero con este sesgo del primer mundo, y después con todos los sesgos cognitivos que todas las personas hemos aplicado en Internet cuando damos un clic a internet, cuando expresamos algo en un post, en una red social estamos aplicando nuestros propios sesgos cognitivos.

Entonces el contexto que entienden estas redes neuronales ya está sesgado. Pero es que además estas redes neuronales lo que hacen es generar, inventar un contexto, y entonces la gente dice: es que ChatGPT miente o se equivoca. A ver, si y no, lo que pasa es que entiende un contexto y dice bueno, pues voy a dar esta solución, porque genera una solución a ese contexto. A lo mejor esa respuesta no está de acuerdo a lo que tú crees que debe dar, pero es que para esa red neuronal es una buena respuesta, que ese es también el peligro, que emite respuestas creyendo que son verdades, pero no tiene porqué...

A veces, cuando escucho que ha dicho Chat GPT que se va a acabar el mundo… ¿Por qué ha dicho que se va a acabar el mundo? Pues porque alguien se lo ha preguntado, porque si no, no lo dice. Te contesta cosas a las que tú le preguntas.

Lo que ha hecho es poner de forma masiva la inteligencia artificial en la mano de cualquier persona, porque lo que hace es que entiende el lenguaje natural. Le escribes y directamente con lo que le escribes te contesta. Pero es muy importante como metemos esos textos para que nos conteste. Esas son las órdenes que tú le das a la inteligencia artificial, que hasta ahora se estaban dando de una forma programática.Y ahora las entiende de una forma textual o incluso con voz.

Cuéntanos en qué consiste el proyecto, ‘el curioso caso del sesgo de la croqueta’ en el que estás inmersa.

El proyecto nace durante una conversación en una comida en un restaurante muy conocido de Zaragoza, cuya especialidad son las croquetas. Estábamos hablando sobre cómo acercar la inteligencia artificial a la ciudadanía, fuera del sector tecnológico.

Dijimos: ¡Vamos a preguntar a ChatGPT como es una mujer después de comer croquetas! Y también lo hicimos con un hombre, y nos devolvía imágenes muy diferentes a las que esperaríamos y pensamos que el sesgo estaba en la croqueta...

Se veía muy claro que estaba dándole unas propiedades y un contexto a una croqueta que sesgaba, y se nos ocurrió hackear lo que entiende ChatGPT de las croquetas, de una forma divertida y nos lo pasamos bien en los bares.

En Instagram, pedimos a la gente que se pusiera en contacto con nosotras quien quisiera entrenar un modelo de inteligencia artificial, comiendo croquetas y disfrutando. A las 12 horas teníamos ya a 53 personas, cerramos la convocatoria e hicimos una sesión.

¿Cómo lo hicisteis?

Pusimos el foco en la entrada del dato, que, en este caso, era cuando tú vas a alimentar un modelo de inteligencia artificial, técnicamente se llama ingesta de datos para que luego el modelo lo trabaje.

Entonces quisimos hacer una ingesta literal, y nos comimos las croquetas poniendo el foco en el momento en que tú le das el mordisco a la croqueta. Y ese momento les pedimos a estas personas que lo asociarán con ocho sabores e identificar cada sabor a una emoción, las 6 emociones básicas de inteligencia emocional. Y eso hicieron.

Lo recogimos en un pequeño formulario y aplicamos dos sesgos conscientes: uno que era la edad de la persona, y luego dónde había transcurrido infancia en el pueblo o en la ciudad. Así que bueno, con esos datos y con esas emociones que, sobre todo, queríamos recalcar que necesitamos como personas desarrollar nuestra inteligencia emocional en ese momento, porque es el crítico en el que tú le das los datos al modelo.

Y a partir de ahí empezamos a entrenar un modelo, y un contexto. Hicimos preguntas como: ¿qué es lo que más les da miedo a las personas de más de 25 años que han nacido en un pueblo? Y cosas así...Fuimos preguntando y preguntando hasta que encontramos el perfil de esas personas. Y sacamos los insights, que es como hacen los algoritmos, lo que no sabemos de nosotros, ni siquiera nosotros…

 Y le pedisteis de nuevo las imágenes…

Sí, le dijimos muéstranos en imágenes como son estas personas. Y vimos como realmente había impacto en el modelo. Habíamos actuado sobre la croqueta que era lo que estaba sesgado y estereotipado, y ahora nos aparecían mujeres y hombres que nos transmitían otras emociones, variados, se veían de diferentes edades, etc.

 Fuimos un poquito más allá y elegimos dos emociones la alegría, porque creemos que a todos nos gusta estar alegres y el miedo porque es con lo que nos manipulan. Y le pedimos dos sabores nuevos de recetas para esas personas en ese contexto, y nos dio unas recetas impresionantes. Lo que quisimos también es comernos los resultados y en esa sesión nos comimos los resultados. Nos ofreció una croqueta de la alegría y una croqueta del miedo.

Lo importante de este experimento no es que las croquetas se hayan hecho con inteligencia artificial, porque eso digamos que es aplicar una herramienta y ya está, sino que las personas que han participado en este proyecto son conscientes de cómo han entrenado al modelo y lo que hacemos es un símil con que cada vez que le das un bocado a una croqueta es un clic en internet. La importancia que tiene el conocer tus emociones, que es lo que escribes y que se deriva a partir de haces un clic, o dar un dato en internet.

Dices que la brecha de género, además de inmensa, es irrespetuosa en bastantes ocasiones en las empresas.

He trabajado con la Asociación de Mujeres investigadoras y tecnólogas en los orígenes de esta brecha de género. Y una de las palancas clave es la falta de referentes de mujeres.

Por eso también, mi activismo en este sentido, en la generación de referentes cercanos para que esas niñas se puedan inspirar ya desde pequeñas. Pero si vamos a las empresas es mayúsculo el gap que hay entre hombres y mujeres.

Siempre vigilo los paneles de las empresas para que haya un equilibrio coherente, buscas referentes mujeres para hacerlas visibles, pero es que no hay, no encontramos programadoras. Hay que ir al origen, a esas niñas que ya en primaria empiezan a pensar que es cosa de chicos. Es una obligación de las empresas el buscarlas, visibilizarlas y generar esos referentes y apoyar, sobre todo, a esas trabajadoras.

Y por eso escribiste 10001 amigas ingenieras

Tenemos en la asociación un programa que se llama ‘Una ingeniera en cada cole’, en el que voluntarias de empresas, instituciones y organismos públicos van a los coles para dar visibilidad a las referentes.

Hablan de lo que hacen en su trabajo y luego se hacen talleres. Cuando llegó la pandemia y se cerraron los colegios, pensamos en hacer algo que nos permitiera llegar a todos los alumnos de Aragón, y transformamos el programa en un libro, y un canal de YouTube en el que hacemos todos los experimentos con cosas de casa.

Y ya vamos por la segunda edición. La verdad es que el Ministerio de Educación nos apoyó muchísimo. Lo que sobre todo queremos mostrar ahí son 17 mujeres diferentes, diversas, que les gusta lo que hacen. Trabajan en ingeniería, ciencia, matemáticas, tecnología, para que cuando dicen: ¡Es que no hay mujeres!, pues ahí están.

¿Tienes un proyecto en tu empresa actual?

Trabajo en NTT Data, la consultora tecnológica y tenía la necesidad de todas estas inquietudes, llevarlas a la empresa donde trabajaba, y por eso hemos puesto en marcha un proyecto, un movimiento dentro de la oficina de Zaragoza, que se llama 'Hacer brillar a la mujer' en su traducción al castellano.

Un movimiento con todo lo que acabamos de hablar de crear referentes locales, de generar, de crear e inspirar. Así que llegan todos los días coles a la oficina y les contamos lo que hacemos. Y un montón de cosas más. Vamos al foco de lo que creemos que es la palanca de cambio para acabar con la brecha digital y la brecha de género, y hacemos lo que está en nuestra mano para impactar.