No sé a vosotros, pero me he encontrado en numerosas ocasiones en la típica situación en la que me califican por mi cara. "Tienes cara de conducir", me han dicho en muchas ocasiones. O "tienes cara de jugar a rol". ¿Para qué tengo a esas personas diciéndome lo que soy o lo que hago en base a mi cara cuando puedo tener ImageNet Roulette?

Existe una web en Internet que, mediante Inteligencia Artificial, es capaz de calificarte, es decir, intentar adivinar por tu rostro qué eres o quién eres. Bueno, estamos siendo benévolos, ya que más que capaz de calificarte, es capaz de intentarlo.

Lo cierto es que esta web forma parte de un proyecto para demostrar cuán ridículos son los sistemas de calificación de personas basados en IA y como veréis no es que acerte precisamente en todas las ocasiones. Os contamos cómo funciona, y por qué no acertará con vosotros.

ImageNet Roulette: te dirá quién (o qué) eres en base a tu cara

Esta página web llamada ImageNet Roulette te permite subir una foto, ya sea mediante URL o mediante archivo (o activar tu webcam) para que dicha web, mediante IA, determine quién eres. Esta página forma parte de una exposición llamada Training Humans y ha sido desarrollada por la investigadora y profesora de IA, Kate Crawford y el artista e investigador Trevor Paglen.

El funcionamiento de esta web es muy sencillo; se carga una imagen y esta se envía a un marco de aprendizaje profundo desarrollado por Berkeley AI Research conocido como modelo Caffe para su posterior análisis. Los creadores quisieron ver qué ocurría cuando esta herramienta que está formada por más de 14 millones de etiquetas analizaba la imagen de un humano.

Los resultados con esta web han sido llamativos cuanto menos. Hemos probaddo en nuestras propias carnes qué tenía que decir de nosotros esta web. Ya habéis visto que con Bill Gates no ha habido mucha suerte; nos dice que es un sociólogo, algo que dista bastante de ser real.

En mi caso personal y dejando de lado el asunto de mi barba frondosa, me he dado un chasco enorme cuando simplemente la IA la ha considerado solo a ella. Sí, asegura que soy una barba. Decepcionante, creo al menos tener algo de cara. Esto se ha repetido a lo largo de varios intentos. Tras unos cuantos selfies, decidimos probar con una foto en la que no tuviera una barba tan pronunciada.

Esta vez la cosa cambió, pero igualmente nos quedamos algo alucinados. Por motivos que escapan a mi comprensión la web decidió que yo tenía cara de buzo. Las etiquetas inferiores ni siquiera me dieron un motivo real; analizaron que era un hombre y poco más. De hecho, a modo anecdótico, la IA reconoció que era un 'mortal' y un 'alma'. Menos mal.

Quisimos probar más opciones, y de nuevo, nos falló. Probamos mi misma cara pero con unos auriculares puestos y asumió de inmediato que era DJ, algo totalmente absurdo. Probamos con un político español, Pablo Iglesias, y el resultado también fue cuanto menos... llamativo.

De nuevo, vemos a otra persona más 'discriminada' por su barba. Otras pruebas nos han dado clasificaciones en base a la ropa más que por la cara, y dependiendo de la intencionalidad de estos factores (una buena vestimenta, una cara de pocos amigos) han arrojado distintos resultados.

En ocasiones parece que arroja resultados totalmente aleatorios; en el caso de Pablo Casado, líder del PP, la web nos dijo que era un suplente. Intentamos engañarle con su buen vestir, pero no pareció que entendiera la "referencia".

En definitiva, el objetivo de los responsables de esta web es demostrar lo inútiles que son estos sistemas de clasificación debido a que pueden fallar fácilmente; se basan en la información y datos que disponen, por lo que los resultados no siempre son finedignos. En referencia a los fallos de estos sistemas de clasificación, ambos responsables aseguraron lo siguiente:

"ImageNet contiene una serie de categorías problemáticas, ofensivas y extrañas, todas ellas extraídas de WordNet (la estructura semántica en la que se basa la web). Algunos utilizan terminología misógina o racista. Por lo tanto, los resultados de las devoluciones de la Ruleta de ImageNet también se basarán en esas categorías. Esto es por diseño: queremos arrojar luz sobre lo que sucede cuando los sistemas técnicos son entrenados en datos de entrenamiento problemáticos. Las clasificaciones de la IA de las personas rara vez se hacen visibles para las personas que están siendo clasificadas. [...]"

Parece que solo podremos usar esta web para echarnos unas risas o para ridiculizar a los futuros sistemas de clasificación de personas basadas en redes neuronales que, para temor de muchos, intentarán instaurarse en un futuro no muy lejano.

Via | The Verge