La fundadora de la Algorithmic Justice League, Joy Boulamwini, mantiene un duro pulso con Amazon, que ha reaccionado a un artículo suyo en Time, según el cual su tecnología de reconocimiento facial asigna, por ejemplo, a la presentadora Oprah Winfrey un 76,5% de posibilidades de serun hombre. El objetivo de Boulamwini con su estudio es pedir una moratoria por estos sesgos que realizan este tipo de software sobre el género y determinados rasgos raciales.

Boulamwini echa mano de la “auditoría algorítmica” de Gender Shades para analizar las disparidades en torno al género y al tipo de piel en las tecnologías de reconocimiento facial comercial. En dicho informe -en realidad es parte de su tesis del MIT junto Inioluwa Deborah Raji, de la Universidad de Toronto-, estudia los resultados de algunas empresas ‘objetivo’, como IBM o Microsoft, entre otras

En sus conclusiones, se subraya que este estudio “logró motivar a las empresas a priorizar este tema” para conseguir “mejoras significativas” en siete meses. Así, señala que estas compañías, tras conocer los resultados del análisis, introdujeron nuevas versiones en sus APIs. Así, se experimentó una reducción de los errores del 8,3% al 5,72%.

Sin embargo, según este informe, empresas como Amazon mantienen tasas de error del 8,6% en general, un porcentaje que se dispara al 31% en el reconocimiento de los subgrupos de mujeres de pieles más oscuras. En este caso se trata del software de análisis facial Rekognition. Según Gizmodo, Amazon sugiere que estos resultados no son fruto de un sesgo del propio software, sino de los que ellos llaman una incorrecta configuración de los umbrales de confianza

En las conclusiones de su tesis, Boulamwini incide en que hay que explorar más a fondo las políticas, las practicas empresariales y, sobre todo, las directrices éticas, con el objetivo de, a medida que evoluciona la tecnología del reconocimiento fácil, “garantizar la protección de los grupos vulnerables y marginales”.