El algoritmo no te quiere contratar por ser mujer: la UMA debate los sesgos de género del 'big data'

El gigante tecnológico estadounidense Amazon está buscando personal. Para agilizar la selección, crean un algoritmo que valora la idoneidad de los candidatos según si cumplen el perfil o no, basándose en los macrodatos que la empresa tenía de contrataciones anteriores. La máquina identifica los patrones de valoración de los humanos y los replicó. El resultado no es tan bueno como soñaban.

En este caso real, el algoritmo penalizaba a los candidatos —basándose en lo que había aprendido— que incluían en su currículum palabras en femenino: ingeniera, abogada, científica. Inevitablemente, la mayoría de los contratados resultaron ser hombres, y saltó la alarma. Se empezó a investigar y hoy se estudia como uno de los primeros precedentes de discriminación laboral por cuestión de género de parte de un algoritmo.

El caso lo trajo a colación este martes la profesora del departamento del Derecho del Trabajo de la Universidad de Málaga (UMA), Lucía Aragüez, en la jornada Ciberviolencia y género: los algoritmos digitales en el mundo del trabajo desde un enfoque de género. 

Desde este acto en la Facultad de Comercio y Gestión de la UMA, Aragüez subrayó la dificultad de probar judicialmente por parte de un algoritmo; fundamentalmente, porque estos no suelen estar abiertos a inspecciones de trabajos como cualquier otro actor laboral: "Para que realmente la inspección de trabajo sea real, sería adecuado que los algoritmos fueran de fuente abierta, open data"

"¿Tiene la empresa una intención de crear un sesgo? Si no la tiene, ¿por qué se ha creado un algoritmo que discrimina? La empresa debe detectar el fallo que debe tener el algoritmo o ver cuáles han sido los datos que se han ido introduciendo", argumentó Aragüez, que valoró que hay "una evidente ausencia de normas".

Desde su perspectiva, el derecho laboral va en este asunto "por detrás de los cambios sociales", pero es "igual de reprochable realizar una discriminación a través de un algoritmo digital que si se efectúa por la propia intervención humana".

"Si el algoritmo se construye pensando en un perfil determinado de personas trabajadoras (hombres-mujeres/nacionales-extranjeros/discapacitados o no, etc), la aplicación del mismo reflejará el sesgo programado y a algunas personas se les negará el acceso al empleo o se les considerará como trabajadores prescindibles", planteó la profesora de la UMA.

¿Su propuesta? Reforzar la normativa, un mayor estudio de los casos judiciales ya existentes, una intervención más incisiva de los inspectores de trabajo... y, sobre todo, luchar contra la brecha formativa entre hombres y mujeres en temas tecnológicos.

Más mujeres haciendo algoritmos

La importancia de fomentar las vocaciones científicas y técnicas entre el género femenino protagonizó también las dos primeras ponencias del día.

"Os necesitamos a vosotras como el comer en el entorno tecnológico", afirmó el director de Innovación del Vicerrectorado de Empresa, Territorio y Transformación Digital de la UMA, Victoriano Giralt García, que aseguró que para lograrlo se necesita "como todo en esta vida, educación".

Su manifiesto fue por "una visión más social y más cercana" de la tecnología. Para ello, propuso poner el foco en el fin que pueda tener, su utilidad, y no tanto en el "cacharrerar por cacharrear": "Hay que dulcificar la tecnología, es tremendamente fría", afirmó Giralt.

"Hay que llevar a los coles la tecnología. Vale mucho dinero, en personas —que es lo más caro de todo— y en equipamiento, pero eso cada vez es menos caro. La tecnología es cada vez es más barata, el código está libre y disponible en millones de sitios, lo que hay que hacer es desde el cole empezar a jugar con robots, a programar el lenguaje de los cuadritos o uno medianamente asequible... A los niños les gusta el tenis porque está todo el día Rafa Nadal en el telediario", reflexionó Victoriano Giralt.

Por su parte, la también docente del departamento de Derecho del Trabajo de la UMA María Salas señaló que mayoritariamente son mujeres las que están prestando servicios en los sectores de producción "con un riesgo alto de ser más automatizado"

"La mujer no está accediendo a esos puestos de trabajo que se generan con el uso de las nuevas tecnologías", indicó Salas, siendo estos empleos "con un devengo de beneficios muy elevado": "Arrojan unos salarios muy elevados que la mujer pierde por no tener acceso a ese tipo de empleos", planteó. La solución, de nuevo, pasa por la educación.

"La computación y el lenguaje informático tendrían que ser asignaturas obligatorias ya. Es lo que nos espera", sentenció María Salas.