Tecnología empresarial: ¿qué es el sesgo algorítmico?

El profesor Joseph Weizenbaum publicó en 1976 el libro Computer Power and Human Reason en el que sugería que el sesgo podría surgir tanto de los datos utilizados como de la forma en que se codifica un programa. El sesgo algorítmico describe errores sistemáticos y repetitivos en un sistema informático que crean resultados injustos, como privilegiar a un grupo arbitrario de usuarios sobre otros.

El sesgo algorítmico se encuentra en todas las plataformas, incluidos los resultados de los motores de búsqueda y las plataformas de redes sociales.

Estos sesgos pueden tener impactos que van desde violaciones involuntarias de la privacidad hasta el refuerzo de los sesgos sociales de raza, género, sexualidad y etnia.

La preocupación por el impacto de los algoritmos en la sociedad ha llevado a la creación de grupos de trabajo en organizaciones como IBM, Amazon, Google, Microsoft. En un artículo de este mes de Mónica Villas para Sherpa.ai titulado Ética en la Inteligencia Artificial, los sesgos y su impacto la autora explica que dentro de la IA, es en el aprendizaje automático donde pueden presentarse estos sesgos debido a que se basan en información histórica.

La autora menciona un reciente informe de Capgemini sobre ética en las organizaciones en el que se resalta que las compañías que tenían en cuenta la ética, tenían 44 puntos más de ventaja con el Net Promoter Score (NPS). El NPS es el índice más usado para medir la fidelidad de los clientes y su tendencia a recomendar a esa compañía o ese producto a otros.