IBM quiere abrir la “caja negra” de la inteligencia artificial

La transparencia se está convirtiendo en el al que todos los sectores, economómicos, políticos, industriales y sociales aspiran. Y el tecnológico no iba a ser menos. Ante las preocupaciones por los sesgos que puede generar el uso de inteligencia artificial, IBM ha lanzado nuevos servicios para proporcionar a las empresas una mayor transparencia en la aplicación de la inteligencia artificial (IA), lo que les va a permitir sacar el máximo provecho de todo su potencial. Es un nuevo servicio de software que detecta automáticamente los sesgos y proporciona la explicación sobre las decisiones que toma la IA.

Este servicio de software está automatizado y describe la toma de decisiones y detecta sesgos en los modelos de IA en tiempo de ejecución, es decir a medida que se toman las decisiones. Así, captura resultados potencialmente injustos a medida que se producen y recomienda, de manera automática, datos para añadirlos al modelo y ayudar a reducir cualquier sesgo que haya detectado.

Además, se puede programar para monitorizar los factores específicos de decisión que se tengan en consideración para cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de cada organización. 

Las explicaciones que proporciona son de fácil comprensión y muestran qué factores hicieron inclinar la decisión hacia un lado o hacia otro, la confianza en la recomendación y los factores detrás de esa confianza. Asimismo, los registros de la precisión, rendimiento y equidad del modelo pueden rastrearse y monitorizarse fácilmente para cumplir con la normativa, como es el caso del GDPR, o prestar un mejor servicio al cliente.

Además de este servicio de IBM Cloud, la multinacional ofrece un kit de herramientas de reducción y detección de sesgos en la inteligencia artificial para fomentar la colaboración global sobre cómo tratar el sesgo en la IA. Estos servicios responden a las conclusiones de una reciente encuesta del Institute for Business Value de IBM, que muestra que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa cuestiones de responsabilidad y el 63% carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

"IBM ha liderado la industria y ha impulsado establecimiento de valores como la confianza y la transparencia en el desarrollo de nuevas tecnologías de IA”, afirma Beth Smith, directora general de Watson AI  de IBM. "Es hora de llevar estos valores a la práctica. Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea".

Los nuevos desarrollos de IBM disponibles funcionan con modelos construidos a partir de una amplia variedad de frameworks de machine learning y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de IA más utilizados por las empresas.