La iniciativa pretende aplicar el Lenguaje Natural a la IA para generar explicaciones que justifiquen las decisiones tomadas por los sistemas digitales

Minsait, una compañía de Indra, participa, junto a organismos de otros cinco países, en el proyecto europeo NL4XAI (Natural Language for Explainable AI), que pretende aplicar el Lenguaje Natural a la Inteligencia Artificial (IA) para generar explicaciones que justifiquen las decisiones tomadas por los sistemas digitales y contribuir así a su aplicación ética.

Instituciones, centros de innovación y empresas tecnológicas de España, Reino Unido, Países Bajos, Francia, Malta y Polonia colaboran en este consorcio cuyo objetivo es formar a 11 doctorandos para "diseñar e implementar un sistema de IA auto explicativo, que permita la generación automática de explicaciones interactivas en lenguaje natural", explica David Suárez, responsable de la solución Onesait Language, con la que Minsait participa en esta iniciativa.

La Inteligencia Artificial (IA) es una de las tecnologías que están marcando la evolución digital y su aplicación está cada día más presente en las vidas de los ciudadanos. "De forma progresiva, nos encontraremos con decisiones tomadas por computadoras y sistemas digitales que nos influyan, siendo necesaria una cierta argumentación. No es un tema baladí", inciden desde Minsait.

Según la normativa de la Unión Europea (UE), cualquier ser humano tiene derecho a recibir una explicación que justifique toda decisión que le afecte directamente, y eso también incluye las que son tomadas por máquinas.

Explicar por qué un algoritmo aprueba o deniega una actividad específica, como la concesión de un crédito o la autorización de una operación con tarjeta de crédito; justificar las razones por las que una operación digital es considerada fraudulenta; o explicar con argumentos sólidos por qué una noticia es considerada 'fake' frente a otras fuentes que aportan mayor credibilidad, son cuestiones que atañen a la IA y que forman parte del devenir diario, aunque no siempre se sepa a qué obedecen.

En este contexto, Onesait Language de Minsait permite clasificar y extraer información de forma automática usando técnicas de Procesamiento del Lenguaje Natural (PLN), una de las áreas con mayor crecimiento en la IA. En concreto, posibilita entender automáticamente la digitalización del lenguaje, combinando el PLN más tradicional con las últimas técnicas, basadas en aprendizaje profundo y redes neuronales, lo que ofrece al producto la posibilidad de poder aprender constantemente de sus propios errores.

Dentro de sus capacidades, la solución permite reducir en un 95% el tiempo medio empleado en la clasificación documental y hasta en un 90% el tiempo de extracción media automatizada de información, lo que la convierte en "una tecnología vinculante de gran valor cualitativo cuando se trata de aplicar IA".

EL PAPEL DE LA ÉTICA

La IA pretende que las máquinas sean capaces de emular tareas que se entienden como propias de las personas. Es una ciencia en constante evolución puesto que, a la vez que los sistemas se vuelven más capaces y que se logra el desempeño marcado, se presupone que ya no es necesaria la aplicación de la inteligencia en ese ámbito, buscando por tanto nuevos desafíos y campos en los que investigar y evolucionar las máquinas hacia el siguiente nivel.

"Se trata en definitiva de la capacidad de un sistema para interpretar correctamente datos externos, aprender de los mismos y utilizar ese conocimiento para realizar determinadas tareas y adaptarse al entorno que se le plantee", subrayan desde la compañía de Indra.

En la actualidad, la IA se encuentra en la hoja de ruta de muchos países, ya no sólo desde un punto de vista evolutivo, sino también en lo que respecta a su normativa y ética, sobre todo por el impacto que, a largo plazo, podrá tener en los seres humanos cuando su aplicación esté generalizada y las decisiones que las máquinas tomen, conforme a ella, se hayan normalizado en el día a día.

Para evitar posibles sesgos, es necesaria una nueva generación de sistemas de IA explicables (los denominados XAI) que interactúen con los seres humanos y les ofrezcan una explicación comprensible de las decisiones automáticas que un algoritmo de IA ha tomado previamente.

"En el proyecto NL4XAI enfrentaremos el desafío de hacer que la IA se explique por sí misma y, por lo tanto, contribuya a traducir el conocimiento en productos y servicios para beneficio económico y social", aclara el responsable de Minsait quien, además, subraya que para ello se utiliza el lenguaje natural (NL), "porque es el que usan los humanos, complementando así las herramientas de visualización".

Como resultado, se espera que en una primera fase, los 11 investigadores del proyecto europeo NL4XAI aprovechen el mayor número de modelos y técnicas de IA, incluso aquellas llevadas a cabo por usuarios no expertos. Todos sus desarrollos serán validados por humanos y los resultados del proyecto se darán a conocer públicamente y serán integrados en un marco de software de código abierto común, accesible a todos los ciudadanos europeos.

El proyecto NL4XAI ha recibido financiación del programa de investigación e innovación Horizon 2020 de la Unión Europea, en virtud del acuerdo de subvención Marie Sklodowska-Curie, y se está desarrollando bajo la coordinación del Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela (USC).

INNOVACIÓN EN SISTEMAS DE IA

Minsait es una de las compañías de referencia para investigar las posibilidades que ofrece la IA en el ámbito del procesamiento del lenguaje natural. Entre sus referencias, cuenta con un gestor inteligente de documentación para procesos hipotecarios que permite automatizar la extracción de información de documentos notariales (como notas simples o escrituras), robotizar el proceso de introducción de la información en las bases de datos del gestor documental de BPO y generar de forma automática informes.

Asimismo, también tiene un sistema inteligente de detección de fraude para el sector bancario y el sector asegurador que combina analítica avanzada y tecnologías del lenguaje y realiza diferentes pilotos para la detección de causas de impago y la optimización de la atención al cliente a partir de las llamadas recibidas en call centers.

Desde Minsait defienden que la implementación de soluciones basadas en la IA permitirá reducciones de costes operativos de entorno al 20%. Además, más allá de las mejoras en términos de eficiencia, del procesamiento masivo de datos y de las capacidades cognitivas avanzadas, como el aprendizaje a través de redes neuronales, estas tecnologías posibilitarán nuevos modelos de negocio y de relación con los clientes, alumbrando nuevos escenarios de interrelación con las máquinas que serán claves en el futuro.