Judea Pearl, Premio Fronteras por gestionar la incertidumbre de los sistemas informáticos

El Premio Fundación BBVA Fronteras del Conocimiento en Tecnologías de la Información y la Comunicación ha sido concedido en su XIV edición a Judea Pearl, "por aportar una base moderna a la Inteligencia Artificial”, según el acta del jurado. Catedrático de Ciencias de la Computación y director del Laboratorio de Sistemas Cognitivos de la Universidad de California en Los Ángeles (UCLA), Pearl ha hecho contribuciones conceptuales, formales y matemáticas para que los programas de Inteligencia Artificial puedan interiorizar de manera eficaz dos grandes vías que utilizamos los humanos para entender el mundo y tomar decisiones: la probabilidad y la causalidad.

Gracias al lenguaje formal que ha desarrollado, esos procesos esenciales en la toma de decisiones pueden ser integrados en los programas informáticos. “Al sentar una base matemática para el razonamiento probabilístico y la inferencia de relaciones causales, Pearl construyó un marco para una serie de campos que incluyen las ciencias de la computación, las matemáticas y la estadística, la epidemiología y la salud, y las ciencias sociales”, señala el acta del jurado.

Los métodos de Pearl se enseñan hoy en todas las facultades de Informática y sus libros “han inspirado avances trascendentales en la comprensión del razonamiento y el pensamiento”. Su “amplio y profundo impacto” se percibe en multitud de áreas y aplicaciones, como “en el desarrollo de ensayos clínicos médicos no sesgados y eficaces, en la psicología, la robótica y la biología”, añade.

La candidatura de Pearl ha estado avalada por 11 destacados investigadores en Europa y Estados Unidos, expertos en ciencias de la computación, Inteligencia Artificial, psicología, economía y filosofía. Entre ellos se encuentra el Premio Nobel de Economía Daniel Kahneman, que al apoyar su candidatura afirma: “A lo largo de mi carrera he conocido a bastantes académicos reconocidos como gigantes en su campo. Creo que nunca he encontrado uno que suscite tanta reverencia y tanto afecto como Judea Pearl”.

Otro de los nominadores es Vinton G. Cerf, vicepresidente y Chief Internet Evangelist en Google (EE. UU.), que dice haber observado “con admiración cómo su trabajo ha abierto nuevos caminos, a menudo en contra de la sabiduría convencional. Judea Pearl siguió investigando a pesar del escepticismo y sus esfuerzos se vieron recompensados con creces”.

“El trabajo de Pearl es fundamental porque aporta herramientas que van a permitir dotar a las máquinas de conocimientos basados en las relaciones causa-efecto que utilizamos las personas en la vida cotidiana”, explica por su parte el profesor Ramón López de Mántaras, director del Instituto de Investigación de Inteligencia Artificial (IIIA) del CSIC, otro de los nominadores. “Ha contribuido a crear un lenguaje matemático para que un sistema de Inteligencia Artificial pueda explicar no solamente el porqué de sus decisiones (es decir responder a las preguntas de tipo Why?), sino también responder a preguntas de tipo What if?, es decir, ¿qué hubiera pasado si las cosas se hubieran hecho de otra manera? Por ejemplo, en el campo de la medicina, ¿qué hubiera pasado si hubiéramos dado otra medicación a un paciente?”

Una Inteligencia Artificial “menos opaca”

Los nominadores destacan que frente a otras líneas de la IA y la estadística, como el deep learning o las redes neuronales, la contribución de Pearl aporta una transparencia que es imprescindible en algunas áreas de aplicación, como la toma de decisiones en medicina o en cuestiones legales y económicas.

Vinton G. Cerf ha señalado que los libros más recientes de Pearl sobre causalidad y razonamiento “son hitos en el análisis bayesiano y el aprendizaje automático. Pearl argumenta con fuerza que, sin un modelo causal, las correlaciones descubiertas por las redes neuronales profundas no darán muchos frutos”.

Pedro Larrañaga, catedrático de Inteligencia Artificial (IA) en la Universidad Politécnica de Madrid (UPM), lleva tres décadas investigando teóricamente y aplicando las contribuciones de Pearl en dominios como la bioinfomática, la neurociencia o la industria. Según explica, la aportación del premiado hace posible una Inteligencia Artificial “menos opaca”, que permite entender las razones por las que los sistemas inteligentes llegan a determinadas conclusiones.

Por ejemplo, prosigue Larrañaga, “gran parte de los éxitos recientes de la IA se basan en redes neuronales que emplean algoritmos de aprendizaje profundo (deep learning). Pero estos programas son como cajas negras, no es posible interpretar cómo han llegado a resolver el problema. Frente a ello está la línea que considera que la interpretabilidad debe estar en la base de la IA, y ahí nos situamos quienes trabajamos con las redes bayesianas de Pearl”.

Larrañaga apuesta por un crecimiento de la IA en esta dirección, en especial en áreas como la medicina o en decisiones con consecuencias legales o financieras. “Tanto en EE. UU. como en Europa hay una tendencia a pedir una ética de la IA, y a auditar los procesos. Por eso creo que prevalecerá la línea de trabajo de Pearl, porque ofrece mayor transparencia”, señala.

En esto coincide también Ramón López de Mántaras, para quien las herramientas aportadas por el trabajo de Pearl “permiten la explicabilidad, es decir, ofrecen una trazabilidad en la cadena de razonamiento que ha utilizado una Inteligencia Artificial para llegar a una determinada conclusión. Este tipo de sistemas es más complejo, pero merecen la pena, porque ofrecen mucha mayor confianza, ya que así, por ejemplo, un médico puede conocer las razones por las que la máquina ha alcanzado un diagnóstico o recomienda un tratamiento a un paciente”.

“Un modelo computacional de la comprensión profunda”

En una entrevista realizada tras conocerse el fallo, Pearl ha resumido en una frase la que considera su aportación fundamental a la Inteligencia Artificial moderna: “Es la primera vez que podemos entender lo que significa entender, la primera vez que tenemos un modelo computacional de la comprensión profunda”. Y comprender, para Pearl, significa “ser capaz de responder preguntas en tres niveles importantes: la predicción (qué ocurrirá en tal o cual circunstancia); el efecto de las acciones; y su explicación, por qué las cosas ocurrieron como lo hicieron y qué habría pasado si hubieran ocurrido de otra manera. Estos tres niveles de sofisticación son los que el lenguaje computacional capta ahora y eso es lo que entendemos por comprensión”.

El razonamiento probabilístico y la capacidad de establecer relaciones de causalidad son las dos áreas en que las aportaciones de Pearl destacan especialmente. Como explica Pedro Larrañaga, son capacidades propias de la mente humana consideradas problemas clave para la IA: “El razonamiento probabilístico lo empleamos constantemente para gestionar la incertidumbre, lo que no sabemos; un médico, por ejemplo: continuamente busca la explicación más probable a los síntomas que presenta el enfermo”.

Máquinas que toman decisiones cuando hay incertidumbre

El propio Pearl explica así su contribución a la comprensión del razonamiento probabilístico del cerebro humano, para poder replicarlo en un sistema informático: “La incertidumbre es la materia prima que prevalece en la toma de decisiones cotidianas, incluso al cruzar la calle, tomar una aspirina o hablar con amigos; nos cuesta bastante hacer que un ordenador pueda lidiar con el aluvión de ruido e información incierta que tiene sobre el mundo. Mi trabajo ha desarrollado un cálculo para el razonamiento probabilístico que permite al ordenador manejar toda la información que le llega, integrarla y asignar probabilidades a tal o cual conclusión”.

En los años ochenta, Pearl desarrolló el lenguaje matemático necesario para integrar la IA clásica con la teoría de la probabilidad. Su libro Probabilistic Reasoning in Intelligent Systems, publicado en 1988, sigue siendo la referencia en el área. En esta obra presentó sus modelos gráficos, las llamadas redes bayesianas, desde entonces convertidas en un elemento básico del aprendizaje automático y la estadística moderna.

“Una red bayesiana es una representación de sucesos y la probabilidad de que ocurran", explica el acta del jurado. Estos grafos permitieron articular visualmente y con sencillez redes de sucesos muy complejas y sus relaciones probabilísticas, lo que permitió a los ordenadores resolver situaciones hipotéticas del mundo real, descubrir dependencias latentes y predecir resultados mediante la propagación de probabilidades. Las redes bayesianas son ahora herramientas precisas y muy utilizadas para la toma de decisiones en condiciones de incertidumbre”.

La importancia de saber inferir relaciones de causalidad entre dos fenómenos no es menor. De hecho, es un reto también para los humanos, explica Pearl: “Las relaciones causales han sido un obstáculo muy difícil de manejar tanto para las personas como para las máquinas; no tenemos el lenguaje formal para captar la idea de que el canto del gallo no causa la salida del sol aunque se produzca siempre antes de la salida del sol, y permita predecirla”.

En su libro Causality, publicado en 2002, Pearl se centró en el cálculo causal, que proporciona un marco formal para inferir relaciones causales a partir de datos. “Esto nos permite entender cómo se predice el efecto de las intervenciones en los resultados”, explica el acta. “Pearl desarrolló un lenguaje matemático para distinguir entre relaciones causales y correlaciones espurias”.

Aplicaciones de la formulación matemática de la causalidad

Lograr que las máquinas detecten relaciones de causalidad abre la puerta a múltiples aplicaciones. “Ahora tenemos un lenguaje que permite emplear nuestros conocimientos sobre el mundo para inferir de forma coherente”, asegura Pearl. “Como hacemos en el álgebra: inferimos la conclusión y se demuestra que esta conclusión es correcta si las suposiciones lo son. Las aplicaciones van desde la medicina personalizada hasta el manejo de una pandemia como la de la Covid, integrando información de numerosos países y llegando a conclusiones coherentes a partir de la evidencia disponible”.

De hecho, Larrañaga explica que durante la pandemia su equipo ha apoyado a centros sanitarios aplicando las redes bayesianas a decisiones como qué paciente debía ser intubado, o predecir la evolución: si se iba a requerir ingreso en UCI, o el tiempo de ingreso.