El cineasta Simón Casal y el debate sobre jueces e IA: "La justicia no puede ser producto de una fórmula matemática"

¿Acepta que un sistema de inteligencia artificial sustituya a los jueces y juezas en todos los tribunales del país? Es la pregunta a la que se enfrentan los ciudadanos españoles en la película Justicia artificial, de Simón Casal: un thriller político que se estrena este viernes en cines.

El film, protagonizado por Verónica Echegui, plantea el dilema de la conveniencia de sustituir el juicio humano por decisiones automatizadas, y de hacerlo en un ámbito tan sensible como el de la justicia. En conversación con DISRUPTORES, el cineasta gallego explica el origen de esta película, que concibió en 2018.

Casal imaginaba una película sobre cómo las tecnologías impactan en la democracia: "Decidí concentrarlo en un ámbito como la justicia porque reúne muchos debates simbólicos, y es una institución que refleja el estado de la sociedad y cómo funciona", afirma. Es un ámbito -dice- en el que, como en política, no hay una respuesta correcta.

"Cada respuesta bien argumentada puede ser válida, y así debe ser. Nunca puede ser producto de una fórmula matemática", sostiene Casal. Con Justicia artificial quiere transmitir la importancia de que la justicia sea impartida por un ser humano que viva en sociedad, que la entienda y que tenga capacidades de empatía e intuición.

Casal también busca provocar una reflexión en el espectador: "La IA va a entrar en el ámbito de la justicia, y seguramente tiene que ser así para hacer más eficientes las tareas administrativas y de gestión, pero la cuestión es hasta dónde queremos dejarla llegar", plantea.

Tras buscar qué es lo más específicamente humano en el proceso de la justicia, tiene algo claro: que la toma de decisiones "tiene que estar blindada a la tecnología".

Pero, ¿por qué? ¿Qué razones fundamentales hay para votar por un 'no' en el hipotético referéndum que plantea Justicia artificial? Por varios motivos, entre los que destacan cinco: que el juicio humano implica elementos no automatizables, que la IA carece de contexto, una colisión con el propio concepto de justicia y avance social, un choque de valores, y la necesidad de un juicio humano como parte del proceso.

No todo es automatizable

En primer lugar -como me explicó hace años Christopher Markou, profesor e investigador especializado en Leyes e Inteligencia Artificial en la Universidad de Cambridge- la inteligencia artificial no puede replicar las complejas consideraciones morales, las inferencias deductivas y el equilibrio de las razones involucrado en el razonamiento jurídico. Además, carece de la compasión y la simpatía necesarias para la justicia restaurativa.

Lo segundo -según Lorena Jaume-Palasí, fundadora y directora de Ethical Tech Society y experta en filosofía del derecho- la IA no puede contextualizar, y la interpretación de la ley es una tarea de contextualización: ponderar la ley, buscar factores agravantes o desagravantes, comprobar si el veredicto contradice las intuiciones éticas de la sociedad…

Simón Casal, junto a la actriz Verónica Echegui. Imagen: Óscar Roca. null

Muchos conceptos legales se construyen socialmente y no tienen significados singulares. Los casos rara vez tienen respuestas correctas o incorrectas que se puedan resolver con un código binario de ceros y unos. Es a lo que se refiere Casal cuando dice que la IA no puede ser producto de una fórmula matemática.

"La IA trata de clasificar, categorizar toda la realidad y digitalizarla para poder predecirla, pero hay muchas cosas que no se pueden digitalizar y que escapan a nuestro afán de control, y muchas de ellas intervienen en los procesos y en la forma de hacer justicia". Es uno de los aspectos que refleja Justicia artificial. Lo hace en boca de su personaje principal, la jueza Costa, que pone de relieve la imposibilidad para una IA de interpretar la ley de formas diferentes.

Avance social

El tercer motivo que podría esgrimirse a favor del 'no' en el supuesto referéndum tiene que ver con que la ley implica algo más que reglas y resultados deterministas: es una institución social que está sujeta a factores políticos, económicos y socioculturales que influyen en las concepciones prevalecientes de lo que es justo o injusto, como indica Markou.

Este es otro de los aspectos que pone de relieve Justicia artificial: que un software no es capaz de cuestionar si una norma se adecúa a la realidad que vivimos. Es -como dice la jueza Costa- incapaz de avanzar y generar nueva jurisprudencia. "Siempre va a mirar hacia el pasado y está condenado a repetirlo".

Casal pone como ejemplo el caso de las 'preferentes' un conocido fraude bancario que saltó a la luz tras la crisis del 2008. "Al principio las sentencias eran favorables a los bancos, pero a medida que aumentaron las manifestaciones y la movilización social se formó la idea de que no era justo", comenta Casal, en referencia a la idea de que los clientes habían sido engañados para firmar la compra de unas acciones sin conocer el riesgo que implicaban.

"Todo eso acabó permeando en la justicia, hasta que hubo una sentencia pionera que se hacía eco de este tipo de argumentos. A partir de ahí, empezó una bola de nieve hasta que más del 90% de estos juicios se acababan resolviendo a favor del demandante. Un cambio social que el algoritmo habría sido incapaz de percibir", señala.

Eficiencia versus Justicia

En cuarto lugar, los valores de eficiencia y velocidad asociados a la tecnología no son los prioritarios para el sistema legal. Sí lo es la justicia. Como escriben el filósofo Evan Selinger y el periodista Clive Thompson en El engaño de la eficiencia, ponerla por encima de otros valores puede ser peligroso: algunas interacciones humanas o cívicas prosperan cuando son deliberadas y se erosionan cuando se aceleran.

De lo anterior se deriva el quinto motivo: que el proceso en sí también importa. Es una de las razones por las que la gente apoya los juicios con jurados populares incluso aunque un jurado experto pudiera ofrecer mejores decisiones, como señala el filósofo John Tasioulas, director del Instituto de Ética de la Inteligencia Artificial de la Universidad de Oxford.

Frente a todo esto, ¿cuáles son las ventajas de la IA? Además de la eficiencia como acicate para cubrir las carencias del sistema judicial, la IA promete despolitizar la justicia y librarla de sesgos. Sin embargo, sabemos que uno de los mayores problemas con las herramientas de IA son también los sesgos, que estas ayudan a perpetuar. Los ejemplos abundan.

Esto se puede mejorar, y la IA podría ayudar a detectar inconsistencias en las decisiones de un juez. Una especie de supervisión, sin que sea la IA en sí misma la que tome las decisiones sin supervisión humana.

¿Cine artificial?

Justicia artificial sumerge al espectador en este debate, sin dejar de lado el componente cinematográfico, "con tintes de cine negro y de la mano personaje solitario [la jueza Costa] que se enfrenta a todo ese mundo", dice Casals. Antes del thriller, el cineasta estrenó un documental (Artificial Justice), coescrito con el filósofo Miguel Penas.

Es un producto con una carga más filosófica y menos política, dice Casal. El documental incluye entrevistas a reconocidos académicos, como los filósofos Marina Garcés y Luciano Fioridi, así como a los magistrados Pura Caaveiro y Luís Villares, que sirvieron como base documental para la película.

La conversación con Casal termina con una pregunta obvia: ¿qué piensa de la irrupción de la IA generativa en el mundo del cine? Reconoce no haber explorado mucho ese terreno, pero hay algo que tiene claro: "El tejido creativo debe tener control de qué se hace con nuestras obras y con nuestros datos". "La IA no sería nada sin nuestras creaciones", concluye el director de Justicia artificial.

Sobre el final de la película no revelaremos nada aquí, si bien en estas líneas sobran los argumentos en favor de una respuesta negativa a la pregunta que plantea el hipotético referéndum.