Sobre el dilema ético de legislar la conducción autónoma

Imagine que un camión invade el carril de un coche en el que viajan tres personas, si se produce el choque, será mortal para todos sus ocupantes. Puede ser evitado mediante un volantazo, pero en este caso el vehículo atropellará fatalmente a un ciclista que circula por el arcén. Ahora imagine que usted, a distancia, tiene el control de ese vehículo. Si no hace nada morirán los tres ocupantes; si desvía su trayectoria, el coche matará al ciclista. ¿Qué haría? De repente está usted metido en un debate filosófico: si inmediatamente ha hecho un cálculo mental y ha decidido que mejor que muera uno para salvar a tres, sepa que es usted un utilitarista innato; si ha sentido una aversión irresistible a matar al ciclista se inclina más bien al deontologismo.

El utilitarismo fue desarrollado por Jeremy Bentham a finales del siglo XVIII. Según él una decisión es correcta si consigue proporcionar “la mayor felicidad para el mayor número”. La felicidad –o utilidad, en terminología benthamita- deriva exclusivamente de la maximización del placer y la minimización del dolor, y estos pueden ser reducidos a unidades de medida.

A estos efectos –siempre según Bentham- es irrelevante la calidad de la fuente: si una persona obtiene una cantidad de placer escuchando una sinfonía, y otra una cantidad similar atendiendo un picor especialmente persistente, ambas utilidades son iguales. En todo caso, lo adecuado es hacer siempre aquello que consiga maximizar el saldo neto de felicidad/utilidad de la sociedad. Hay que decir inmediatamente que Bentham no hace distinciones morales, por lo que, en una sociedad con un 60% de caníbales, comerse al 40% restante estará perfectamente justificado desde el punto de vista utilitarista –siempre que el placer gastronómico del antropófago sea similar a la desdicha del devorado, claro-.

Los legisladores llegamos tarde a la realidad de los vehículos con conducción asistida que ya están en nuestro mercado

Por el contrario, desde una perspectiva deontológica o kantiana, el respeto a la vida es un valor absoluto, por lo que el ciclista del ejemplo seguiría tranquilamente su camino. Ahora bien ¿y si en lugar de un coche se tratara de un autocar con treinta personas? ¿Y si fueran trescientas? Parece que el cálculo utilitarista tiende a brotar a partir de cierto nivel. No existe, como vemos, una respuesta al dilema. Y sin embargo, seguro que los legisladores hubiéramos tenido que darla enseguida; porque ya llegamos tarde a la situación venidera de los vehículos con conducción asistida y/o autónoma, que ya están en nuestro mercado, equipados tanto con hardware como con software, para activarse en cuanto las regulaciones, normativas y leyes lo permitan.

Pero más allá de la tecnología en cuanto a nivel de hardware, o a nivel de su interfaz hombre-máquina; es en el conjunto del software, o más bién en los algoritmos de decisión que hay que programar, dónde se produce el conflicto o dilema ético; y es ahí donde precisamente está el reto del legislador.

En la actualidad en ninguna legislación del mundo se permite que un vehículo circule sin conductor humano, existiendo en numerosos marcos preregulatorios avanzados la convención de cinco niveles de asistencia a la conducción, que van desde el nivel 0 -el humano lo hace todo-, el nivel 1 donde el sistema automatizado puede a veces interferir en ayuda de la conducción sobre algunos mecanismos del vehículo, el nivel 2 en el cual el sistema automatizado puede realmente llevar a cabo algunas partes la conducción, mientras que el humano continúa monitorizando el entorno con las manos en el volante y pendiente al tráfico de alrededor realizando el resto de la tarea de conducción, el nivel 3 donde el sistema automatizado puede tanto realizar labores de conducción como de supervisión del tráfico circundante en algunos casos y con limitaciones; pero el conductor humano puede retomar el control totalmente manual cuando así lo disponga. O el nivel 4, en el cual el sistema automatizado puede tomar el control de la conducción, monitorizar el tráfico circundante y el ambiente, sin la intervención humana necesaria y sin las manos al volante, pero en ciertos ambientes y bajo ciertas condiciones. Y por último, el nivel 5 que consiste en que el sistema automatizado pueda realizar, si así se dispone, todas las tareas de la conducción del vehículo sin limitación, con las misma funciones que un conductor humano podría realizar.

Cuantos más kilómetros permitamos que hagan los vehículos autónomos más efectivos e inteligentes serán

Que la Inteligencia Artificial gobierne las decisiones cuasi-instantáneas a la hora de aplicar las reglas utilitaristas o del bien mayor en caso de dilema ético, no sólo ha de prefijarse en supuestos preestablecidos; sino que estos algoritmos deben actualizarse en función de experiencias conocidas y adaptadas a cada modelo de vehículo por sus características dinámicas y de equipamientos.

Es obvio que los datos registrados por los sensores del coche, mediante procesamiento de redes neuronales artificiales y procesamiento de big data -cuantos más kilómetros circulen; más efectivos e inteligentes se volverán los vehículos- no sólo hará que descienda la siniestralidad y la accidentalidad; sino que también se llegará a una mayor efectividad en los tiempos de desplazamientos,  no por velocidad; sino por la ausencia de congestiones de tráfico. Por ende, se conseguirá una mayor sostenibilidad; todo ello de manera exponencial. De este modo, se abrirá un futuro posible en el que los vehículos autónomos carecerán de titularidad privada; convirtiéndose en su gran parte como un bien colectivo de transporte, en el que los responsables civiles subsidiarios fuesen los fabricantes, nunca habría consecuencias penales en este caso distópico, por las consabidas reglas de la robótica de Isaac Asimov, o eso al menos esperamos.

Esta idea que muchos considera distópica, es más realista de lo que parece. Hoy ya tenemos ejemplos de conducción a niveles 4 y 5.

*** Diego Clemente y Fernando Navarro son diputados de Ciudadanos en el Congreso.