Ética y coches autónomos conectados

Los modos de movilidad y el transporte van a cambiar en breve y a gran escala en toda partes. Alemania, un país cuyo funcionamiento tiene algunas cosas criticables, es en otras modélico. Por ejemplo, es un país modélico en su respeto e importancia que le da hoy a la combinación de sus humanidades con la técnica. Respeto del que acaban de dar una muestra más que tiene que ver con algo muy novedoso: la reconexión de sus legendarias humanidades y cultura tecno-científica con su innovadora industria 4.0 actual, y viceversa. Una muestra de ello, es su iniciativa pionera sobre los vehículos y automóviles auto-conducidos, y su reflexión sobre cómo estos artefactos autónomos han de convivir, que no sustituir, a los vehículos conducidos por humanos con los que con toda probabilidad pronto compartirán calles y plazas, carreteras y autopistas, y obviamente, aparcamientos y garajes públicos y privados.

Este es un pretexto urgente y emocionante para volver a una reflexión en la que reiteradamente retomo cíclicamente. En 2007 ya publiqué un artículo titulado Ética para Robots. Ahora, la realidad impone que necesariamente abordemos una variante de ese ámbito, con urgencia. Mi cita arriba sobre Alemania tiene que ver con un informe presentado hace solo unos meses por su ministro federal de transporte, Alexander Dobrindt, redactado para el gabinete del Gobierno de Alemania en el que se urgía a establecer y plantear pautas para la futura programación de estándares éticos para el desarrollo del “software de conducción automatizado”.

Es decir, extrapolando términos de neurociencia, sería algo así como establecer límites y pautas a la “conducta” pública del software que se va a encargar de conducir los vehículos autónomos en espacios públicos, carreteras, calles y plazas, etc., con implicaciones y consecuencias también legales, sociales e individuales para las personas. Calles donde van a convivir, -ya lo están empezando a hacer-, con humanos, hombres y mujeres, adolescentes y ancianos, en una convivencia en la que habría que esperar que se cumpla algo equivalente a tres leyes que Asimov creó y desarrolló para el futuro comportamiento de los robots, hace ahora ya 76 años. Isaac Asimov, un excepcional escritor y visionario de ciencia ficción, en cuyos relatos incluía, en la acción o en el fondo de sus historias, los dilemas de la ética como algo siempre presente.

¿Cómo deberían ser ‘Las leyes de Asimov’ del coche autónomo?

Las citadas tres leyes de Asimov aparecieron por primera vez en su relato Círculo vicioso (Runaround), de 1942, y escrito un año antes. Por refrescar la memoria al lector, sus enunciados resumidos dicen que, un robot:

-   No hará daño a un ser humano, ni permitirá con su inacción que sufra daño.

-   Debe cumplir las órdenes dadas por seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.

-   Debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Estos enunciados, creados por Asimov, el conocimiento general los ha asumido como las tres leyes de la robótica. De ellos, se deduce que las sofisticadas máquinas (físicas o inmateriales, añado yo) que pudieran crear los humanos, capaces de acabar teniendo comportamiento autónomo, deberían construirse siempre teniendo en cuenta como premisa irrenunciable, el limitarlas de origen para que en todo su comportamiento, -indistintamente del ámbito en que actúen-, respeten, cuiden la vida humana o la de cualquier humano. Importante: estas leyes estaban, en realidad, dirigidas a los humanos constructores de robots, más que a los robots.

El futuro ya está aquí, aunque muy mal repartido

Aquí, además, vuelve a cumplirse otra gran sentencia de otro prestigioso colega actual de Asimov, William Gibson: “The future is already here, it’s just unevenly distributed” (el futuro ya está aquí, pero está muy mal repartido). Esta idea nos puede servir para ilustrarnos sobre lo que se nos viene encima de inmediato con los vehículos autónomos. Coches, mini-buses y camiones, todos auto-conducidos y conectados, ya están entre nosotros. Aunque, por ahora, solo en pruebas, y desigualmente distribuidos, incluso ya circulan por España.

Los dilemas éticos que nos plantean van más allá de las tres Leyes de Asimov, son de urgente reflexión y algo que deberíamos enfrentar ya mismo. Y no solo porque las grandes compañías de seguros necesiten con premura su regulación económica (ya han producido más de un accidente con fallecimiento de personas, sino porque el automóvil, guste más o menos, es uno de los pilares del funcionamiento de casi todas nuestras sociedades, y también de la industria y la economía de cualquier país. Así que urge decidir el marco de la conducta del software que conducirá los coches autónomos que llegan y analizar en este ámbito, lo que es ético y lo que no, lo que es correcto y lo que no lo es en relación a ellos.

La ética que es la rama de la filosofía que hasta ahora ha estudiado lo correcto o equivocado del comportamiento humano; y también qué es un acto moral, cómo se justifica racionalmente un sistema moral, y cómo se ha de aplicar posteriormente todo ello en la práctica a nivel individual y social. El ámbito del coche autónomo es algo que, al tiempo que es individual, deviene en planteamiento social de interacción entre máquinas y humanos. Así que hemos de averiguar si, en el mundo real al que vamos, la ética que conocíamos nos sirve o no para plantearnos cómo debe ser el comportamiento de las máquinas en forma de software, que van a conducir los coches autónomos.

Vehículo autónomo Waymo de Google

¿La ética del coche autónomo va a ser humana o no-humana?

¿Habrá que innovar también en ética, humanidades y crear innovaciones sociales del tipo de las que describe Javier Echeverría, para afrontar el reto de los vehículos autónomos, o solo continuar innovando en la ingeniería y tecnología de los vehículos como hasta ahora? Yo creo que es urgente profundizar en preguntas como estas. Es urgente debatir esta cuestión, como ya ha comenzado a hacer el país, en cuya economía e industria, el automóvil es uno de los pilares fundamentales de la industria de vanguardia mundial, que hace unos meses dio un paso al frente.

Su ministro de transporte federal, Alexander Dobrindt, presentó hace poco, un informe al Gobierno alemán cuyo propósito es establecer pautas para la futura programación de estándares éticos en el software de conducción automatizada de automóviles. Para la realización de este informe se formó previamente la Comisión de Ética en Conducción Automática y Conectada, liderada por el ministro, integrada 14 expertos, y encabezada por el profesor Udo Di Fabio, un ex juez del Tribunal Constitucional Federal alemán.

Una vez finalizado el informe fue presentado públicamente y mi asombro es que meses después este tema apenas se está debatiendo en Europa. Alemania además de ser una de las potencias en humanidades y en filosofía, al tiempo, es poseedora de la marca de mayor calidad a nivel mundial, BMW (sin olvidar que otras han hecho vergonzosas trampas con las emisiones diésel, todo hay que decirlo), así que es lógico que se ponga en vanguardia en este tema.

Es urgente debatirlo tanto desde la ética y las humanidades, cómo desde la innovación y la tecnología. Este convencimiento de urgencia que intuyo, me ha impulsado a querer dar a conocer sobre todo, la ‘filosofía’ sintetizada que encierran las 20 pautas sobre la Ética de la conducción autónoma que propone el citado Informe. Son una buena base para impulsar entre todos un debate a gran escala en el que implicar a la sociedad española y a todas las sociedades europeas. Un debate esencial en primer lugar, por lo decisivo de su dimensión moral, pero también por su enorme dimensión económica, y de vanguardia de ciencia, tecnología e innovación. En el ámbito norteamericano, sobre todo en California, el debate ya está en marcha. Pero creo que Europa debería tener su propio debate al respecto.

Desde aquí, modestamente, quiero refrescar esta decisiva cuestión y devolverla en lo posible, al menos, a la actualidad en español. Según las propias palabras del citado ministro Dobrindt. “En la era de la revolución digital y los sistemas de autoaprendizaje, la interacción hombre-máquina plantea nuevas cuestiones éticas. La conducción automática y conectada, es la innovación más reciente en la que se puede encontrar esta interacción relacionada con todos los ámbitos”. A su vez, el Prof. Di Fabio, líder del comité, añadió su propia reflexión sobre el informe y las líneas maestras de su contenido: “Hemos desarrollado pautas iniciales para que reguladores y legisladores pueden aprobar el uso legal de sistemas de conducción automatizada, para el que hay que establecer ciertos requisitos especiales en términos de seguridad, dignidad humana, libertad de elección personal y autonomía de datos”.

Para ello, el informe da unas 20 líneas de actuación, cuyas claves podríamos describir así:

- La conducción automática y conectada podría convertirse en imperativo ético, si estos nuevos sistemas causaran menos accidentes que la dinámica actual de los conductores humanos.  

- En situaciones peligrosas, la protección de la vida humana siempre debe tener la máxima prioridad.

- En el caso una inevitable situación de accidente, cualquier discriminación basada en la edad, sexo, raza, atributos físicos o cualquier otro factor distintivo es inadmisible.

- En cualquier situación de conducción, debe quedar claro, en función y apariencia, y ser claramente regulado, quién es responsable de la acción de conducir: el humano o el ordenador (el software).

- Para propósitos de responsabilidad deben documentarse y almacenarse los datos de quién realiza la conducción; es decir, siempre debe documentarse y tener almacenados los datos en una "caja negra" del conductor (sea humano, o software).

- Los conductores humanos poseen siempre la propiedad exclusiva, sobre si los datos de su vehículo fueran a ser reenviados o utilizados por terceros (poseen ‘soberanía’ sobre sus datos).

- Se debe considerar que, si bien los vehículos pueden reaccionar de manera autónoma en caso de situaciones de emergencia, los humanos deberían recuperar el control inmediato, sobre todo en los casos más ambiguos moralmente o decisión difícil (o sea, es preferible para ello un humano a un software, el menos por ahora).

La citada Comisión de Ética del Ministerio Federal de Transporte e Infraestructura Digital, que ha elaborado el informe, estuvo integrada por 14 académicos y expertos de disciplinas de ética, derecho y tecnología, (incluyendo expertos en transporte, legalidad, científicos de tecnologías información, ingenieros, filósofos, teólogos, etc. También participaron representantes de protección al consumidor y de asociaciones y empresas).

Como resumen, diré que este artículo, modestamente, pretende hacer un llamamiento sobre todo a la gente del ámbito de la innovación y también a quienes, en el entorno de la educación universitaria, tanto de ingenierías y tecnologías como de humanidades, se consideren concernidos, no sólo desde el punto de vista de los intereses empresariales o de la industria 4.0, -que citó el ministro Dobrindt-, sino también porque el tema de los coches autónomos en una sociedad como la nuestra va a tener una enorme dimensión social (estamos rodeados de automóviles día y noche en todas las ciudades que son modeladas por ellos). Y además por su dimensión humana y ética: el coche puede ser una ventaja o una amenaza en cualquier momento para todos y para nuestro medio ambiente.

Los vehículos autónomos, al tiempo, poseen un potencial de enorme dimensión como oportunidad para todos los innovadores, y para la sociedad que, quizá pueda con ello revisar a gran escala su cultura sobre las ciudades y la vida de la gente en ellas y su relación con la movilidad de todo tipo. No diré que haya que pensar en ellos como los que ya vimos en la película Blade Runner, que circulaba tanto en horizontal como en vertical, sino también pensar en ellos de una forma más ecológica y sostenible, y no como lo hemos hecho hasta ahora, algo que los ha convertido en una fuente aceleradora del cambio climático. La dimensión ética de la nueva cultura del coche autónomo también debería enfocarse a ayudarnos a las personas, instituciones y empresas a cambiar de cultura para combatir a gran escala el calentamiento global y el cambio climático. Es una gran oportunidad.

Como final, anticipo noticia que dejo para otro artículo, del lógico impacto que los sistemas de conducción autónoma tendrán obviamente por la eliminación de muchos puestos de trabajo en sectores y profesiones relacionadas con la conducción de vehículos de todo tipo, desde transportes públicos a privados. Es otra cuestión a la que también habrá inevitablemente que entrar, más pronto que tarde, y que no es un tema menor, precisamente.