Estados Unidos quiere saber a quién culpar si un coche sin conductor se estrella

Vivimos tiempos eminentemente tecnológicos, sin embargo la irrupción de los diferentes sistemas de inteligencia computacional, que ya se están desarrollando, va a dar un vuelco al mundo tal y como hoy lo conocemos. Máquinas que cuentan con sus propios sensores para percibir la realidad, que la procesan en milésimas de segundo, que poseen algoritmos que desembocan en una decisión automática, mecanismos que la llevan a cabo y redes neuronales que aprenden de esas decisiones. No es el argumento de ninguna película de ciencia ficción, es la actualidad en la que ya nos movemos.

Hace tan solo unas semanas, el pasado 12 de octubre, el Comité Nacional de Ciencia y Tecnología de Estados Unidos publicaba un informe dirigido a la Casa Blanca con las guías rectoras que el gobierno norteamericano debería seguir sobre el desarrollo de la inteligencia artificial.

No es el único país que lo ha hecho: Un mes antes, el 13 de septiembre, el consejo científico británico hacía público su propio estudio dirigido al Parlamento. Ambos informes coinciden en un punto esencial: La inteligencia artificial no es algo que pueda dejarse para un futuro siempre lejano, sino una realidad que debe afrontarse cuanto antes.

Para Helena Matute, Catedrática de Psicología Experimental en la Universidad de Deusto y Directora del Laboratorio de Psicología Experimental en donde investigan las relaciones con las nuevas tecnologías, "la inteligencia artificial (IA) ha dejado de ser un tema opcional, ya se encuentra entre nosotros, y aún no hemos abordado cómo vamos a convivir con ella. Aún son muy básicos, pero que comiencen a aparecer esta clase de documentos oficiales es algo fundamental".

No hay que irse muy lejos: coches autónomos, redes neuronales, vigilancia automática, reconocimiento de imágenes… "Estas tecnologías ya existen y debemos aceptar cuanto antes que pronto estaremos rodeados de máquinas que aprenden por ellas mismas y toman decisiones sin consultarnos", señala Matute.

El cambio será radical y antes de lo que pensamos

En 2007 el economista libanés Nassim Taleb introdujo el concepto de "eventos cisne negro" referido a acontecimientos de alto impacto mundial que son difíciles o imposibles de predecir. La aparición de internet o los ataques del 11S son algunos de los ejemplos de cisne negro que suelen citarse. Sin embargo, la irrupción de la Inteligencia Artificial en nuestra sociedad no puede catalogarse en este concepto puesto que, desde hace años, existen multitud de expertos que afirman claramente que esta clase de tecnología nos va a cambiar la vida.

De hecho, los dos informes (tanto el estadounidense como el británico) coinciden en que "la IA posee el potencial para convertirse el mayor impulsor del crecimiento económico y del progreso social, siempre que la industria, la sociedad civil y los gobiernos trabajen juntos para apoyar su desarrollo, vigilando con atención especial la gestión de sus riesgos".

Este cambio global se ve reflejado en ambos estudios puesto que el panel de expertos que los ha elaborado insiste claramente en la participación e implicación de la mayoría de los Ministerios y Departamentos de los dos gobiernos. El documento de Estados Unidos analiza la IA y su potencial para convertirse en el principal motor económico en el futuro, y añade 22 recomendaciones generales que incluyen la intervención de legisladores, ingenieros, expertos en seguridad, matemáticos, así como la inclusión de departamentos económicos, transportes, infraestructuras, interior, justicia…

Tesla ofrece desde hace años coches con piloto automático. Tesla

"Los gobiernos tienen que ponerse manos a la obra, estudiar y comprender el fenómeno", explica Matute, "¿qué ocurre si un coche dirigido por un sistema automático se estrella?, ¿de quién es la responsabilidad? Existe un gran vacío legal. Nos encontramos en un momento crucial en el que hay que iniciar la legislación y regularización de situaciones que ya están sucediendo, y empezar a analizar muchas otras que llegarán. Es algo que debemos empezar a plantearnos y que incluye una gran cantidad de puntos de vista legales, éticos, sociales, laborales e incluso culturales".

El ser humano cada vez más lejos del volante

Casualmente, en su punto número ocho, el informe del Consejo de Ciencia y Tecnología de Estados Unidos indica hacia donde nos dirigimos: "El Gobierno deberá invertir en el desarrollo e implementación de procedimientos de tráfico aéreo automatizado e introducir sistemas de pilotaje autónomos".

No solo veremos coches automáticos o pequeños drones, el siguiente paso previsible es dejar, de manera global, la conducción y comunicaciones a sistemas inteligentes que se harán cargo del tráfico aéreo, marítimo y terrestre.

"La inclusión generalizada de la IA tendrá consecuencias también laborales, se perderán millones de puestos de trabajo y muchos de los oficios actuales desaparecerán", indica Matute, autora de Psicología de las nuevas tecnologías, "por supuesto, no es cuestión de ser catastrofista puesto que, al igual que ha ocurrido con otras tecnologías, aparecerán nuevos puestos de trabajo, más técnicos, relacionados con ellas".

El mercado laboral, al igual que ha ocurrido con la revolución de internet y los dispositivos móviles, deberá adaptarse a las nuevas necesidades.

Máquinas sesgadas

El informe británico hace especial hincapié en los sistemas de Deep learning (aprendizaje profundo) e incluye numerosos puntos abordando el aspecto ético de los mismos. "Mucha gente piensa que un robot hará lo que tú le programes que haga, pero esto no es así, la máquina hará lo que aprenda a hacer", explica Helena Matute. "Tú planteas un sistema inicial, y esas redes se van adaptando y desarrollando por sí mismas".

La investigadora de Deusto nos muestra un ejemplo: En la actualidad estamos comprobando que estas redes neuronales adquieren sesgos igual que los humanos. Hay que ser muy cuidadoso con su aprendizaje: "Tú entrenas, por ejemplo, a una red neuronal con fotografías y situaciones de personas de raza blanca y el día que encuentre a un afroamericano puede representar una amenaza".

Sin ir más lejos, en numerosas ciudades del mundo ya se están implementando algoritmos que predicen delitos, al más puro estilo Minority Report. "Esto plantea cuestiones éticas y sociales que hasta ahora ni podíamos imaginar", indica Matute. "En Los Ángeles se han introducido procesos policiales que se entrenan basándose en las cifras, porcentajes, zonas y datos de criminalidad de la ciudad, y esto está trayendo problemas de racismo; son algoritmos que predicen la probabilidad de que alguien cometa un delito y las decisiones que puedan tomar van a ser muy diferentes según el color de la piel, el barrio o la situación económica".

El bot de conversación Tay de Microsoft ahora es una cuenta privada. Microsoft

El proceso de entrenamiento de estas máquinas que aprenden debe ser monitorizado muy de cerca y se deben tener en cuenta los sesgos. En marzo de este año Microsoft tuvo que dar de baja un bot de conversación de inteligencia artificial creado para Twitter que aprendía de su entorno. En menos de un día, el programa se volvió xenófobo y comenzó a insultar a varios usuarios. Tras unos días de ajustes, la empresa informática volvió a ponerlo en marcha y resultó que, en esta ocasión, se había convertido en un verdadero spammer.

Vigilancia continua

Los dos informes invitan claramente a sus respectivos gobiernos a adelantarse a otros países en el desarrollo e innovación de Inteligencia Artificial, a proporcionar los medios necesarios para el progreso de estas nuevas tecnologías, e incluso el documento estadounidense, en su recomendación número 13, afirma que la investigación científica en este campo debe ser un objetivo prioritario para el Gobierno Federal.

Pero esta invitación al desarrollo y avance en IA viene acompañada de una férrea vigilancia sobre los procesos y los resultados. Los responsables de ambos documentos enfatizan en la monitorización constante que debe acompañar todo el proceso, creando grupos especiales compuestos por especialistas de multitud de áreas, comités éticos para vigilar malas prácticas e informes periódicos de los avances tecnológicos.

Otra gran cuestión abordada por sendos paneles de expertos es la del ciberterrorismo. En un mundo cada vez más dependiente de la tecnología, las amenazas paulatinamente dejarán de ser físicas y serán informáticas. El nuevo terrorismo se desarrollará frente a la pantalla y un ataque desde el sillón de casa podría causar más daños que una bomba o un disparo.

Por otro lado, la incorporación de la Inteligencia Artificial al trabajo de Agencias Federales como el FBI o la CIA se da por sentada, aunque se añaden precauciones en diferentes puntos del documento: "Las Agencias federales que usen sistemas basados en IA en el proceso de toma de decisiones, deben tener un especial cuidado para asegurar la eficacia y equidad de esos sistemas, que deberán estar basados en verificación y validación apoyadas en evidencias".

A pesar de que la Inteligencia Artificial conllevará un incremento en la automatización de muchos de los procesos que hasta ahora recaían en el ser humano, uno de los aspectos que los expertos recomiendan que siga a cargo de las personas es el de la Seguridad Nacional. Por supuesto durante la toma de decisiones se utilizarán los análisis y recomendaciones de los sistemas de IA, pero por el momento, el "botón rojo" del armamento pesado parece conveniente que quede en manos humanas.

Fotograma de la película Juegos de Guerra (John Badham, 1983)

En definitiva, nos encontramos ante dos documentos pioneros en su campo. Aún son muy básicos pero el mero hecho de haber dado un primer paso ya es algo importante. Citando las conclusiones del documento destinado a la Casa Blanca: "Los avances en la tecnología de IA han abierto nuevos mercados y oportunidades para el progreso en campos tan fundamentales como la salud, la educación, la energía o la seguridad. En los últimos años, las máquinas han superado a los seres humanos en el desempeño de tareas específicas y, aunque es muy improbable que las máquinas una inteligencia comparable o superior a la del ser humano en los próximos 20 años, sí es de esperar que alcancen y excedan el rendimiento humano cada vez en más y más tareas".

Con toda seguridad, en los años venideros la IA se convertirá en un impulsor del crecimiento económico y será una valiosa herramienta que conllevará beneficios y riesgos. Como ocurre con cualquier herramienta, el equilibrio entre sus dos facetas dependerá de su buen uso y de lo preparados que estemos para afrontarlas.