Confundir a un coche autónomo es tan fácil como poner un par de pegatinas en las señales

Investigadores de la Universidad de Washington han descubierto un método muy sencillo para engañar a un coche autónomo.

El miedo a los coches autónomos es muy comprensible; estamos dejando todas las vidas que van en el coche en manos de una máquina, que como cualquier otra, puede fallar.

Al final, este miedo sólo desaparecerá una vez los coches autónomos empiecen a circular en masa por nuestras carreteras; las primeras pruebas ya han demostrado que son más seguros que cuando un humano los conduce. Sin embargo, aunque estos sistemas fuesen perfectos, aún quedaría un temor muy real: que sean hackeados. Como cualquier otro sistema informático, los sistemas que controlan el coche pueden tener vulnerabilidades que otorguen el control a un atacante.

Aprovechándose de cómo los coches “ven” la carretera

Y lo peor es que eso se puede conseguir sin entrar en los sistemas del coche; simplemente engañándolos. Es lo que han revelado investigadores de la Universidad de Washington en su último estudio; que es posible aprovechar los sistemas de visión artificial del coche para que se comporte de manera errática.

toyotacochesautónomoscolaborativos1

Los coches autónomos dependen de todo tipo de sensores dispuestos alrededor de la carrocería; las cámaras, por ejemplo, se encargan de detectar elementos y objetos como señales, semáforos, otros vehículos y peatones. Esta información es comparada con un “clasificador”, creado por la propia IA del sistema.

Los coches autónomos no tienen una base de datos de señales que consultan cada vez que encuentran una; es decir, no tienen una imagen de una señal de “STOP”, por ejemplo. En vez de eso, es mejor que una red neuronal cree su propia colección de imágenes y datos reconocidos por su propio sistema (“aprendizaje automático”).

Cómo engañar a un coche autónomo

senal trafico coche autonomo 1

El sistema se fija en partes concretas de las señales para identificarlas; los investigadores se dieron cuenta de que, si modificaban esas partes concretas, podían cambiar el significado de una señal para un coche autónomo sin que los ocupantes del vehículo sospechasen.

Esto se consigue colocando pegatinas negras y blancas y posiciones concretas; o usando un espray de pintura negra para oscurecer ciertas partes de la señal.

senal trafico coche autonomo 2

Esa es la clave; cualquiera puede tapar una señal o pintar sobre ella, pero eso es demasiado evidente para cualquier persona, que puede entonces tomar el control del vehículo como precaución; sin embargo, seguro que has visto muchas señales con todo tipo de pegatinas promocionando desde conciertos a negocios de dudosa legalidad.

Los investigadores creen que han conseguido modificar varias señales lo suficiente como para que no resulten del todo evidentes a primera vista, pero desastroso para un coche autónomo.

senal trafico coche autonomo 3

Sin embargo, no es un sistema perfecto; necesitas saber exáctamente cómo el coche interpreta las señales, y la modificación sólo servirá con ese sistema. Por último, los propios investigadores afirman que la solución es que el propio sistema use información contextual; por ejemplo, que se de cuenta de que un límite de velocidad de 120 en una calle de ciudad no tiene sentido.