‘Cazafantasmas’ para que Mobileye y Tesla no ‘vean’ objetos irreales

Investigadores de Israel y Georgia Tech analizan los "ataques fantasma", una brecha científica que hace que dos sistemas avanzados de asistencia al conductor (ADAS) en el Telsa Model X y el Mobileye 630, traten un objeto sin profundidad que aparece durante pocos milisegundos (se puede lanzar, por ejemplo, desde una valla publicitaria, por ejemplo) como un obstáculo real. La contramedida (cazafantasmas) incluye la acción de hasta cuatro redes neuronales.

En este estudio, los investigadores han demostrado cómo los atacantes pueden utilizar un proyector para hacer que el piloto automático del Tesla aplique los frenos en respuesta a un peatón 'fantasma' que fue proyectado en la carretera, o que el Mobileye 630 emita notificaciones falsas en respuesta a una señal de carretera proyectada.

"Para contrarrestar esta amenaza, proponemos una contramedida que puede determinar si un objeto detectado es un fantasma o es real, usando solo el sensor de la cámara". Esta contramedida, que han llamado cazafantasmas, utiliza un enfoque de "comité de expertos" y combina los resultados obtenidos de cuatro redes neuronales convolucionales profundas y ligeras que evalúan la autenticidad de un objeto, para lo que se basan en la luz, el contexto, la superficie y la profundidad del mismo. 

Pero, ¿qué se consisdera un 'fantasma'? Un objeto fantasma puede ser creado por un proyector o ser presentado a través de una pantalla digital, incluso de forma remota, por ejemplo, utilizando un dron equipado con un proyector portátil o pirateando vallas publicitarias digitales que dan a internet y están ubicadas cerca de las carreteras, eliminando la necesidad de acercarse físicamente a la escena del ataque.

El objeto sin profundidad presentado o proyectado se hace a partir de una imagen de un objeto tridimensional, es decir, puede proyectar la imagen de un peatón, un coche, un camión, una moto, una señal de tráfico... "Este fantasma está destinado a desencadenar una reacción no deseada de un ADAS", aunque esta imagen apenas se proyecte unos milisegundos, pero el sistema del vehículo ya lo ha captado.

¿Cómo actúan los 'cazafantasmas'?

Se propone un comité de modelos de machine learning que valida los objetos identificados por el detector de objetos de a bordo. "El GhostBusters puede ser desplegado en los ADASs existentes sin necesidad de sensores adicionales y no requiere ningún cambio en la infraestructura de carreteras existente".

En concreto, consiste en cuatro redes neuronales convolucionales profundas, capaces de evaluar el realismo y la autenticidad de un objeto. Además, se utiliza un quinto modelo que emplea las incrustaciones de los cuatro modelos para identificar objetos fantasmas.

En las conclusiones, este estudio apunta que también sería interesante evaluar un tipo específico de 'fantasma' donde una imagen completa o parte de una imagen que se proyecta sobre otra. También se sugiere probar la robustez de otros ADAS comerciales a los ataques fantasmas e investigar si los fantasmas de otros objetos 3D pueden engañar al ADAS (por ejemplo, mascotas, conos de tráfico, semáforos...).