El uso del reconocimiento facial automático de parte de fuerzas de seguridad del estado ya es una realidad, gracias al avance de las últimas tecnologías. Nuestro móvil es capaz de reconocernos con gran precisión, no es de extrañar que esa tecnología esté siendo usada para otros fines algo más “distópicos”.

Sin embargo, estos sistemas aún no son perfectos; y hay serias dudas de que realmente lo vayan a ser algún día. La tasa de errores es relativamente alta, y cuando eso se aplica a un sistema de vigilancia, el resultado es una gran cantidad de falsos positivos. Precisamente Apple, que es la que más ha apostado por el reconocimiento facial en sus iPhone, es la que acaba de demostrar lo que ocurre cuando estos sistemas fallan.

Arrestado por el reconocimiento facial de Apple

Es el caso de Ousmane Bah, un estudiante de 18 años que fue arrestado en Nueva York por los robos en varias Apple Store de Boston, Nueva Jersey, Delaware y Manhattan. El sistema de reconocimiento facial instalado en estas tiendas lo había identificado como el ladrón, y la policía pudo obtener fácilmente una orden de arresto. Sólo había un problema: la foto de la persona en la orden de arresto no era Bah.

En realidad, el sistema de reconocimiento facial no había detectado a Bah, sino a una persona diferente, y le había asignado su nombre. El verdadero ladrón usó un permiso de conducir temporal para identificarse en estas tiendas como un cliente normal, antes de robarlas; un permiso que había robado a Bah anteriormente. Como el documento no incluía una foto, la base de datos de Apple automáticamente asoció el rostro del ladrón con ese nombre.

Apple se enfrenta a una demanda

Como resultado, cuando el ladrón ejecutó sus robos en estas tiendas, el sistema de identificación de Apple le reconoció como “Ousmane Bah”, y contactó con la policía. Sin embargo, Bah tenía coartada: durante uno de estos robos, estaba en su graduación. Esto hizo que la policía se fijase más en los detalles, y es cuando se dieron cuenta de que la persona grabada no era su sospechoso.

Pero el daño ya estaba hecho. Bah tuvo que responder a un interrogatorio y explicar su situación ante la policía. Es por eso que ahora el estudiante ha demandado a Apple y a Security Industry Specialist (una compañía de seguridad asociada con Apple) por un valor de 1.000 millones de dólares.

No está claro si esta demanda realmente llegará a buen puerto, o si el joven está buscando en realidad algún acuerdo extra-judicial. Pero es justo lo que Apple no quiere: ser asociada con el uso del reconocimiento facial para detener falsamente a cualquiera.