Creemos que la Inteligencia Artificial es perfecta. Que no falla, que no tiene errores de programación. No obstante, se ha demostrado en multitud de ocasiones que eso no es así, y algunas de las preconcepciones racistas que tenemos como sociedad suelen rematar este hecho. Ahora, vuelve a repetirse la historia, esta vez con un algoritmo de IA acusando a un hombre de un delito... siendo este inocente.

Robert Julian-Borchak Williams, un oficinista en una firma de suministros automotrices, se vio envuelto en una terrible historia con una detención incluida a manos de un algoritmo. Una acusación que se constituye como la primera ocasión en la que una IA acusa de un delito a alguien sin que este lo haya cometido.

Williams fue arrestado por el Departamento de Policía de Detroit debido a una coincidencia defectuosa de un algoritmo de reconocimiento facial que lo confundió con otra persona de color. Porque sí, Wlliams es una persona racializada, de color. Y eso le valió la detención.

Un algoritmo se confunde

Según cuenta Williams en el New York Times, fue arrestado en plena jornada laboral recibiendo una llamada del Departamento de Policía de Detroit. Varios coches de policía y varios agentes después, Williams fue esposado y llevado a comisaría. A modo anecdótico, decir que cuando su esposa Melissa preguntó a dónde se llevaban a su marido, uno de los oficiales le repsondió: "Busca en Google".

Una vez detenido e identificado, 2 detectives lo levaron a una sala de interrogatorios y le pusieron sobre la mesa varios documentos referentes a un atraco en Shinola, una boutique de lujo que vende artículos caros. 5 relojes de Shinola, valorados en 3.800 dólares, fueron robados y tenían imágenes de un vídeo de vigilancia que mostraba a un hombre de color, vestido de negro y con una gorra.

En efecto, Williams había sido víctima de una coincidencia basada en Inteligencia Artificial defectuosa. No es la primera vez ni mucho menos que ocurre; estudios del MIT y del NIST (el Instituto Nacional de Estándares y Tecnología) afirman que la tecnología de reconocimiento facial funciona relativamente bien con hombres blancos pero no con otras características demográficas, en parte debido a la falta de diversidad en las imágenes utilizadas para desarrollar las bases de datos.

Por supuesto no solo hablamos de una tecnología de reconocimiento facial deficiente sino la suma de esta junto a un trabajo policial deficiente. Porque el arresto de Williams no tuvo base ninguna, más allá de la comparación entre imágenes de mala calidad y los datos de la víctima.

Todo comienza en octubre de 2018, con un robo en una tienda de Shinola. La investigadora Katherine Johnston, investigadora de una empresa de prevención de robos, revisó el vídeo de vigilancia y envió una copia a la policía de Detroit. 5 meses después, una examinadora de imágenes de la Policía Estatal de Michigan subió una "imagen de investigación", una imagen del vídeo que muestra al hombre del metraje a la base de datos de reconocimiento facial del estado.

El sistema mapeó la cara del hombre y buscó otras similares en una colección de unas 49 millones de fotos. La examinadora realizó su búsqueda de la imagen y se le proporcionó una fila de resultados, con puntuajes de confianza.

La foto del carnet de conducir de Williams estaba entre los más parecidos, y la examinadora envió dicho informe al Departamento. En el documento se explica que este es un documento sin identificación positiva, es decir, que es una pista de investigación y no es causa probable de arresto. He aquí cuando entró el abuso policial, ya que estas comparaciones siempre tienen que usarse como pistas en el caso, no como hechos determinantes que incurran en una detención.

Lo que vino después fue todavía más simple. Los investigadores, en vez de hacer un seguimiento del caso proporcional, incluyeron la foto de Wiliams en un listado que luego se mostró a la contratista de Shinola. Esta lo identificó, erróneamente.

El proceso estuvo plagado de problemas, y el propio papel de Johnston tiene ciertos detalles a tener en cuenta. No se detalla si las personas incluidas en el informe son testigos oculares, po rejemplo. En esencia, usaron una simple coincidencia usando el reconocimiento facial como excusa para proceder a realizar una detención.

Williams estuvo retenido toda una noche y estuvo en custodia hasta 30 horas después. Salió libre después de pagar una fianza de 1.000 dólares. 2 semanas después y teas comparecer ante un tribunal, el fiscal buscó desestimar el caso. El comunicado del Departamento detalla que en el mismo "no se realizan arrestos basados únicamente en el reconocimiento facial. El investigador revisó el vídeo, entrevistó a testigos, y realizó una alineación de las fotos.