La tecnología de reconocimiento facial y su uso para identificar ciudadanos no cuenta con una legislación federal en EEUU que, un hecho que ha llevado a demócratas y republicanos a debatir este miércoles sobre una potencial regulación.

El Comité de Supervisión y Reforma de la Cámara de los Representantes ha acogido este miércoles la primera de una serie de sesiones sobre el uso gubernamental o comercial de las tecnologías de reconocimiento facial. La próxima sesión tendrá lugar el 4 de junio.

El uso gubernamental de esta tecnología suscita dudas por cuando plantea un riesgo potencial para las enmiendas Primera (libertad de expresión y credo), Cuarta (derecho a la seguridad contra registros e incautaciones no razonables) y Decimocuarta (respeto de los derechos legales de toda persona), como recoge la nota de prensa de esta sesión.

El Comité ha resaltado alto ratio de error en la identificación que la tecnología de reconocimiento facial tiene para con las minorías y las mujeres frente a los hombres blancos, lo que "incrementa el riesgo de sesgo racial y de género".

Un estudio de 2016 sobre Privacidad y Tecnología realizado por la Escuela de Derecho de la Universidad de Georgetown recoge que "al menos, un cuarto de cuerpos de seguridad de EEUU usan búsquedas de reconocimiento facial en sus bases de datos o de otras agencias para intentar identificar, buscar y arrestar sospechosos criminales", ha señalado durante la sesión el expresidente de la Organización Nacional de Ejecutivos de Aplicación de la Ley Negros, Cedric Alexander.

Si bien Alexander ha matizado que "a veces los cuerpos de seguridad usan el reconocimiento facial prudente y sabiamente", ha incidido en que también lo hacen "imprudentemente", y ha resaltado que el uso de esta tecnología "no solo no está regulada por ley, opera incluso sin un consenso sobre buenas prácticas".

En su intervención, se ha referido al problema que supone el sesgo presente en este tipo de tecnologías. Los sistemas de inteligencia artificial trabajan a partir de bases de datos con rostros identificados en un intento por relacionar uno de esos rostros con el de un sospechoso o un sujeto desconocido. "Un sistema de inteligencia artificial es tan bueno como lo es su base de datos", ha puntualizado Alexandre.

En este sentido, ha denunciado que una de las consecuencias es que "las bases de datos públicamente disponibles fallan en la representación del tamaño y la diversidad de la población americana y son, por lo tanto, muestras inherentemente sesgadas.

Acerca de las limitaciones de las tecnologías de reconocimiento facial, la fundadora de Algorithmic Justice League, Joy Buolamwini, ha llamado la atención sobre la "rápida expansión" de esta tecnología "con poca o ninguna supervisión formal".

Buolamwini, invesigadora del Instituto de Tecnología Massachusetts (MIT), ha compartido en la sesión su tesis, con la que pudo descubrir "un gran sesgo de tipo de piel y género encubierto en servicios de IA de compañías como Microsoft, IBM y Amazon".

La investigadora cita al presidente de Microsoft, Brad Smith, quien reconoció los riesgos de esta tecnología "en su estado actual de desarrollo", entre los que menciona que algunos de sus usos "incrementan el riesgo de y resultados que son sesgados y, en algunos casos, violan las leyes que prohíben la discriminación".

Smith también señaló que puede suspener "nuevas intrusiones en la privacidad de las personas", así como llegar a "infringir las libertades democráticas" si la emplea un gobierno para la vigilancia masiva.

A este respecto, Buolamwini ha asegurado que "la amenaza de la vigilancia facial pone a las libertades civiles en riesgo" y ha enfatizado que lo hace "en particular, poniendo en peligro las poblaciones vulnerables".

Sobre el impacto que la tecnología de reconocimiento facial tiene sobre los derechos y las libertades civiles, el catedrático de Derecho en la Universidad de Columbia, Andrew G. Ferguson, ha sido tajante en su intervención: "el Congreso debería actuar para regular las nuevas tecnologías de reconocimiento facial, dado que el lento proceso, caso por caso, del litigio de la Cuarta Enmienda es inadecuado para abordar el mundo rápidamente cambiante de la vigilancia masiva".

Ferguson ha dedicado la última década a estudiar "cómo las nuevas tecnologías de vigilancia moldean los derechos constitucionales y los poderes policiales". En base a su experiencia, ha defendido que el Congreso debería "redactar un proyecto de ley que prohíba el uso generalizado de sistemas de vigilancia facial que permita capacidad de monitorizacion arbitrarias, agregadas o permanentes" y "un proyecto de ley que prohíba el uso de búsquedas dirigidas de reconocimiento facial no habiendo causa probable individualizada, autorización escrita y requerimientos de minimización de los límites del impacto sobre los ciudadanos inocentes".

La asesora legislativa en la Oficina Legislativa de Washington, Neema Singh Guliani, ha destacado los trabajos que se están realizado tanto a nivel estatal como local para "frenar la expansión irresponsable de esta peligrosa tecnología y prevenir daños mayores" y ha asegurado que "a pesar de estos esfuerzos", la adición de acción congresual en este área es sumamente importante".

Como portavoz de esta sesión de la Unión Estadounidense por las Libertades Civiles, la asesora legislativa ha instado a la Cámara que "detenga el uso del reconocimiento facial con propósitos de seguridad e inmigración hasta que el Congreso apruebe una ley que dicte que que usos son permisibles y garantice que los derechos de los individuos pueden ser protegidos".

La asesora legislativa también ha instado a "que haga sudo de sus poderes de supervisión para hacer pública la información concerniente a cómo las agencias federales usan el reconocimiento facial", y que "investigue a compañías como Amazon y Microsoft que venden el reconocimiento facial para uso de los cuerpos de seguridad y sin tomar la adecuada responsabilidad o imponiendo protecciones insuficientes para prevenir el abuso".

También ha intervenido en esta sesión la Senior Associate en el Centro de Privacidad y Tecnología en la Escuela de Derecho de la Universidad de Georgetown, Clare Garvie, quien, en base a su trabajo, ha aseverado que "el reconocimiento facial presenta una amenaza única a los derechos civiles y las libertades protegidas por la Constitución de EEUU".

Garvie ha expuesto que esta tecnología "da a los cuerpos de seguridad un poder como nunca antes han tenido", y sin comprobar, "las actuales prácticas policiales amenazan las garantías constitucionales", y ha llamado la atención sobre "las consecuencias de los errores que nacerán desproporcionadamente para las comunidades afroamericanas".

"El uso policial del reconocimiento facial sigue haciéndose más generalizado y avanzado, y la ley poco hace para proteger contra los riesgos que entraña", ha seguido Garvie.

La próxima sesión tendrá lugar el 4 de junio, y en ella se escucharán los alegatos de testigos de los cuerpos de seguridad.