El invento que protege tu privacidad: evita que tu cara aparezca en sistemas de reconocimiento facial

Los peligros del reconocimiento facial para la privacidad son evidentes. De hecho, cada vez son más habituales las noticias en las que un grupo de hackers aprovecha esta tecnología para cometer delitos. Esta misma semana se ha hecho público un insólito robo millonario: engañaron a un empleado con deepfakes de sus superiores para que transfiriera 25 millones de euros a cuentas opacas. Y el problema no parece dejar de crecer, ya que cada vez hay más cámaras de vigilancia en lugares públicos, sobre todo en países como EEUU o China pero también en Reino Unido o España.

En el recientemente aprobado AI Act o Reglamento de Inteligencia Artificial de la Unión Europea figura la prohibición del reconocimiento facial masivo salvo por cuestiones de seguridad nacional, pero este es un problema que trasciende el ámbito estatal y comunitario.

La cuestión es que las imágenes tomadas por cualquier cámara, aunque no disponga del software necesario, pueden ser aprovechadas con intenciones maliciosas y servir para identificar a una persona por su rostro sin autorización. Ahora, un grupo de investigadores de la ZJU, la Universidad de Zhejiang (China), ha desarrollado CamPro, un sistema para preservar la privacidad e impedir el reconocimiento facial desde la raíz.

Cámaras de vigilancia en un poste iStock Omicrono

La investigación, publicada en el repositorio arXiv, ofrece un nuevo enfoque en el campo del conocido como reconocimiento anti-facial (AFR, por sus siglas en inglés). Así, en lugar de utilizar métodos que se basan en la ofuscación, la síntesis o la modificación de las imágenes a posteriori, CamPro es algo que se puede implementar en cualquier cámara: modifica la captura de imágenes en tiempo real para que no puedan ser utilizadas para reconocer los rostros de quienes han sido grabados.

Reconocimiento anti-facial

Las técnicas existentes de AFR serían una versión sofisticada de las clásicas franjas negras o pixelado de las caras, diseñadas para impedir cualquier uso indebido de nuestra cara. Sin embargo, su eficacia está en entredicho, ya que la mayoría se basan en el postprocesamiento de las imágenes, modificándolas después de su captura. Estos sistemas suelen requerir la cooperación del usuario y afectan a la calidad de las imágenes, lo que impide su uso para otros fines.

Soldados ucranianos en la región de Kiev, con efecto de reconocimiento facial EFE (editado por Omicrono) Omicrono

También existen maquillajes específicos, gafas y hasta prendas de ropa especialmente diseñada para confundir a las herramientas de reconocimiento facial. Son inventos bastante ingeniosos, pero van quedando obsoletos por la continua actualización de la tecnología y tampoco son efectivos con todos los dispositivos y plataformas de software existentes.

Para añadir un nuevo enfoque, los técnicos de la ZJU han presentado sus avances bajo el nombre de CamPro, que trabaja directamente desde el sensor de las cámaras para proteger la privacidad sin influir en otras posibles aplicaciones. 

[Así funciona Clearview, el polémico reconocimiento facial que usa Ucrania para identificar rusos]

"El rápido desarrollo de la inteligencia artificial ha facilitado diversas aplicaciones de visión por ordenador que reconocen la actividad humana", explica Wenjun Zhu, uno de los responsables de la investigación, en Tech Xplore. "Sin embargo, la información sensible de identificación personal (también conocida como IPI), especialmente los rostros que aparecen en las imágenes, se recoge simultáneamente y se sube a servidores de terceros que no son de confianza".

Por eso, su equipo ha desarrollado esta tecnología, que pretende "preservar la privacidad por nacimiento", en referencia a la captura de las imágenes. CamPro propone así la opción de "remodelar una cámara básica para convertirla en un dispositivo que preserva la privacidad y no puede capturar los rasgos faciales para su identificación". Eso implica que su implantación sería más sencilla en el mundo real, ya que no haría falta sustituir los equipos de vigilancia por otros nuevos, sino adaptarlos a este sistema.

Esquema de las diferencias entre una cámara normal y otra con CamPro Zhejiang University Omicrono

El funcionamiento de cualquier cámara digital implica el uso de dos componentes de hardware básicos: un sensor de imagen (llamado CMOS o CCD) y un procesador de señal de las imágenes (ISP), que es el que se encarga de ajustar parámetros como el obturador o la sensibilidad a la luz. "El sensor de imagen convierte las luces percibidas en lecturas en bruto (RAW) y, a continuación, el ISP convierte el RAW en una imagen RGB estándar (sRGB) acorde con los sistemas visuales humanos", explica Zhu.

Lo que propone CamPro es aprovechar esas funciones configurables del ISP, como el color, el brillo, el contraste, la nitidez o el ruido, para proteger automáticamente la privacidad sin perjudicar otros posibles usos de las imágenes. "Aunque el propósito original de estos parámetros es producir una imagen verosímil, descubrimos que también pueden utilizarse para lograr el reconocimiento anti-facial al tiempo que proporcionan suficiente información para aplicaciones benignas de reconocimiento visual, por ejemplo, la detección de personas o la estimación de poses", sostienen los investigadores.

Esquemas y pruebas con CamPro Zhejiang University Omicrono

El equipo se centró sobre todo en el proceso de corrección gamma de las cámaras, es decir, en el proceso de corrección de color del ISP. Para que el resultado obtenido fuera válido para otros usos, también desarrollaron un nuevo software de optimización basado en redes adversariales, ya que la calidad de las imágenes resultantes quedaba por debajo de los requisitos mínimos de la visión humana.

"Creemos que este trabajo es pionero. No sólo ha conseguido proteger la privacidad de las imágenes a nivel de sensor, sino que además propone una cadena completa de funciones, desde la eliminación de la información hasta la restauración de la imagen pasando por las tareas visuales, y es fácil de implantar", afirma con orgullo el propio Zhu.

Pruebas de laboratorio

Para llegar a esa conclusión, los investigadores comprobaron que CamPro se adaptaba sin problemas a varios sistemas de identificación facial, reduciendo su precisión media al 0,3%. También demostró que la tecnología es resistente a ciberataques, que suelen implicar el reentrenamiento de los modelos de reconocimiento facial para eludir las 'trampas' de los sistemas AFR.

"CamPro es más adecuada para ciertas cámaras especializadas, como las que se utilizan en casas inteligentes para la detección de caídas de ancianos", explica Zhu. "Estas cámaras necesitan realizar algunas tareas visuales sin requerir información facial. CamPro puede evitar eficazmente que la información facial se obtenga de forma maliciosa y se utilice en diversos escenarios".

Ahora Zhu y sus compañeros de la ZJU trabajan en mejorar el rendimiento de CamPro, hacerlo compatible con más cámaras y ya están dando los primeros pasos para convertirlo en un producto disponible en el mercado. Pese a sus lógicas limitaciones, como los sensores ISP de baja calidad o algunas distorsiones que pueden afectar a la calidad final de las imágenes, supone un avance decisivo que pronto empezará a probarse en entornos reales. 

También te puede interesar:

• La web que encuentra todas las fotos en las que apareces en internet en cuestión de segundos
• El vídeo falso con IA más perturbador: revive a un joven asesinado para reactivar el caso
• Una pistola con reconocimiento facial, la revolucionaria arma que ya se vende en EEUU
• Cámaras con reconocimiento facial, el plan iraní para controlar cómo visten las mujeres