Estudiantes de Harvard convierten las Ray-Ban de Meta en un dispositivo con reconocimiento facial

La noticia saltaba en España hace escasas horas: Meta reconocía el uso de las fotos tomadas por las gafas Ray-Ban para entrenar sus modelos de IA. Un acto que en un principio no fue ni confirmado ni descartado por la firma de Mark Zuckerberg, y que se ha convertido en un hecho real. Por si fuera poco, unos estudiantes bastante jóvenes de Harvard han dotado a estas gafas de reconocimiento facial, creando un dispositivo bastante preocupante.

En plena vorágine por la polémica en torno al uso de publicaciones y datos de los usuarios para entrenar modelos de inteligencia artificial, unos estudiantes de la Universidad de Harvard han conseguido implementar la tecnología de reconocimiento facial más accesible en estas gafas Ray-Ban. Así, las gafas permiten saber una gran cantidad de información de cualquier usuario con tan solo apuntar su cámara frente a ellos.

El proyecto, realizado por unos jovencísimos estudiantes de la institución, combina la tecnología de grabación de vídeo de las Ray-Ban de Meta con el reconocimiento facial Pimeyes y otras herramientas. Así, los estudiantes han demostrado que con las gafas es posible descubrir datos como el nombre, el número de teléfono e incluso la dirección de un desconocido, según relata 404 Media.

'Doxear' desconocidos con unas gafas

Todo comienza con un grupo de estudiantes de Harvard liderado por AnhPhu Nguyen, uno de los principales cerebros detrás del proyecto, apodado I-XRAY. Los estudiantes han publicado un preocupante vídeo de demostración en el que revelan cómo pasar delante de las personas desvela algunos de sus datos más privados, usando las cámaras de las gafas Ray-Ban de Meta.

Nguyen y sus compañeros han expuesto al medio cómo esta herramienta es capaz de usar el simple rostro de una persona para conseguir datos íntimos, que van desde el nombre hasta la dirección del hogar. Caine Ardayfio, compañero de Nguyen, explica que solo es necesario ponerse las gafas y pasar delante de la gente. "Las gafas detectarán cuando aparece el rostro de alguien frente a la montura. Después de unos segundos, su información personal aparece en tu móvil".

Para dar todavía más veracidad al experimento, los estudiantes se dedican a viajar por las zonas colindantes para captar a completos desconocidos. En un ejemplo, escanean a una persona llamada Betsy, de la cual obtienen resultados. Nguyen detalla que se agregaron reacciones reales "que obtuvimos de personas al azar en el metro de Boston". Tanto es así, que llegaron a obtener datos de personas relacionadas con estas personas.

Pero ¿cómo lo hicieron? El sistema de las gafas envía la foto tomada por su cámara a una web de reconocimiento facial. Este sitio, totalmente accesible, busca los sitios en los que se ha subido el rostro de esta persona. Los resultados de la herramienta revelan datos biográficos, nombres, etcétera. En este caso, los estudiantes usan Pimeyes, un servicio de reconocimiento facial.

Ray-Ban Stories Pablo Ramírez Omicrono

Pimeyes se diferencia de otros servicios como Clearview AI en que es totalmente accesible; incluso lo usan autoridades e investigadores de todo tipo. Pimeyes usa una foto subida por el usuario para proporcionar un listado de rostros que coinciden y ofrece un conjunto de enlaces donde se alojan estas imágenes. Estas URL son las que contienen toda la información sensible.

I-XRAY extrae esas URL y usa un modelo de lenguaje grande (LLM) para averiguar de esas URL todos los detalles; el nombre, el lugar de trabajo, etcétera. Una vez obtenidos detalles como el nombre, I-XRAY hace una búsqueda en un sitio web de búsqueda de personas, una serie de intermediarios con datos comercialmente accesibles que almacenan información personal de las personas y hasta información de personas relacionadas, como familiares.

Manuel Fernández Omicrono

[La IA generativa de Nvidia, al descubierto: ha sido entrenada con millones de horas de vídeos de YouTube]

Los ejemplos son escalofriantes. Nguyen y Ardayfio explican que mostraron fotos a personas de cuando estas iban a la guardería, sin que estas supieran que dichas instantáneas existían siquiera. En un primer momento, las personas preguntadas por la pareja de estudiantes se sorprendieron gratamente. De hecho, en ocasiones idearon formas de usar esta herramienta para asustar a sus amigos.

Otros se horrorizaron ante el potencial. Las reacciones fueron de la sorpresa hasta el miedo. "Amigo, esto es lo más loco que he visto en mi vida. ¿Cómo sabes el número de teléfono de mi madre?", dijeron algunos. Nguyen puso el ejemplo de cómo un usuario podría usar este sistema para encontrar la dirección de una chica en un tren y seguirla hasta su domicilio.

Un acto de concienciación

Es importante destacar que este es un sistema que no es únicamente propio de las Ray-Ban de Meta. Un portavoz de Meta dejó claro que la tecnología de reconocimiento facial de Pimeyes se podía usar con cualquier cámara, por lo que aplicado a cualquier dispositivo con una lente, podría funcionar. Si se eligieron las gafas de Meta como herramienta, es por algo: la concienciación.

Ray-Ban Stories Pablo Ramírez Omicrono

Los estudiantes explican que eligieron las gafas porque a efectos prácticos, son increíblemente discretas. Se ven simplemente como unas gafas corrientes, sencillamente. Nyugen cree que esta es una de las formas más problemáticas en las que un mal actor podría usar esta tecnología aplicada a dispositivos con este factor de forma.

En un principio los estudiantes se vieron motivados por lo interesante del proyecto, pero luego todo esto tornó a un ejercicio de concienciación. La idea es generar conciencia sobre lo que es capaz de hacer esta tecnología y sobre todo lo fácil que es sacar a un usuario de su anonimato. Por ende, los estudiantes no han hecho público el código de I-XRAY. Eso sí, han publicado un extenso documento de Google con todo lujo de detalles.