Así logrará Apple mantener privados los datos de la IA de sus usuarios: una caja negra virtual blindada de hackers

Apple ha cedido a los designios de la inteligencia artificial generativa, y la WWDC 2024 que se podrá ver desde España será el ejemplo perfecto de ello. Por supuesto, la compañía no dejará atrás su compromiso con la privacidad del usuario, especialmente a la hora de tratar datos personales en relación a la IA. Los rumores apuntan a que Apple usará técnicas de computación confidencial para proteger estos datos de usuarios

Así lo revela el medio The Information, que citando fuentes internas detallan cómo Apple ofrecerá soluciones para mantener privados los datos de los usuarios que se procesen en los servidores de la firma a la hora de usar inteligencia artificial. Más concretamente, planean hacer uso de lo que se conoce como enclaves seguros, un concepto que implicaría que ni Apple pudiera acceder a esos datos.

Para ello usarán un proceso de 'caja negra virtual', que pasaría por usar únicamente hardware y software de Apple para realizar el proceso de inteligencia artificial en la nube. Así, Apple controlará tanto el hardware como el software de sus servidores aprovechando un proyecto secreto en el que llevan trabajando los últimos años.

Apple usará una 'caja negra' virtual

Apple ha estado trabajando en estos últimos 3 años en un proyecto secreto conocido internamente como Apple Chips in Data Centers, con el acrónimo en inglés ACDC. Este sería el método usado para realizar este procesado de caja negra virtual, que sobre el papel permitiría mantener los datos privados cuando estos están siendo procesados.

Según han relatado hasta cuatro antiguos empleados de Apple que trabajaron en el proyecto, el sistema ACDC es una alternativa a la metodología habitual que actualmente se impone en el procesamiento de datos de usuario. Normalmente, los servicios en la nube cifran los datos cuando se almacenan; esto causa que los datos deben descifrarse en la memoria del dispositivo para procesarlos en el mismo servidor.

Privacidad en iPhone Apple

Con ACDC, Apple espera procesar los datos de las apps recopiladas de aplicaciones de IA en esta caja negra virtual o espacio seguro, lo que haría que ni siquiera los propios empleados de Apple fueran capaces de acceder a ellos. La idea sería similar a la que propone la llamada informática confidencial, un concepto en tecnología que protege los datos en todo momento durante el procesamiento.

La informática confidencial o computación confidencial se vale de claves criptográficas vinculadas a los procesadores que se encargan de estos datos, creando lo que se conoce como un 'enclave seguro'. Básicamente se trata de un espacio digital protegido que alberga una prueba firmada de forma criptográfica de que el hardware y el firmware están configurados para evitar que se vean o alteren estos datos. Esta 'evidencia' se conoce como 'atestación'.

Fotomontaje del logo de OpenAI con Tim Cook, CEO de Apple. Manuel Fernández Omicrono

La clave está, según The Information, en que Apple habría mejorado los diseños de su subsistema Secure Enclave para permitir este sistema ACDC en ellos. Dicho informe confirmaría, por otro lado, los rumores previos que relacionaban los enclaves seguros de Apple con el proyecto ACDC. Esto solucionaría muchos de los problemas de privacidad intrínsecos del procesamiento de datos privados en la nube.

Y es que el procesamiento de estos datos en los dispositivos (también llamado on-device) tiene un problema: si bien mantiene privados los datos ya que no los transfieren a la nube, el proceso es mucho más lento, debido a la capacidad de computación. El procesamiento en la nube, por contra, es mucho más veloz pero tiene como contrapartida la privacidad.

[Apple evitará que espíen lo que ves en tu iPhone gracias a estas nuevas e ingeniosas patentes]

Al controlar cómo se procesan los datos en la nube, Apple lo tendría más fácil para establecer más medidas de control que hicieran más difíciles las filtraciones de datos. Recordemos que este enfoque de 'caja negra virtual' haría que ni la misma Apple pudiera ver estos datos, lo que también supondría una salvaguarda en caso de que gobiernos o autoridades solicitasen estos datos.

Secure Enclave ya es un viejo conocido por los usuarios de Apple, ya que se constituye como el subsistema seguro de la compañía integrado en los SoC presentes en los iPhone, iPad, Mac y demás dispositivos.  Es un subsistema aislado del procesador principal, y está específicamente diseñado para mantener la seguridad de los datos que se procesan en el dispositivo incluso si el kernel del procesador es atacado. 

Esquema de Secure Enclave. Apple Omicrono

Por supuesto, no es una medida infalible. En el hipotético caso de que los atacantes pudieran acceder físicamente al hardware de los servidores de Apple, ni ACDC ni Secure Enclave garantizarían que estos datos permanecieran privados. Sin embargo, es un enfoque que no solo es mucho más seguro, sino que es más cómodo para la propia compañía de Cupertino.