'Data Brexit': Reino Unido sí dejará que los algoritmos se supervisen a sí mismos en contra de lo que defiende Europa

La decisión de Reino Unido de abandonar la Unión Europea (UE) obligó a redefinir la forma en la que ambas partes se relacionarían una vez se hizo efectivo el brexit, unos cambios que afectaron a numerosos aspectos como la política exterior, la seguridad y la defensa, el orden público, la cooperación policial, la pesca o las relaciones comerciales. 

A estos puede sumarse ahora uno más en el ámbito tecnológico. Y es que Reino Unido acaba de lanzar su propuesta de reforma de la legislación en torno a los datos y el borrador apunta la intención del Gobierno de Boris Johnson de alejarse de la postura más humanista de Europa en torno al desarrollo de la tecnología y, en concreto, de la inteligencia artificial (IA).

Esta decisión de Reino Unido de distanciarse de la Unión Europea (UE) en materia de protección de datos queda patente en el mismo prólogo del documento de 146 páginas sobre la reforma de la legislación de datos, que data de 2018 y a través de la cual el país traspuso el Reglamento General de Protección de Datos (GDPR) europeo. 

En el documento, el que hasta el pasado miércoles era el ministro de Digital, Cultura, Medios y Deporte de Reino Unido, Oliver Dowden, señala que, una vez que ha abandonado la UE, el país tiene ahora la libertad de crear un "nuevo y valiente" régimen de datos.

En este sentido, apunta que algunos aspectos siguen siendo "innecesariamente complejos o vagos" y siguen causando una persistente incertidumbre tres años después de su introducción. "Nuestro objetivo final es crear un régimen de datos que favorezca el crecimiento y la innovación, manteniendo al mismo tiempo los estándares de protección de datos líderes en el mundo del Reino Unido", insiste. 

Adiós a la supervisión humana

El principal cambio que plantea el texto es la modificación o supresión del artículo 22, que es el que garantiza que una persona tiene derecho a solicitar la revisión de una decisión que tomado un algoritmo. Esto afectaría, por ejemplo, a los sistemas de IA que emplean los bancos para decidir si una persona puede tener acceso a un crédito o los departamentos de recursos humanos para valorar los candidatos a un proceso de selección. 

En su nueva propuesta, el Gobierno de Reino Unido reconoce que las salvaguardas del Artículo 22 son "significativas" en algunos casos de uso, ya que podría haber una necesidad legítima de que ciertas decisiones derivadas de IA de "alto riesgo" requieran una revisión humana, incluso si este proceso restringe el alcance de uso de dichos sistemas o los hace más lentos.

Sin embargo, advierte de que el funcionamiento y la eficacia actuales del artículo 22 están sujetos a incertidumbre por dos motivos principales: la falta de certidumbre sobre cómo y cuándo se pretenden aplicar las salvaguardas actualmente en vigor y la limitada aplicación del artículo. 

En este contexto, añade que hay que tener en cuenta que es probable que el uso de la toma de decisiones automatizada aumente enormemente en muchas industrias en los próximos años. "La necesidad de mantener la capacidad de proporcionar una revisión humana puede, en el futuro, no ser factible o proporcionada, y es importante evaluar cuándo se necesita esta protección y cómo funciona en la práctica", afirma.

El texto apunta que es fundamental que las disposiciones del GDPR de Reino Unido para la toma de decisiones automatizada y la elaboración de perfiles funcionen tanto para las organizaciones como para las personas. Por ello, considera que es importante examinar si el artículo 22 y sus disposiciones están a la altura de la probable evolución de una economía y una sociedad impulsadas por los datos, y si proporciona la protección necesaria.

Antes de tomar una decisión definitiva sobre el diseño final de este artículo, el Gobierno ha lanzado una consulta pública al respecto. Además, recuerda que el Grupo de trabajo sobre innovación, crecimiento y reforma regulatoria, creado por el Ejecutivo británico y formado por tres parlamentarios británicos conservadores, ya ha recomendado la supresión del artículo. 

Relaciones entre Europa y Reino Unido

En declaraciones a D+I, el profesor y abogado experto en Derecho, Estrategia y Comunicación Digital, Borja Adsuara, cree que la decisión de Reino Unido es "una mala idea", ya que no va a mejorar la redacción actual del texto en materia de protección de datos y una modificación unilateral va a desconectar al país del continente y del reglamento europeo. 

En este sentido, remarca que, de confirmarse finalmente este cambio, tendrá consecuencias en el proceso de intercambio de datos entre el país y el Viejo Continente, ya que, por muy potente que sea el sistema de datos que cree Reino Unido, quedará "aislado" del resto de economías. 

"Si quitan el artículo 22 hacen un dique en el canal de la Mancha porque no puede haber un intercambio de datos con la Europa continental, ya que Gran Bretaña se coloca en un nivel inferior de protección de datos al no comulgar con todo el GDPR", incide Adsuara, quien remarca el "follón" que puede ser para una empresa de Londres pedir una transferencia internacional de datos en este escenario.

Por su parte, Idoia Salazar, presidenta de OdiseIA, Observatorio del Impacto Social y ético de la IA, también considera que si Reino Unido, finalmente, sigue adelante con esta iniciativa, se distanciará de la legislación europea en IA que requiere, como obligatorio, la supervisión por parte de las personas, siempre que no se trate de una mera automatización, sin ningún tipo de impacto, tanto a nivel social como laboral.

Además, añade que también tomaría una tendencia contraria a la que siguen, en la actualidad, la mayoría de los países en el mundo, en la que se busca poner al ser humano en el centro en la toma de decisiones y a los sistemas de IA como una ayuda en este proceso para ayudarnos a mejorar como humanidad. 

En esta línea, el despacho de abogados Linklaters apunta que, de confirmar que Reino Unido suprime o modifica este artículo, el país "nadará contracorriente" en un momento en el que tanto la UE como China busquen regular esta área para proteger mejor a los consumidores.

Solución a un problema inexistente

Por otra parte, Adsuara también rechazó el argumento esgrimido por el Gobierno de Reino Unido de que este artículo puede limitar el desarrollo de una economía basada en datos en el país, ya que actualmente, tres años después de su entrada en vigor, no se da el problema de que haya millones de personas pidiendo la intervención humana. 

"No sé si esto tiene base real", incide el ex director general de Red.es, quién añade que no tiene sentido cambiar una ley por un problema que no se está planteando actualmente.

En su opinión, detrás de esta decisión puede estar el hecho de que muchas veces ya no es posible explicar la lógica interna del algoritmo. Como mucho se podrá explicar lo que programaron en su momento, pero con el machine learning el sistema sigue aprendiendo y llega un momento en el que los mismos programadores o supervisores del algoritmo no saben por qué toma esas decisiones.

El despacho de abogados Linklaters, en un texto publicado en su web, coincide con Adsuara en que, aunque el recogido en el artículo 22 es un derecho "interesante y potencialmente significativo", no suele aplicarse con mucha frecuencia en la práctica y rara vez parece causar problemas.

Pese a todo, Adsuara recuerda que él ha sido muy crítico con el artículo 22, porque queda muy bonito en el papel, pero no es fácil cumplirlo. Y es que por mucho que las personas soliciten esta supervisión, luego no van a ser capaces de entender la explicación que reciban.

En este sentido, señala que a él lo que le preocupa es que nadie pida la explicación de como funciona la lógica interna de los procedimientos de los algoritmos. Por ello, aboga por crear una autoridad intermediaria con personal formado que se encargue de canalizar esas peticiones de supervisión humana y pueda responder luego a las dudas de los consumidores. Además, esto podría ser una respuesta a una hipotética petición masiva de supervisiones en el futuro. 

Desconfianza en la IA

Por otro lado, Salazar señala que es un hecho que se necesita impulsar el desarrollo y la implementación de la inteligencia artificial, pero advierte de que si no se tiene cuidado en salvaguardar los derechos inherentes a todo ser humano, no se va a conseguir este objetivo "porque se fomentará cada vez más la desconfianza en torno a esta tecnología".

Así, incide en que desde la Unión Europea (UE), "y OdiseIA lo apoya al 100%", se persigue situar al ser humano siempre en el centro, y a los sistemas de inteligencia artificial como herramientas de apoyo a ese ser humano.

"Por tanto, no es admisible que un sistema de IA tome decisiones autónomas relevantes en la vida de una persona (empleo, préstamos, salud... ) sin la supervisión de personas físicas especializadas en esta materia", afirma Salazar, quien recuerda que esta cuestión está recogida en la propuesta de legislación de la UE en materia de IA publicada el pasado mes de abril.

Asimismo, añade que a esto se une, además, el desarrollo actual en el que se encuentra esta tecnología en cuanto a explicabilidad. "Hay muchos algoritmos de IA que son 'cajas negras', es decir, no permiten ver el proceso que han seguido a la hora de 'tomar su decisión'. Por tanto, hasta que no se resuelva esta cuestión, la confianza en esta tecnología (si se usa este tipo de algoritmos de deep learning) continúa siendo muy relativa", subraya.

Una decisión errónea

En esta misma línea, el think tank We The Humans (WTH) consideran que la posibilidad de que Reino Unido elimine la supervisión humana en la toma de decisiones de los sistemas basados en IA es "errónea", ya que deja el control de la toma de decisiones en grupos de interés desconocidos y no va a favorecer el desarrollo de la IA por falta de transparencia.

Ante el argumento del Gobierno británico de que la supervisión humana resulta complicada, costosa y poco práctica a la hora de impulsar la economía basada en los datos, en WTH están convencidos de que tal supervisión es "posible y necesaria".

"Es posible porque cada vez más tenemos tecnologías que son capaces de explicar el resultado de un algoritmo inteligente. Es necesaria porque todo ciudadano tiene derecho a conocer quién toma una decisión y por qué la toma. Detrás de algoritmo siempre hay una persona o una institución", incide. 

Por todo ello, defienden que, si se elimina la supervisión humana, esto llevará a la toma de decisiones por grupos de interés desconocidos e inciden en que "una sociedad moderna y democrática no puede abandonar su responsabilidad y supervisión en la toma de decisiones que afectan a sus ciudadanos".