Responsabilidad y ética en el uso de datos e inteligencia artificial, prioritaria en la agenda regulatoria europea

Europa tiene un gran interés en regular la inteligencia artificial (IA). Actualmente, está implementando una nueva estrategia política para introducir un marco legal competitivo sobre el acceso, el intercambio, el almacenamiento, el gobierno de datos, el desarrollo y el uso de esta tecnología.

Además, si retrocedemos un poco en el tiempo, en abril del pasado año, la Unión Europea (UE) anunció su intención de establecer el primer marco legal de la historia para la IA, una noticia que tuvo impacto a nivel global y que marcará el paso al resto de países.

Las normas planteadas prohíben algunos usos de dicha herramienta, pero incluyen, por ejemplo, los sistemas utilizados para evaluar a los estudiantes en educación, con fines de contratación, en algunas actividades de aplicación de la ley, o para evaluar la cualificación de los beneficios y servicios de asistencia pública.

La legislación propuesta exige, además, un análisis de conformidad previo antes de comercializar un sistema de IA de alto riesgo y prevé un nuevo método de aplicación que incluye la designación de autoridades nacionales de supervisión.

Las normativas actuales en torno a la IA y la nube

Para este año 2022 se espera la publicación de nuevas normativas sobre el uso responsable de la inteligencia artificial con el objetivo de mejorar la confianza y la asimilación de esta tecnología.

La meta es proporcionar a los ciudadanos y consumidores seguridad y leyes comunes en toda Europa para hacer frente a los fallos de esta tecnología que puedan causar daños y perjuicios.

El borrador del reglamento es uno de los elementos centrales de las estrategias digitales y de datos más amplias de Europa. Junto con otras leyes, como la ley de Gobierno de Datos, proporcionarán un marco legal que debería ayudar a eliminar las barreras al intercambio de información y ofrecer claridad en torno al acceso a la misma.

La incertidumbre legal en torno a su aproximación y a su puesta en común ha contribuido a la reticencia de romper los silos y a adoptar estrategias más ágiles para permitir políticas basadas en datos.

La actual estrategia europea sobre la nube es una pieza más del rompecabezas político, diseñada para apoyar el cambio en que los gobiernos utilizan y gestionan la información, incluyendo infraestructura y servicios en la nube específicamente para uso gubernamental.

También apoya la creación de conjuntos de datos, prevé mecanismos de colaboración con la industria e incluye aclaraciones sobre el marco político y jurídico aplicable para promover la seguridad y la confianza.

El papel de las organizaciones en esta nueva era

El nuevo marco regulatorio de la UE sobre la IA e intercambio de datos requiere que las organizaciones diseñen e implementen estrategias integrales.

Los primeros pasos en torno a la recopilación de información y las políticas de protección se realizaron en los últimos años en función de las necesidades de cumplimiento de la privacidad exigidas por el Reglamento General de Protección de Datos (GDPR).

En el futuro, las organizaciones tendrán que avanzar más para garantizar la calidad y la precisión de los mismos en sus actuales silos. A la par, deberán aplicar políticas de gobierno que apoyen la gestión auditable del modelo de inteligencia artificial hacia el mandato político para su uso responsable, transparente y justo.

A medida que Europa avanza hacia una economía ágil en materia de datos, las organizaciones tendrán que trabajar en introducir la IA responsable desde el diseño, al igual que la privacidad desde el diseño se convirtió en una norma tras la adopción del GDPR.

En este sentido, requerirá la evaluación de la tecnología de la inteligencia artificial utilizada, el despliegue de las habilidades y la formación adecuadas en toda la organización, la introducción de políticas y procedimientos en todas las operaciones para garantizar, entre otras cosas, sistemas y decisiones justos, transparentes y responsables, así como el cumplimiento eventual del nuevo marco legislativo cuando se adopte en unos cinco años.

El uso y desarrollo responsable de esta tecnología se convertirá, por tanto, en una obligación legal en Europa que tendrá un efecto dominó en todo el mundo, como sucedió con el GDPR.

También, es importante destacar que los consumidores y los ciudadanos europeos parecen estar considerando cómo podría ser la IA ética.

Por lo tanto, garantizar que la IA responsable se convierta en un producto o servicio desde su concepción, es decir, desde el diseño, es una opción estratégica que puede ofrecer una ventaja competitiva, una base sólida para el cumplimiento legal futuro y una postura ética para las organizaciones con visión de futuro.

***Kalliopi Spyridaki es chief privacy strategist para Europa y Asia Pacifica en SAS.