Explicando la AESIA: Agencia Española de Supervisión de Inteligencia Artificial

En diciembre de 2022 conocimos que la futura sede de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) se establecería en la ciudad de A Coruña. A pesar de que otras ciudades candidatas han impugnado esta decisión, el pasado 2 de septiembre se publicó en el BOE el Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial y que prevé que el organismo estará situado en el edificio La Terraza, que el Ayuntamiento de A Coruña ha cedido para este uso.

Esta norma concede un plazo máximo de tres meses para la efectiva puesta en funcionamiento de la AESIA con la constitución del Consejo Rector, y convierte a España en el primer país de la Unión Europea en crear una agencia estatal de supervisión de la Inteligencia Artificial.

La AESIA estará presidida por la persona titular de la Secretaría de Estado de Digitalización e Inteligencia Artificial, cargo que actualmente ostenta Carme Artigas. En cuanto al Consejo Rector, se compondrá de un Director/a y siete vocalías, de las cuales seis serán ejercidas por representantes de ministerios: cuatro del Ministerio de Asuntos Económicos y Transformación Digital, una de Hacienda y otra de Industria, Comercio y Turismo.

Sólo una de las siete vocalías se reserva a una persona experta que represente al ecosistema en el ámbito de la IA, que habrá de ser nombrada a propuesta conjunta del Consejo Asesor de Inteligencia Artificial y la Comisión Permanente de Digitalización de la Economía, la Administración y la Ciudadanía.

Esta composición del Consejo Rector ha sido objeto de críticas por su excesiva dependencia del ejecutivo estatal y en concreto del Ministerio de Asuntos Económicos, al que pertenecerán 4 de las 7 vocalías. Además, hay que tener en cuenta la situación actual de falta de Gobierno, que puede dificultar que los nombramientos se hagan en el plazo de tres meses que prevé la norma. Un plazo que también parece escaso para la selección del personal funcionario y laboral que compondrá la AESIA.

¿Cuál será la función de la AESIA?

Según la propuesta de Reglamento de Inteligencia Artificial de la Unión Europea, todos los estados miembros deberán contar con un organismo que supervise la IA en cada país. No obstante, este Reglamento está todavía en tramitación, y hasta su aprobación definitiva no resultará obligatoria la creación de estos organismos.

Por este motivo no se han creado por el momento dichas agencias en ninguno de los países que conforman la Unión Europea, a excepción de España: la AESIA es la primera agencia estatal de supervisión de la IA de la Unión Europea.

De este modo España se adelanta al requerimiento que sabemos que vendrá, y pone en marcha el organismo que ofrecerá “supervisión de forma voluntaria hasta la entrada de la normativa europea en materia de Inteligencia Artificial a través de sellos de calidad y responsabilidad de Inteligencia Artificial”.

Se prevé además que la Agencia elabore unas “guías operacionales de implementación de los requisitos de la normativa europea en materia de Inteligencia Artificial que los usará para generar conocimiento entre el ecosistema sobre el cumplimiento de los requisitos, así como el acompañamiento en los cambios que se necesitan para asegurar dicho cumplimiento”.

Entre las competencias de la AESIA -que se regulan en el artículo 10 del Estatuto- están las siguientes:

• La promoción de entornos de prueba que permitan la adaptación de sistemas innovadores de IA a los marcos jurídicos en vigor. Se trata de una función importantísima, que permitirá a las empresas desarrollar herramientas de IA orientadas a cualquier sector en un entorno seguro. Pensemos por ejemplo en herramientas de IA para el ámbito de la educación o sanitario: cada uno de ellos cuenta con regulación propia que no prevé el uso de la IA, que ahora mismo carece a su vez de regulación propia. Contar con entornos de prueba donde trabajar en desarrollos de IA y cumplimiento normativo permitirá el desarrollo de iniciativas empresariales innovadoras relacionadas con la IA.

• El apoyo al desarrollo y uso de sistemas de IA con perspectiva de género. El sesgo de género está presente en herramientas de IA e incluso en la IA generativa, que se ha demostrado que hipersexualiza las imágenes femeninas. Se trata de un problema global de la IA que afecta a los gigantes tecnológicos, sobre el que no existe foco de ningún organismo similar a la AESIA y que plantea una enorme oportunidad de mejora y de desarrollo de proyectos empresariales que busquen la neutralización de los sesgos de género en IA.

• Un sistema de certificación voluntario al que podrán someterse las empresas para acreditarse como proveedores de soluciones de IA responsables y acordes a la ley. No existen otras agencias en la UE que puedan otorgar un sello equivalente, y su obtención puede ser un factor decisivo para la atracción de empresas que busquen esta ventaja competitiva.

• La dinamización del mercado para potenciar iniciativas y prácticas innovadoras y transformadoras en el ámbito de la inteligencia artificial. La AESIA tendrá una posición de observador privilegiada para identificar y dinamizar prácticas innovadoras si tenemos en cuenta el conocimiento de las mismas a través de los entornos de prueba y de las consultas que recibirá. Ser además la primera agencia europea con este fin le otorga una ventaja adicional: no sólo contará con ventaja temporal, sino que puede por ello atraer a España a empresas extranjeras y ampliar el conocimiento de prácticas innovadoras y transformadoras de otros países.

• El impulso de la colaboración público-privada, la coordinación con iniciativas de terceros y la ayuda a la ejecución de programas de IA a través de acuerdos, convenios etc. Se trata de una oportunidad enorme para empresas, instituciones y Universidades y otras entidades de formación, que podrán colaborar a través de la AESIA para desarrollar e implantar herramientas de IA en sectores estratégicos. El potencial de este tipo de colaboraciones y el papel de coordinación de la AESIA pueden suponer una importante ventaja competitiva respecto de otros territorios.

• Creación de conocimiento, formación y difusión en relación con la IA ética y humanista e identificación de tendencias y evaluación de impacto social. La Unión Europea será el primer gran territorio en aprobar normativa sobre IA, y el borrador de Reglamento asume precisamente este enfoque ético y de respeto de los derechos humanos. Contar con un polo de conocimiento en A Coruña puede ser un motor para la creación de empresas alrededor de una IA bajo este enfoque, en la línea de lo que viene ocurriendo en Galicia con el conocimiento científico generado en las Universidades y que estamos viendo florecer en empresas gallegas punteras en biotecnología.

• El apoyo al desarrollo y uso de la IA desde una perspectiva ambiental y sostenible. Se busca la doble vertiente de aprovechar la IA para resolver problemas ambientales, a la vez que se procura que el desarrollo de la propia IA energéticamente eficiente.

• La supervisión de los sistemas de IA para que cumplan la normativa nacional y europea. Se trata de la labor que el Reglamento de IA reserva para las Agencias: una función similar a la que realiza la Agencia Española de Protección de Datos (AEPD) en materia de privacidad.

Las funciones de la AESIA van mucho más allá de la de mero supervisor que prevé el Reglamento de IA. Su creación temprana y la atribución de competencias de dinamización y asesoramiento en IA tienen potencial para que la AESIA se convierta en aliado estratégico del sector y en polo de atracción de empresas y talento relacionado con la IA a España, a Galicia y a la propia ciudad de A Coruña.