La Comisión Europea firmará este jueves, 5 de septiembre, durante un acto celebrado en Vilna (Lituania) el Convenio Marco sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho, impulsado por el Consejo de Europa. 

Este documento establece un marco legal que afecta a todo el ciclo de vida de los sistemas de IA, así como a los desafíos asociados, a la vez que promueve una innovación responsable en línea con el rápido avance tecnológico. La relevancia de este tratado recae en el que es el primero que actúa de forma internacional (ya que está abierto a países no europeos) que es jurídicamente vinculante. 

El Comité de Inteligencia Artificial del Consejo de Europa ha sido el organismo encargado de su elaboración. En total, han participado en su redacción los 46 estados miembros del Consejo de Europa, la Unión Europea y 11 estados no miembros (Argentina, Australia, Canadá, Costa Rica, Santa Sede, Israel, Japón, México, Perú, Estados Unidos de América y Uruguay), así como representantes del sector privado, la sociedad civil y el sector académico, algunos de los cuales adoptaron la posición de observadores. 

Al igual que con el Reglamento Europeo de Inteligencia Artificial (AI Act, en inglés), que ha entrado en vigor recientemente, este convenio adopta un enfoque basado en el riesgo para el diseño, desarrollo y uso de los sistemas de IA. En concreto, el documento regula el uso de sistemas de IA tanto en sectores públicos como privados, ofreciendo opciones para que los estados cumplan con las obligaciones descritas alrededor de esta tecnología, respetando los sistemas legales y compromisos internacionales con la democracia y el estado de derecho. 

Eso sí, excluye de su alcance aquellas actividades de sistemas de IA relativas a la protección de intereses de seguridad nacional, asuntos de defensa nacional, y actividades de investigación y desarrollo de estos sistemas no abiertas para su uso.

Así, el tratado establece normas de transparencia, supervisión y responsabilidad, por ejemplo, las relativas a la igualdad de género y a la no discriminación. También, ofrece medidas para proteger la democracia y los procesos judiciales, excluyendo su aplicación en defensa nacional, e incorpora un mecanismo de seguimiento y supervisión independiente para asegurar su implementación efectiva. 

El documento se estructura en ocho capítulos que conforman una regulación de las distintas actividades dentro del ciclo de vida de los sistemas de IA y que protegen principios comunes como la dignidad humana, la igualdad, el respeto a la privacidad, la transparencia, la responsabilidad, la fiabilidad o la innovación segura. 

El convenio se suma al conjunto de instrumentos internacionales que apuestan por regular el desarrollo tecnológico en favor de una aplicación ética de los sistemas de inteligencia artificial. De hecho, de forma paralela al Reglamento Europeo de IA, establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos como identificar el contenido generado a través de esta tecnología o medidas para garantizar que estos sistemas no sean usados para minar procesos democráticos. 

Un estándar legal internacional

La firma por parte de la Comisión Europea se produce apenas unos meses después de la que llevó a cabo el Consejo de Europa, que adoptó este documento en Estrasburgo durante una reunión del Comité de Ministros de dicho organismo. En ella, la secretaria General del Consejo de Europa, Marija Pejčinović, precisó que esta iniciativa ayudará a defender los derechos de las personas en el marco de la inteligencia artificial. 

A la par, Pejčinović señaló que este tratado aparece como respuesta a la necesidad de un estándar legal internacional respaldado por diferentes continentes que comparten los mismos valores para aprovechar los beneficios de la IA al tiempo que se mitigan los riesgos.