Cumbre internacional de inteligencia artificial 'AI Action Summit' celebrado esta semana en París

Cumbre internacional de inteligencia artificial 'AI Action Summit' celebrado esta semana en París

Europa

Europa se lanza a la carrera global por el dominio de la IA con inversiones millonarias y aparca el discurso regulatorio

La cumbre internacional 'AI Action Summit', celebrada esta semana en París, se ha convertido en una sucesión de anuncios dirigidos a reforzar la industria de la IA en Europa y Francia.

Más información: Europa mueve ficha ante la IA: invertirá 200.000 millones de euros con un fondo de 20.000M para gigafactorías

Publicada
Actualizada

Con ciertas ínfulas y una buena dosis de desorganización tras bambalinas, se ha celebrado esta semana en París la cumbre internacional de inteligencia artificial ‘AI Action Summit’. Coorganizada por el presidente francés, Emmanuel Macron, y el primer ministro de la India, Narendra Modi, la reunión ha derrochado más allure parisienne que esencia de chai.

Los franceses han convertido la cumbre global en su fiesta particular de la IA, con un aluvión de anuncios eminentemente dirigidos a reforzar la industria a la IA francesa. Excepto uno: el de la presidenta de la Comisión Europea (CE), Ursula von der Leyen, que presentó una iniciativa de inversión público-privada, dotada 200.000 millones de euros “para el desarrollo de una IA confiable”.

La noticia opacó el comunicado estrella de Macron el día anterior, sobre la inversión de 109.000 millones de euros en infraestructura de IA en Francia. Un proyecto que el Elíseo compara -en proporción del PIB- con el programa Stargate de EEUU, que dedicará 500.000 millones de dólares a la IA. Ambos tienen en común algunos inversores, como el fondo de inversión árabe MGX. También invertirán en la IA francesa el fondo canadiense Brookfield, la británica Fluidstack, y la startup gala Mistral.

Con estos anuncios, Francia y Europa buscan posicionarse en la carrera por el dominio mundial de la IA. Esta también incluye alianzas estratégicas. No es casual que el copresidente del encuentro fuera primer ministro indio. "Es un mensaje contundente de que existe un camino de desarrollo de la IA para los países emergentes, junto con Europa en particular", verbalizó Anne Bouverot, enviada especial de Macron a la cumbre.

Toda la ayuda será bienvenida para posicionarse frente a EEUU y China, en medio de una férrea competición por la supremacía tecnológica, y de la guerra comercial desatada por Trump. En su intervención en el Summit, el vicepresidente estadounidense JD Vance aseguró que la Administración Trump "garantizará que la IA estadounidense siga siendo el estándar de oro en todo el mundo, y seamos el socio preferido por otros países extranjeros y, sin duda, por las empresas, a medida que amplían su propio uso de la IA".

La convención, que ha congregado a jefes de Estado, empresarios, académicos, oenegés, artistas y sociedad civil, es la tercera de una serie de cónclaves destinados a avanzar en la discusión global sobre la IA.

El punto de partida fue la Cumbre de Bletchley en Reino Unido en noviembre de 2023, seguida por la Cumbre de Seúl en mayo de 2024. Dichas reuniones se centraron en la seguridad de la IA, pero la de Macron ha dado un viraje hacia la competencia agresiva por el avance de la IA.

Regulación y derechos, relegados

En un segundo plano han quedado las conversaciones sobre regulación, derechos digitales y seguridad de la IA. "No he visto ningún liderazgo en términos de qué hacer. Solo un discurso de la innovación por la innovación", asegura Gemma Galdon, fundadora de la firma de auditoría algorítmica Eticas.

Galdon se muestra sorprendida por el que parece un cambio de discurso de la Comunidad Europea hacia una narrativa de desregulación. "Sigo viendo una Europa que sigue a EEUU y aspira a ser Silicon Valley 10 años tarde, lo cual me parece absurdo", opina la experta. "En lugar de sacar pecho con lo que se ha logrado con el RGPD y con la Ley de IA, y abrirse camino como un lugar de protección de derechos, acaban recurriendo a malas copias del amigo gringo", lamenta.

En opinión de la fundadora de Eticas, Europa debe seguir por la senda de reforzar lo que ya es: el foco del mundo en el ámbito de cómo garantizar los derechos en la era de la IA, y explotar la apuesta por la innovación responsable más allá de las palabras, con una capa de responsabilidad, ética, cumplimiento legal y rendición de cuentas en todos los proyectos que apoye.

En esta línea, desde la Red Europea de Derechos Digitales (EDRi) critican "un excesivo foco en la innovación y una ausencia de los conceptos de derechos humanos y justicia ambiental, o su relegación a un segundo plano".

"Con Macron imitando la postura proindustrial de Trump, Francia está sentando un precedente muy peligroso. La UE no debe dar marcha atrás en sus intentos de regular la tecnología en beneficio del interés público y rechazar los daños más graves para las personas y el planeta", asegura Claire Fernández, CEO de EDRi.

Una de las personas que asesoran en materia de Políticas en la organización, Blue Tiyavorabun, apunta que "las promesas vacías de que la IA resolverá todos nuestros problemas, incluida la crisis climática, han sido el tema central de la Cumbre de Acción sobre IA". Critica "que se priorice la adopción de la IA sin siquiera considerar las graves consecuencias ambientales y sociales".

¿Sociedad civil ninguneada?

Tiyavorabun también destaca la escasa representación de la sociedad civil en el evento, algo que ha sido criticado desde diversas instancias. Incluso se ha publicado una llamada -respaldada por organizaciones sin ánimo de lucro, académicos y expertos- para pedir medidas concretas que garanticen una participación justa en la gobernanza de la IA, asegurando financiación y prescindiendo de lo que califican como procesos de selección "opacos" y de "instrumentalización de la sociedad civil".

Virginia Dignum, catedrática de IA Responsable y directora del Laboratorio de Políticas de IA de la Universidad de Umeå (Suecia), asegura que la cumbre de París ha adoptado, como las dos anteriores, un enfoque selectivo en cuanto a la participación. "Se incluye a los líderes de la industria y a un grupo limitado de gobiernos, mientras que faltan las voces críticas de la sociedad civil", afea. Esto -dice- refleja "una tendencia más amplia en la gobernanza de la IA, en la que las decisiones importantes son moldeadas por unos pocos actores poderosos, excluyendo las diversas perspectivas necesarias para sistemas de IA justos y equitativos".

Más positivo se muestra Nick Moës, CEO de The Future Society, una organización dedicada a la gobernanza de la IA. Moës destaca la consulta pública lanzada con anterioridad al evento "con propuestas de 11.000 ciudadanos y más de 200 organizaciones en los cinco continentes". En esta hubo -según el experto- "un claro consenso contra el desarrollo descontrolado de la IA".

Moës también destaca algunos avances para asegurar nuevos compromisos voluntarios de grandes empresas de IA, pero lamenta la falta de un mecanismo estandarizado para asegurar su implementación, lo que "pone en peligro la probabilidad de un impacto tangible".

"Aplaudimos los compromisos voluntarios asumidos hasta ahora, pero debemos ir más allá de los gestos de buena voluntad", añade. El director de The Future Society reprocha que no se hayan establecido líneas rojas explícitas, como se sugirió en la Cumbre de Seúl.

Albert Cañigueral, del Centro de Supercomputación de Barcelona (BSC), señala "la debilidad política de Macron, Scholz, Trudeau y otros líderes para poder avanzar en lo anunciado". Reprueba el aluvión de anuncios, declaraciones e informes en el marco del evento. Con tanto ruido, lamenta, "es difícil saber qué es relevante y qué es flor de un día".

2.500 millones para IA pública

Entre estos anuncios, Cañigueral sí destaca uno: la propuesta de crear una Fundación para la IA de Interés Público. Su propósito es crear modelos de IA de código abierto que sirvan al bien común y tiene un objetivo de financiación de 2.500 millones de euros en cinco años. Por el momento, el proyecto ha asegurado más de 400 millones, provenientes de empresas como Google o Salesforce (como socios principales) y de organizaciones filantrópicas. Cuenta también con el respaldo de las startups de IA generativa Mistral y Hugging Face, entre otras.

Esta iniciativa es "un paso significativo para garantizar que el desarrollo de la IA sirva al bien público en general", según Moës. Galdon también lo celebra, ya que la Fundación canalizará fondos hacia la auditoría sociotécnica de algoritmos. Sin embargo, la fundadora de Eticas cuestiona que también en este caso se ponga el foco en la creación tecnológica, más allá de la gobernanza.

Desde la startup Alinia, su cofundador Carlos Muñoz analiza este y otros anuncios de Macron en clave geopolítica, "con el mensaje de que son ellos quienes están promoviendo estas iniciativas de IA desde el sector privado al público, y que además la gobernanza no es solo una preocupación internacional sino también un nuevo mercado para el sector privado, donde emergen nuevas empresas que se dedican a la evaluación de modelos fundacionales o a la mitigación de riesgos" (como es el caso de Alinia).

También en clave geopolítica lo leen desde Adigital. "La sensación que transmite este encuentro es que Europa, aunque enfrenta un entorno internacional cada vez más competitivo, parece haber tomado conciencia de esa complejidad", afirma Miguel Ferrer, su vicepresidente de Estrategia y Agenda Pública.

"Al menos en el discurso, se quiere desplazar el foco de la regulación a la innovación, de los riesgos a las oportunidades. Ahora hay que demostrar que no se ha quedado atrás”, prosigue el experto, que habla de “un ejecutivo europeo renovado, que muestra una mayor ambición en el desarrollo de estas tecnologías en nuestro continente".

Ferrer apunta que las scale-ups europeas, "los potenciales campeones tecnológicos", son clave para desbloquear la ventaja competitiva del continente en IA. Su compañera Juliett Suárez, del área de IA y Tecnologías Emergentes de Adigital, señala su compromiso por fomentar "un ecosistema digital que combine competitividad y responsabilidad", y su apuesta "por una autorregulación temprana como vía para garantizar un desarrollo responsable de la IA".

Una declaración que no gusta a nadie

Sobre ese desarrollo responsable habla también la Declaración oficial del Summit, que cita expresamente la necesidad de un enfoque abierto e inclusivo que permitirá que la IA "sea ética, segura, protegida y confiable". Más de las mismas buenas palabras de siempre.

Entre los firmantes de la declaración hay más de 60 países, incluida la Unión Europea, India y China. Los grandes ausentes han sido Reino Unido (que ha objetado preocupaciones relacionadas con la seguridad nacional y la gobernanza global de la IA) y EEUU, que no quiere oír hablar de poner límites a la IA.

Desde la Academia, Dignum sostiene que el documento se queda corto en cuanto a los mecanismos de gobernanza de la IA. La profesora de la Universidad de Umeå -también asesora a la ONU en materia de IA- critica asimismo "la ausencia de compromisos inmediatos y viables para una regulación más efectiva de la tecnología". Considera que el documento plantea un enfoque inadecuado de los daños actuales de la IA en relación a su impacto medioambiental y laboral, problemas que se pretenden atajar con observatorios y no con medidas concretas de mitigación. Destaca asimismo la ausencia de foco en la seguridad a largo plazo de la IA.

En este último punto coincide Max Tegmark, presidente del Future of Life Institute, dedicado a tratar de mitigar los llamados riesgos existenciales o catastróficos de la IA, para "garantizar el futuro de la vida". Tegmark sostiene que el documento parece optimizado para antagonizar tanto al gobierno de EEUU (por su énfasis en la diversidad, el género y la desinformación) como al gobierno del Reino Unido (por ignorar lo que él denomina el "consenso científico y político" sobre los riesgos de los sistemas de IA general, acordado en la Cumbre de Bletchley). "Los países no deberían firmarlo, porque ignora por completo la ciencia", señaló en un post en redes sociales.

Y una oportunidad perdida

Por su parte, Gary Marcus, profesor emérito de la Universidad de Nueva York (NYU), se muestra de acuerdo con aquellos que piensan que no se debería firmar la declaración. "No lograría mucho y dejaría a demasiadas personas libres de responsabilidades, permitiéndoles decir que habían abordado los riesgos de la IA sin realmente haber hecho mucho. Teniendo en cuenta todos los grandes nombres reunidos, parece una oportunidad desperdiciada", señala en su blog.

Algo así viene a concluir Dignum: "Lo más importante es que el mundo necesita acciones reales, no solo más palabras. Necesitamos acción global. Las declaraciones de buenas intenciones ya no son suficientes. El tiempo de las palabras ha terminado. Espero que alguien o algo se atreva a estar a la altura de las circunstancias", remarca.

Por el momento, eso está por ver. Tras dos días de discursos autocomplacientes, anuncios revestidos de grandiosidad y demostraciones de fuerza en la carrera por la supremacía tecnológica, es evidente que en el Summit de IA de París los intereses geopolíticos y económicos han relegado a un segundo plano los debates sobre derechos fundamentales, impacto social y sostenibilidad ambiental.

Europa parece debatirse entre posicionarse como una potencia tecnológica o reafirmar su rol como líder en el avance ético de la IA. Iniciativas como la Fundación para la IA de Interés Público tienen el potencial de demostrar que ambos caminos no son excluyentes. Bien ejecutadas, pueden sentar las bases para el desarrollo de esta tecnología como bien público. Esto último será clave. Es hora de superar los discursos vacíos y de cumplir las promesas.