Profesora investigadora de Derecho Internacional en Northeastern University (una de las más prestigiosas de EEUU), vicepresidenta del Comité Internacional para el Control de Armas Robóticas, Denise Garcia (São Paulo, 1972) está participando en una propuesta de revisión de la Carta de Naciones Unidas promovida por el Foro de Gobernanza Global.
Cree que la ONU no está preparada para afrontar los retos del siglo XXI. Además, los cinco países miembros del Consejo de Seguridad de la ONU con derecho a veto son los que se oponen a una regulación que frene el rápido desarrollo de la aplicación de la IA en las armas.
Como testigo directo de este desarrollo y del esfuerzo por regularlo, ha querido dejar constancia de su testimonio con el libro La carrera militar de la IA: el buen gobierno común en la era de la IA. Editado por Oxford Press, que saldrá en octubre.
Pero, para ella, su mayor contribución es la enseñanza: “Tiene un efecto multiplicador enorme. Después de 17 años en Northeastern University, tengo estudiantes por todo el mundo que están haciendo cosas buenas en diferentes sectores.”
De todo ello, hablamos con esta nieta de españoles- abuelos gaditano y malagueña-, 2ª generación en Brasil y casada con un norteamericano. En ella se da una singular conjunción de dulzura y agudeza. Además de portugués e inglés, habla perfectamente español y francés. Por sentirse más cómoda con la terminología en inglés, se hace la entrevista en este idioma.
¿Cuándo comenzó su lucha por una regulación de las armas de IA?
En 2013, siendo titular en la Universidad Northeastern de Boston, un grupo de ingenieros y científicos preocupados por la proliferación de drones armados me invitaron a hablar en un seminario sobre las normas internacionales aplicables al desarrollo de la utilización de estos sistemas más autónomos.
Con el tiempo, ese desarrollo se convirtió en Inteligencia Artificial. Por supuesto, la IA ha estado desarrollándose desde los años 50, pero su aplicación militar se ha visto acentuada en la última década. Luego, me invitaron a formar parte del Comité Internacional para el Control de Armas Robóticas. Acepté y ahora soy la vicepresidenta.
Como miembro de la Iniciativa Global sobre Ética de los Sistemas Autónomos e Inteligentes del Instituto de Ingenieros Eléctricos y Electrónicos, ¿cuál cree que es la principal preocupación ética?
La principal es quién va a asumir la responsabilidad humana de quitar la vida a otra persona cuando quien lo ejecute sea un robot o un algoritmo. Es hacia donde nos dirigimos. La guerra es cruel y dura. Yo me he centrado, sobre todo, en los problemas legales a nivel internacional. Otros colegas en las implicaciones éticas.
¿Cómo ha cambiado la guerra con la IA?
Estamos observando una carrera armamentística de la IA. Se ha pasado de usar la IA en vigilancia y seguimiento militar al empleo de técnicas computacionales de IA para establecer el objetivo en operaciones para matar.
Denise García
Esto es muy problemático porque los sistemas de aprendizaje automático son mucho más rápidos que la mente humana. Las circunstancias alrededor del objetivo pueden variar. Si de pronto han salido los niños del colegio y están cerca del objetivo, no sería legal atacarlo. Se pueden perder por completo los principios humanitarios.
¿Qué tipo de armas son las armas de IA?
Lo complicado es que quizá aún no podemos decir que tenemos armas de IA. Tenemos sistemas asistidos por IA. De hecho, las armas autónomas como los misiles existen desde los años 60-70.
La autonomía es la capacidad de una máquina para realizar una misión por sí misma, sin intervención humana. Hay que tener en cuenta que no todos los sistemas autónomos tienen IA y que no todos los sistemas de IA serán autónomos.
Así que la autonomía puede ser asistida por técnicas computacionales bajo el paraguas de la IA. Pueden ser grandes modelos de lenguaje como los de ChatGPT, reconocimiento de imágenes… Se están implantando gradualmente, pero yo diría que de forma silenciosa y expeditiva. Es muy preocupante.
¿Qué tecnología se está usando en Ucrania?
En Ucrania se están probando muchas tecnologías nuevas. Una es el uso de reconocimiento de imágenes para apuntar con mayor precisión. La mayoría de estas innovaciones comenzaron en la esfera comercial para usos civiles como Facebook, que reconoce las caras de tus amigos.
¿Qué tipo imágenes buscan en Ucrania: ¿caras, uniformes…?
También, pero sobre todo, estructuras: campos, edificios, centrales nucleares, etc. La otra tecnología es la clasificación de datos. Por ejemplo, yuxtaponiendo imágenes de satélite con las de drones se pueden establecer los patrones operativos del enemigo. La IA puede clasificar los datos mucho más rápido de lo que lo haría un humano.
Este tipo de clasificación y organización de datos se utiliza también en medicina, en la investigación del cáncer o, como hemos visto recientemente, para que personas con parálisis puedan volver a caminar. Es maravilloso. La IA ordena los datos y da resultados muy rápido.
Así que hay usos beneficiosos y maliciosos. En última instancia, lo que más me preocupa es la militarización de un conjunto de tecnologías que solo deberían usarse para el bien común de la humanidad. Esto ya ocurrió con la tecnología nuclear, cuando se utilizó la bomba atómica como arma.
¿Puede contarme un poco más de esta carrera armamentística?
Los usos comerciales de la IA se han desarrollado rápidamente en China y Estados Unidos. En Estados Unidos con empresas como Apple, Facebook, Microsoft, Google… En China con Alibaba y otras.
Denise García
La diferencia es que en EE.UU. las esferas civil y militar están bastante separadas y en China entrelazadas. También están desarrollando esta tecnología los británicos, los rusos y los franceses. Estos son los cinco miembros del Consejo de Seguridad de las Naciones Unidas con derecho a veto.
Así que, supuestamente, quienes tienen la tarea de custodiar la paz y la seguridad mundiales están violando esa promesa y se están militarizando aún más. Son estos países los que se oponen al desarrollo de cualquier ley que establezca normas globales para proteger a la población civil, para frenar el rápido desarrollo de la aplicación de la IA en las armas. Otros países que también la están desarrollando son Corea del Sur, Israel e India.
¿Estamos entrando en una guerra fría de IA?
Desgraciadamente, sí. Escribí un artículo para la revista Nature donde advertía de que la proliferación de armas de IA no nos iba a dar mayor sensación de seguridad.
Supongo que lo que teme cada país es el desarrollo del país vecino en IA.
2 millones de dólares fue el gasto militar de todos los países juntos en 2020 y 2021. En 2022 aumentó a 3 millones de millones.
Yo sostengo que este dinero debería invertirse en los verdaderos peligros que afectan a la humanidad: el cambio climático, las pandemias, la guerra nuclear y la súper IA. La guerra de Ucrania debería hacernos repensar la estrategia. Hay que empezar a hablar de seguridad humana en lugar de seguridad nacional.
Durante nuestra última Guerra Civil, España también se convirtió en el campo de batalla donde las potencias extranjeras podían probar su armamento. ¿Es Ucrania el lugar donde además de probarse el nuevo se deshacen del que está quedándose desfasado?
Eso es. La analogía es perfecta (dice en español).
El orden mundial está cambiando. ¿Qué diría del contexto actual?
Cuando terminó la guerra fría tuvimos un breve momento de unipolaridad. EEUU era la superpotencia. Luego se convirtió rápidamente en un mundo multipolar con las potencias económicas emergentes China, India, Brasil, Indonesia, etc.
La guerra de Irak en 2003 marcó el final de la supremacía, de la autoridad moral de EEUU. Violaron la norma internacional más importante, la de no agresión a otros países. Después, vino el caos con Siria e Irak, y el ascenso de Daesh.
Ahora, Rusia está perpetrando la misma violación del derecho internacional. Y también China en el Mar del Sur está tratando de apoderarse de las zonas marítimas exclusivas de países más pequeños.
Y son de nuevo 3 potencias de Consejo de seguridad de la ONU…
Entonces, las otras potencias emergentes se preguntan qué hacer si las potencias del Consejo de Seguridad de la ONU a cargo de la paz están amenazando dicha paz. Es un momento de no alineación con las normas de las Naciones Unidas, de acritud, de sentimientos rebeldes contra estas normas.
Usted está participando en una propuesta de revisión de la Carta de Naciones Unidas promovida por el Global Governance Forum. La carta se firmó en 1945. ¿Ha quedado obsoleta?
La Carta de la ONU está considerada como una de las Constituciones de la humanidad. Marca un momento de gran evolución del derecho internacional en el que los estados se unen para cooperar por la paz y evitar una 3ª guerra mundial.
La carta es hermosa. Sin embargo, hoy en día, en el siglo XXI, aunque los estados siguen siendo los actores más importantes, hay muchos otros: corporaciones multinacionales que tienen un poder enorme, asociaciones civiles, activistas, redes transnacionales, científicos…
El riesgo militar, el cambio climático— el problema global más complejo—, las pandemias, las nuevas tecnologías, las redes sociales, la desinformación… La ONU no está preparada en absoluto para afrontar todo esto. La diplomacia medioambiental solo tiene 51 años. Necesitamos soluciones a gran escala para que los seres humanos puedan vivir y no se produzca un colapso de la biodiversidad.
Después de más de 10 años luchando para el control de armas robóticas, ¿es optimista, pesimista o realista?
Cautelosamente optimista. En el 75 aniversario de las Naciones Unidas, el actual secretario general, Antonio Gutiérrez— es mi secretario favorito— llevó a cabo una encuesta global sobre qué quería la humanidad.
Denise García
Fue interesante porque se realizó durante la pandemia. La gente no quiere guerras, ni que se desvíen recursos para armas. Quiere que los países cooperen. Los jóvenes quieren tener un futuro brillante donde puedan respirar aire limpio. Ayer, aquí en Madrid, después de una tarde de reuniones, quería haber ido a cenar andando, pero no lo hice porque los niveles de contaminación lo desaconsejaban.
¿Y por qué sucede lo contrario de lo que quiere la gente?
Creo que lo que estás insinuando es que hay una discrepancia entre lo que la gente realmente quiere y lo que hacen los gobiernos. La gente quiere ser libre como tú y yo, tener un trabajo, ser próspera y vivir en paz. Si lo piensas, son solo unos diez hombres en todo el mundo. Diez presidentes y primeros ministros que están creando todos los problemas.
¿Y las grandes corporaciones o los grupos de presión?
Hay ejemplos positivos. Por ejemplo, el grupo minorista Walmart, una gran corporación multinacional de enorme poder, amenazó con no comprar carne brasileña si procedía de terrenos deforestados del Amazonas. Eso fuerza a los demás a alinearse en torno a Walmart.
Para terminar, ¿cuánto tiempo le ha llevado escribir La carrera militar de la IA: el buen gobierno común en la era de la IA ?
8 años. He sido testigo de primer orden y creía que tenía que escribirlo. En el libro abogo por tres ideas: un buen gobierno común, la seguridad humana y la cooperación transnacional en red. Esto último es fantástico.
A pesar de que las potencias globales no están cooperando ahora mismo —de hecho, están enfrascadas en una guerra fría—, sí se observa que diferentes sectores de la sociedad en todo el mundo cooperan para encontrar soluciones a los problemas.