Los científicos españoles que alertan del peligro inminente de la IA para crear armas biológicas

"Al igual que puedes inhibir la interacción de una proteína con un virus, también puedes inhibir la interacción de una proteína que sea vital. Por eso los que trabajamos en el diseño de proteínas somos conscientes de este peligro desde siempre". Quien habla es Juan Cortés, director del Laboratorio de Análisis y Arquitectura de Sistemas (LAAS), perteneciente al Centro Nacional de Investigaciones Científicas de Francia.

Cortés es, junto con la investigadora de la Universidad de Girona Sílvia Osuna, el único científico español que ha firmado un acuerdo contra la creación de armas biológicas con IA. En ambos casos se enteraron de esta iniciativa internacional a través del bioquímico estadounidense David Baker. "Me llegó su correo, leí el manifiesto y acepté formar parte de la lista porque me pareció superrazonable. No estamos de acuerdo en que el elevado potencial que tiene la IA en el campo del diseño de proteínas se aplique para causar daño", explica Osuna a EL ESPAÑOL.

[Así está revolucionando la IA la medicina: ya supera a los humanos analizando los ojos o el corazón]

En el momento de publicar este artículo, hasta 147 científicos de todo el mundo se han sumado ya a un documento que, bajo el nombre de IA responsable x Biodiseño (Responsible AI x Biodesign, en inglés), busca garantizar el uso seguro y ético del diseño de proteínas con IA. "Nos oponemos como individuos a utilizar el diseño de proteínas para crear armas biológicas", sentencia Cortés.

Qué peligro pueden tener

Que Cortés haya hecho hincapié en su posicionamiento individual, y no institucional, no es casual. Y es que cualquier país podría utilizar este tipo de armas biológicas durante una guerra. No obstante, Cortés señala en otra dirección: "Creo que los estados van en el buen sentido y tienen en consideración la peligrosidad que puede tener para la sociedad. Pero no sé hasta qué punto una organización terrorista puede entrar en este tipo de razonamientos. Por ello hay que tener mucho cuidado".

En este sentido, Cortés advierte de la contradicción que puede suponer la conocida como open science (ciencia abierta, en español). Se trata de un movimiento mundial, surgido por parte de la comunidad científica, con el que se promueve que los conocimientos científicos estén abiertamente disponibles y sean accesibles para todos.

"Que todo sea público está muy bien, pero también hace que cualquiera pueda utilizar ese conocimiento", indica Cortés. "Existen muchas moléculas —como, por ejemplo, las neurotoxinas—. Y teniendo los conocimientos suficientes de biología estructural se puede diseñar una proteína que sea letal". Así, es posible que una IA abierta al público proporcione información que conduzca a personas sin experiencia a la elaboración de armas biológicas.

Ahora bien, ninguna proteína diseñada computacionalmente puede causar daño real a menos que se produzca físicamente; lo cual requeriría un costoso laboratorio que incluyera el equipo para la fabricación de ADN. Aun así, los firmantes de la citada iniciativa se comprometen a mejorar el proceso de cribado, con el objetivo de detectar moléculas peligrosas antes de que puedan fabricarse.

Y es que, como apunta Cortés, una primera etapa es la concepción del arma biológica, y una segunda es ver cómo utilizarla: "Para que el diseño de una proteína funcione en un organismo vivo tiene que pasar una serie de barreras. Aunque diseñarla no deja de ser un primer paso". "A día de hoy, desarrollar armas biológicas con IA requiere de unos conocimientos especializados, pero estaría bien regular su uso para que no suponga un riesgo a corto plazo", añade Osuna.

Pueden utilizarse para matar

El acuerdo firmado por más de un centenar de científicos de todo el mundo es la primera iniciativa pública que recoge el peligro que entraña la creación de armas biológicas. No obstante, no es la primera vez que públicamente se reconoce este peligro. En verano de 2023, el director ejecutivo de Anthropic (una empresa especializada en IA), Dario Amodei, aseguró en una audiencia en el Congreso de Estados Unidos que esta tecnología se iba a poder utilizar para crear virus peligrosos y otras armas biológicas en sólo dos años.

Cortés prefiere no vaticinar nada e incluso le resta importancia a estas declaraciones: "Es que esto ya se sabe, los que trabajamos en diseñar proteínas ya lo sabíamos desde hace tiempo. Cuando se comprende cómo funciona una toxina, enseguida se comprende que el diseño de proteínas se puede utilizar para matar".

En tal caso, tampoco sería la primera vez que se utilizaran armas biológicas para este uso. Varios países, de hecho, han tratado de emplear este tipo de armamento con fines bélicos. Uno de los pocos casos bien documentados fue el de Sudáfrica durante el período del apartheid, o el de los militares de Rodesia (actual Zimbabue) contra la minoría blanca que luchaba por mantener el control del país.

Aun así, la historia de las armas biológicas está llena de grandes incógnitas, tal y como explica este artículo de EL ESPAÑOL. En el caso de las armas biológicas creadas con IA, Cortés sospecha que podría llegar a ser un armamento más eficaz, más específico y más letal, gracias al avance que genera la propia tecnología.

Pero también para curar

Llegados a este punto, puede parecer que la inclusión de la IA en el diseño de proteínas sólo contiene aspectos negativos. Pero nada más lejos de la realidad. Como exponen los autores de este decálogo, tiene muchas más ventajas que desventajas. "En cuestión de pocos años nos ha servido para avanzar muchísimo", valora Osuna, "problemas que antes necesitaban año de investigación, ahora se pueden solucionar en cuestión de minutos".

La avanzada capacidad de análisis de la IA permite conocer con una mayor precisión la estructura de la proteína. Esto se traduce en un intento por acelerar el desarrollo de nuevos medicamentos y vacunas que sin la IA, tardarían años en descubrirse. Recientemente, conocíamos la noticia de que un grupo de investigadores españoles diseñará proteínas con IA para producir partículas que se utilizarán para tratar múltiples cánceres y enfermedades raras.

[Curar males hereditarios o crear vacunas 'a la carta': la nueva tecnología de IA que ya se aplica en España]

Y es que la responsabilidad última recae sobre los propios investigadores: "Sabiendo que podemos aprovecharla para hacer el bien o para hacer el mal deliberadamente, nos abstendremos de realizar investigaciones que puedan provocar un daño o permitir un uso indebido", reza el documento.