El desarrollo responsable de una tecnología exige estar diseñada desde el principio de esa forma, con lo que deberíamos dejar de hacernos trampas al solitario y luego jugar todos a eso del propósito ex-post.

También deberíamos haber aprendido ya a estas alturas que el "muévete rápido y rompe cosas" —el ethos emprendedor más extendido por nuestros lares— impide alcanzar de forma equilibrada los objetivos de escalabilidad y propósito. Sólo hay que mirar quién diseña estas herramientas y con qué objetivo, para entender lo absurdo que resulta hablar de propósitos humanistas a continuación.

Inmersos en un debate trepidante sobre la IA generativa, debo decir que a mí no me preocupa la herramienta en sí misma, pues todavía no hemos llegado a ese momento apocalíptico de “YO ROBOT”; ya saben, aquel en el que las máquinas se rebelarán contra los humanos y nos harán esclavos de su Arcadia, de su robocracia centralizada en la nube. A mí quiénes me preocupan y cada vez más son muchos de los humanos que desarrollan la IA.

Resulta que uno de los padres de la criatura, o siendo más exactos, de la tecnología de redes neuronales que ha permitido estos avances, Geoffrey Hinton, se arrepiente ahora de lo que ha hecho, y con su salida de Google quiere hacer penitencia.

Hombre, podía haberlo pensado antes, que él ha estudiado en buenas universidades de esas que cuestan decenas de miles de euros al año, y debería conocer (aunque no sé si en esos centros de élite se enseñan estas cosas) lo que ha ocurrido en el pasado cuando los humanos que iban de listos por la vida se ponían a jugar a ser dioses. Se ve que el cheque da títulos, pero no clarividencia.

Aquí veo un enorme problema y reto de gobernanza. Lo primero, elegir el tipo de experto que quiere usted para que le asesore en esta materia. Ponga en su vida un experto; los hay de todos los colores, unos a favor y otros en contra de estas herramientas.

De todo hay, como en botica. Pero hablando de expertos, ¿esto debería ser un debate exclusivo, como siempre, entre expertos?, ¿o entre expertos, gobiernos y corporaciones? Y los ciudadanos, ¿qué piensan de esto? A ellos todo el mundo les dice en estos días: adáptense, sigan estudiando y formándose hasta los 90, que ya parecen los nuevos 40, sepa que la mayoría de los trabajos van a desaparecer por la IA, etc.

Adaptarse a la tecnología que viene, como nuevo sueño americano y de transcurrir por la vida adulta. La pregunta esencial aquí sería: ¿por qué no se adapta esa nueva tecnología de inteligencia artificial generativa a nosotros? Se nos acumulan las preguntas sin respuestas aceptables.

En mi opinión creo que ya estamos un poco saturados de cierta manipulación de las mentes a través de los algoritmos. Es que cualquier día vas a abrir la puerta y va a aparecer un paquete que ni siquiera has pedido, pero que una IA ha decidido enviarte por anticipado porque ya sabe tus gustos incluso antes de que estos se hayan definido en la red neuronal de tu azotea.

Si fuésemos de verdad una especie inteligente, quizá deberíamos decir basta con estos excesos, y es cierto que, tímidamente, de manera incipiente, comienza a haber una rebelión ciudadana. Ya se están constituyendo las primeras asociaciones cívicas que quieren alzar la voz, y exigen que se tenga en cuenta la opinión de los ciudadanos en la gobernanza de esta hidra; en nuestro país se ha creado ya la primera: https://civicai.cat).

¿Son los ciudadanos depositarios de la responsabilidad de poner límites éticos y de uso a este tipo de herramientas? En una sociedad democrática, por supuesto. Ni los expertos, ni los emprendedores, ni las empresas, ni los gobiernos son los depositarios de esa responsabilidad, aunque todos jueguen un papel en su determinación, algunos de ellos por delegación nuestra.

Nosotros votamos a diario en los mercados (sí, señoras y señores, eso es lo que ocurre cada vez que compramos algo y emitimos esa señal), y cada pocos años en las elecciones. Es importante saber qué papeleta elige usted en la urna diaria y en la de toda la vida.

Algunos seguimos pensando que además de consumidores, habitamos una esfera superior de nuestra condición humana: la ciudadanía. Aunque ya no sé si esta es la posición mayoritaria, viendo por donde transcurre nuestra historia. O la gente se da cuenta de esto o no habrá mucho que hacer.

¿Las huelgas de guionistas en Hollywood, las protestas ciudadanas en Chile en contra de la IA generativa, o la creación de asociaciones para iniciar esa gran marcha ciudadana son el primer atisbo de contrapoder en esta batalla? Es pronto todavía para aseverarlo rotundamente.

Hay que abordar en todo este asunto la cuestión de la seguridad de estas herramientas. Soy tajante en este asunto: deberíamos prohibir los sistemas opacos. Si Ud. quiere comercializar un fármaco, tiene que pasar una serie de controles que incluye saber qué ingredientes y cómo ha hecho usted la pastilla o el jarabe, y no le digo nada si tiene que hacer ensayos clínicos reales con seres humanos.

Pues a los que quieran desarrollar la IA deberían pasar por los mismos procesos: transparencia absoluta y radical. ¿Qué datos ha utilizado? ¿Datos protegidos por leyes de protección de datos? Y contestar así, un largo número de preguntas que ya debe hacerse cualquier empresa a la hora de trabajar con datos en Europa y en otras latitudes.

Reconozco que mi máxima preocupación en torno a esto es un tanto metafísica. No sé si somos conscientes del todo de que estamos en los albores del mayor experimento social global de la historia. Algunos ilustres escritores fantasearon en el pasado con este tipo de herramientas que permitiesen experimentar con la realidad humana y social a gran escala.

¿Qué pasaría si dejásemos a un país entero sin pan durante 6 meses? ¿Cómo impactaría en la sociedad? Experimentar a ver qué pasa. ¿Con todo? Ese es el modelo básico del modus operandi actual que se enseña en las escuelas de negocio y en los espacios de emprendimiento.

¿También cuando hablamos de la psiqué humana? ¿También podemos experimentar con la verdad y la mentira como mecanismos con los que enrolar a millones de personas para ir pivotando hasta encontrar el modelo de negocio que haga sostenible una idea? ¿Es casualidad que tantas grandes compañías que compiten por liderar estos desarrollos hayan despedido a sus equipos de ética? Más preguntas sin respuestas adecuadas.

Finalmente, creo que una gobernanza adecuada de la IA no se podrá llevar a cabo sin un cambio de paradigma en el modelo regulatorio. Los tiempos de la deliberación democrática son lentos, y así deben ser, respecto a los de la revolución tecnológica, y esto es un problema que se agrava cuando dichos tiempos divergen cada vez más. Europa lleva dos o tres años discutiendo un Reglamento de IA que prácticamente va a nacer obsoleto ante la aparición fulgurante de la IA generativa.

Esto ya no se arregla con multas. Si para ser herramientas efectivas necesitan tener acceso a una cantidad de datos como nunca en la historia, y por tanto, huelga decirlo, ningún límite que ponga al modelo por debajo de su umbral de eficacia, entonces me parece que la solución al problema es bien sencillo.

¿Se puede autorizar, después de lo que hemos conocido a lo largo de las últimas dos décadas, situaciones de cuasi-monopolios privados teniendo tantos asuntos sensibles por medio?

Reconozco un cierto pesimismo en torno a lo que va a pasar. Si ya somos casi todos, en menor o mayor grado, adictos a la tecnología, y la gran mayoría desconocedores de las tripas de estos desarrollos, ¿cómo se puede resolver el problema?

Estamos entre dos fuerzas gravitacionales que nos engullen: La primera, heredera de una obsesión enfermiza por la acumulación y la rentabilidad sin límites; y la segunda, que asevera que todo se resuelve educando, haciendo pedagogía y exhibiendo un buenismo bienintencionado pero un tanto naif, inane y con frecuencia estéril.

El uso de metáforas en el relato de las plataformas que desarrollan estas IA´s generativas va ganando, y adquiere ya una ventaja abrumadora sobre la opción de tener una IA democrática y con sentido humano del progreso. Algunas cosas no hay que decirlas explícitamente.

Con la IA generativa se va expandiendo sin freno un gigantesco grito masivo silencioso pero con gran poder que resuena en nuestras mentes como un eco infinito: deja de perder el tiempo en todo lo que haces a diario, ya te lo puede hacer una IA.

Da igual que eso que haces sea escribir, leer, dibujar, pensar, o reflexionar. Frente a eso, sólo una gigantesca reacción humana sería capaz de revertir el resultado final. No sé si ser muy optimista al respecto.

Nos queda también la esperanza de que estemos viviendo un nuevo hype interesado y que, como ha ocurrido con otros en el pasado (la conducción autónoma o los NFTs), se disuelva poco a poco o sea sustituido por otro dentro de algunos meses.

Visto el panorama, mejor será centrarse en resolver los problemas que realmente tenemos en la humanidad y que no son pocos. Y también nos podemos dedicar a aprender oficios que nunca podrá sustituir la IA, como el de panadero, agricultor o luthier.