IA: crónicas de la distopía de un cambio tecnológico y una muerte anunciada por Pink Floyd

El síndrome de Cronos engloba en su acepción dos dimensiones. La primera habla del miedo al envejecimiento y al paso del tiempo; la segunda abarca el temor a ser ‘destronado’ en el ámbito laboral. De forma más o menos directa, las dos hablan de reemplazo. El temor a ser reemplazado parte de una serie de premisas relacionadas con la competencia, la inseguridad o la capacidad de adaptación. Es lo que ocurrió en su momento cuando se creía que la televisión acabaría con la radio, la fotografía con la pintura o, en la actualidad, las inteligencias artificiales (IAs) con el trabajo humano. El miedo del ser humano a ser reemplazado por una máquina ha existido desde la Revolución Industrial. La IA ha resucitado el movimiento ludita.

Aunque ninguno de los temores del pasado se materializó en el fin de las creaciones que se esperaba que suplantaran, la preocupación por el desplazamiento laboral crece a medida que progresa el desarrollo de las IAs. La desconfianza que suscitan también parte de la preocupación por la privacidad y la seguridad de la información personal: la recopilación masiva de datos para entrenar sistemas de IA implica un riesgo de que puedan emplearse con fines maliciosos, como es el caso de la ciberdelincuencia a través de las voces clonadas que se emplean para suplantar la identidad de hijos en apuros solicitando a familiares grandes sumas de dinero o la identidad de altos cargos ordenando transferencias bancarias. Puesto que la IA se basa en un entramado de algoritmos e información, si esta información está sesgada o incompleta, los resultados generados por los sistemas de IA también pueden estarlo, lo cual puede resultar en la perpetuación de las desigualdades sociales existentes. Otra fuente de suspicacia hacia los sistemas de IA plantea que la confianza depositada en ellos acabe por generarnos una dependencia excesiva, de modo que si fallan o son atacados podríamos encontrarnos en situaciones vulnerables sin las habilidades humanas necesarias para responder adecuadamente.

A pesar del temor a la obsolescencia humana ante la creciente presencia de la tecnología y la inteligencia artificial, lo cierto es que no es la tecnología per se la que nos perjudica. Por supuesto, como una de las herramientas con mayor alcance e impacto de este siglo, su potencial no está exento de riesgos; pero eso no implica que no podamos sacar partido del cambio cualitativo que supone en el desarrollo tecnológico, la investigación, el plano artístico, educativo, médico o ecológico, entre tantísimas otras áreas. La capacidad de innovación, eficacia y precisión para abordar soluciones a problemas complejos es casi ilimitada. Desde identificar la combinación de secuencias de ADN necesarias para obtener un rasgo deseable a interpretar pruebas médicas para facilitar un diagnóstico clínico; pasando por diseñar un logotipo más que convincente sin tener ni idea de diseño gráfico, crear imágenes a partir de cualquier descripción que se te ocurra o escribir una canción de metal sobre gnomos mecánicos que danzan entre yunques de caos o tostadoras galácticas que te invitan a la fiesta del pan sideral.

En sus Cinco advertencias del cambio tecnológico (1998), el sociólogo estadounidense Neil Postman señala que toda tecnología incorpora una filosofía que resulta ser expresión de cómo esta tecnología codifica nuestra realidad: cuáles de nuestros sentidos amplifica y cuáles de nuestras emociones y tendencias desatiende. Apunta, además, que el cambio tecnológico no es aditivo, sino ecológico: la invención de la imprenta, por ejemplo, no supuso llegar a tener la vieja Europa más la imprenta, sino una Europa diferente; y lo mismo con la televisión, que otorgó un nuevo matiz a las campañas políticas, las escuelas, las iglesias, las industrias y a todo en general. Postman fue discípulo del creador del conocido aforismo “El medio es el mensaje”, Marshall Mac Luhan, y sus ideas sobre la sucesión de la era de lo impreso por parte de la era de la comunicación demostraron que esa sucesión modifica profundamente la sociedad humana. En su ensayo Amusing ourselves to death (1985), Postman analiza la influencia de los medios de comunicación y la tecnología en la sociedad, y la forma en que estos factores afectan al pensamiento público en una reflexión sobre la superficialidad y la trivialización de la comunicación moderna. Este ensayo, el más conocido del autor, sirvió de inspiración al confundador de la banda Pink Floyd, Roger Waters, para componer su álbum Amused to death (1992), donde crea un escenario donde todo es convertido en espectáculo a partir de un mono viendo la televisión como crítica a la sociedad del consumo y la estupidez humana.

Con la irrupción de las IAs, las ideas sobre un cambio tecnológico a la altura del salto de lo impreso a lo audiovisual resuenan en una suerte de distopía de sociedad futurista hipercontrolada como en Un mundo feliz (1932). El miedo a esa superinteligencia incontrolable parte de la idea de la pérdida del control sobre nosotros mismos y la incertidumbre sobre los valores y la ética que pudiera desarrollar, si pudieran ir en conflicto con los nuestros. La cultura popular y la ciencia ficción, por su parte, ha ido alimentando con los años este miedo.

“Un día, las IA nos mirarán de la misma manera en que nosotros miramos los esqueletos fósiles en las llanuras de África. Un simio erguido viviendo en el polvo con un lenguaje y herramientas rudimentarias, listo para la extinción” – Nathan Bateman, (Ex Machina, 2014).

Decía Neil Postman que ese entusiasmo humano por la tecnología podría volverse una forma de idolatría a la altura de la religión, y que su capacidad para el bien o el mal siempre queda pendiente de lo que los humanos decidamos que puede hacer por nosotros: “Un nuevo medio no añade algo, lo cambia todo”.