En los últimos años, marcados por un mundo cada vez más cuantificable, las palabras "código" y "algoritmo" invaden nuestro día a día. Aunque invisibles, es necesario entender cómo funcionan y qué desafíos éticos plantean, ya que sus usos, vinculados al machine learning y al Big Data, condicionan innumerables aspectos de nuestra vida como el trabajo, el ocio o la salud.

La exposición Código y algoritmos. Sentido en un mundo calculado, del Espacio Fundación Telefónica, busca hacer comprensible este fenómeno y sus implicaciones, generando preguntas y conocimiento que invitan a la reflexión y al debate. ¿Pueden garantizar los algoritmos una mayor neutralidad y eficiencia? ¿Cómo podemos hacer prevalecer nuestra humanidad en un mundo calculado?

Abierta hasta el 16 de abril de 2023, está comisariada por Manuela Naveau, artista, comisaria y docente en la Universidad de Arte y Diseño de Linz, y cuenta además con el asesoramiento de diversos expertos. Reúne piezas de 13 artistas, junto a audiovisuales divulgativos protagonizados por Sergio Oslé, consejero delegado de Telefónica España; Gemma Galdón-Clavell, doctora en Políticas de Seguridad y Tecnología y directora de Eticas Consulting; Marta Peirano, periodista e investigadora especializada en tecnología, y Coral Calero, doctora en Ingeniería Informática y catedrática de Lenguajes y Sistemas Informáticos en la Escuela Superior de Informática de la Universidad de Castilla-La Mancha.

Impacto ambiental

Código y algoritmos aborda el impacto de los algoritmos en nuestras vidas, cómo pueden complementarse la inteligencia humana y la inteligencia artificial, cuáles son los próximos avances en la materia, qué implica el sesgo algorítmico, cómo proteger la privacidad de los datos que se obtienen a través de ellos o cuál es el impacto ambiental que generan. Esta sección introductoria nos adentra en los conceptos de código y algoritmo, recorriendo la historia de la computación mediante vídeos, ilustraciones y documentos, organizados en tres grandes paneles informativos.

En el primero de ellos, se explican el código y sus elementos, destacando la reproducción de un artículo del filósofo alemán Gottfried Leibniz sobre el funcionamiento de una proto-computadora aplicada hace más de trescientos años. A continuación, el panel central queda dedicado a las máquinas y su cronología, resumida en diez hitos clave como el ábaco neperiano (1617), la figura de Ada Lovelace, considerada la primera programadora de la historia o la actual supercomputadora (2022). El tercer y último panel recoge ejemplos de tres de los algoritmos más usados en la actualidad: ordenación, búsqueda y juego.

Mundo algorítmico

Asimismo, se presentan dos piezas que nos introducen en el mundo algorítmico. Por un lado, Código XML-SVG, de Karin Sander, donde la artista traduce el espacio físico de la sala expositiva en su equivalente código fuente; y, por otro, Not Allowed for Algoritmic Audiences, de Kyriaki Goni, en la que un asistente personal inteligente con rasgos humanos y creado mediante algoritmos reflexiona sobre su propia naturaleza y la de los humanos.

En las últimas décadas, se ha logrado que, además de realizar cálculos, los algoritmos puedan predecir fenómenos futuros: qué tiempo va a hacer, qué probabilidad tenemos de padecer una enfermedad o quién va a ganar las elecciones. Para ello, dispositivos conectados a la red, con una enorme capacidad de computación y almacenamiento, analizan, etiquetan y comparten un volumen de información sin precedentes en base a la cual pronostican resultados.

Decisiones éticas

Dado que los algoritmos poseen gran impacto en la vida de millones de personas, es fundamental entender cómo se diseñan, de qué datos aprenden y en qué decisiones se aplican para que sus decisiones sean éticas y justas. En esta sección se aborda la importancia de asegurar que esa clasificación sea transparente, abierta, trazable y auditable, con el fin de evitar sesgos históricos, de raza, género o edad.

En la obra Machine Biography, los artistas Clara Boj y Diego Díaz entrenaron una inteligencia artificial con la recopilación de toda su actividad digital a lo largo de 2017 para predecir su vida en el futuro. El resultado se compiló en 365 libros, con los que cuestionan la capacidad predictiva de los algoritmos y la veracidad misma de la información.

Rasgos faciales

Mushon Zer-Aviv presenta Normalizing.ng, una instalación interactiva fruto de una investigación experimental sobre los sesgos algorítmicos. Basada en el reconocimiento de rasgos faciales según metodologías históricas, hace patente cómo el aprendizaje automático mecaniza y amplifica nuestros prejuicios y de qué manera puede anularse el significado de lo "normal" con una máquina aparentemente objetiva.

¿Confiarías en una máquina igual que en un quiromante? The Chiromancer, de Matthias Pitscher y Giacomo Piazzi, muestra una inteligencia artificial que lee la palma de la mano del visitante para predecir su futuro, cuestionando así nuestra capacidad de proyectar confianza, esperanzas y deseos en máquinas, que llegan incluso a guiar nuestras vidas.

[Inteligencia artificial y robots]

Con su obra PHC (Painfully Human Chatbot, 2021), la artista Iosune Sarasate recrea un chatbot que muestra actitudes humanas como el cansancio o la pereza. Esto le permite visibilizar temas como la gestión del tiempo, la reciente exigencia de estar disponibles en todo momento y cómo el creciente uso de la tecnología ha propiciado nuevos valores que en el pasado se aplicaban solo a las máquinas.

Comportamiento sospechoso, de Kairus Art+Research (Linda Kronman y Andreas Ingerele) muestra la labor manual que subyace en los sistemas inteligentes aplicados a la videovigilancia. A través de un tutorial ficticio, el visitante se convierte en un etiquetador de imágenes entrenado para detectar comportamientos sospechosos. La obra evidencia así la facilidad con la que sesgos y prejuicios humanos pueden incorporarse a la visión artificial.

Solo nubes

La obra Cloud Face, de Shinseungback Kimyonghun, indaga en el concepto de error e imaginación en tecnologías y humanos. La pieza presenta una colección de imágenes de nubes que la inteligencia artificial identifica como rostros humanos. También nosotros podemos percibirlas, sabiendo realmente que solo son nubes. ¿Cómo puede determinar eso una máquina?

"Ciudad inteligente" es un término utilizado principalmente en el ámbito del marketing urbano para referirse al desarrollo sostenible y eficiente de las ciudades con la ayuda de la tecnología. A través de su obra Atlas of the Liminal, la artista Manu Luksch cuestiona estas ciudades y las relaciones entre los algoritmos, las corporaciones y los gobiernos, así como las implicaciones sociales para la privacidad, la autonomía y la autodeterminación.

Procesos laborales

La instalación audiovisual interactiva Faces of ImageNet, de Trevor Paglen, parte de un enorme banco de imágenes extraídas de Internet y etiquetadas manualmente según criterios arbitrarios, muchos de ellos racistas, misóginos u homófobos. Esto sirvió para entrenar sistemas artificiales que fueron después implementados en procesos laborales todo el mundo.

Otra de las cuestiones trascendentales sobre los datos que recaban las inteligencias artificiales a través de distintas interfaces es la ciberseguridad y la soberanía digital. La instalación audiovisual WannaScry!, de Danja Vasiliev, ilustra la reciente vulnerabilidad en un servicio de videotelefonía y demuestra hasta qué punto, de manera intencionada o no, los datos biométricos personales pueden ser interceptados y extraídos.

Datos biométricos

También encontramos la pieza Content-Aware Studies, de Egor Kraft, donde el artista indaga en los límites de la inteligencia artificial y en su uso como complemento del conocimiento humano. El objetivo es reconstruir fragmentos perdidos de esculturas griegas y romanas, así como generar otras nuevas gracias a un algoritmo de autoaprendizaje que analiza miles de modelos traducidos en datos en 3D.

Data Garden es una obra del colectivo Grow Your Own Cloud, en la que se propone un jardín de plantas codificadas en cuyo ADN se almacenan datos mediante las últimas tecnologías de secuenciación genética. Una innovadora infraestructura que fomenta la convivencia entre ecosistemas, tecnología y personas.

MareNostrum 4

Para finalizar, en Código y algoritmos. Sentido en un mundo calculado se presenta una pieza final realizada en colaboración con el Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC-CNS), que ilustra cómo el procesamiento de enormes cantidades de datos está acelerando la investigación científica. Con una capacidad para realizar 13 mil billones de operaciones por segundo, el Supercomputador MareNostrum 4 es el eje sobre el que gira el corpus de investigación de más de 600 científicos, cuyo objetivo es facilitar el progreso en diversos ámbitos, con especial énfasis en las Ciencias de la Computación, de la Vida, de la Tierra y las Ingenierías.