La dictadura del algoritmo, a debate: "El siguiente en caer serás tú, lector"

Todo algoritmo esconde un secreto. Lo supe el día que cerré mi empresa y dije adiós al periodismo. Desde entonces, veinte mil personas perdieron su empleo y han proliferado las llamadas redacciones fantasma, donde trabajan máquinas.

¿Están los algoritmos transformando la cultura?

Larry Page casi lo desvela al fundar Google cuando un periodista le preguntó por su misión. "Ah", contestó, "queremos crear un cerebro gigante". Había diseñado un algoritmo de búsqueda y conseguiría que los medios abandonaran su modelo analógico por uno digital. Las redes sociales seguirían también este modelo. Después, solo tuvo que esperar. Cada palabra, foto o vídeo publicado iría alimentando su cerebro artificial. Hasta que llegase el día.

Hoy, AI Overviews de Google crea la noticia sin redireccionar a los medios de comunicación al igual que ChatGPT. Por este motivo, Reuters Institute prevé que durante los próximos cuatro años la mayoría de contenido publicado en internet será sintético. No obstante, el algoritmo no se detendrá aquí. El siguiente en caer serás tú, lector.

Isaac Marcet. Foto: Archivo del autor

Cuando el algoritmo no tenga suficiente demanda para su oferta, creará una base de lectores artificiales. Los implantes cerebrales en desarrollo servirán para consumir contenido sin descanso, indefinidamente. La broma infinita, diría Foster Wallace. El infierno, escribiría Dante.

Todo algoritmo esconde un secreto, decía. Ni más ni menos que reemplazarnos por nuestra versión digital. Su naturaleza le empuja a ello sin compasión. Ahora que conocemos la verdad, ¿consumiremos la noticia artificial o, por el contrario, la humana? Salvar o dejar caer a quienes todavía son capaces de desvelar los secretos del poder está en nuestras manos. Solo consiste en darle al botón de apagado. 

Criterio artificial

Idoia Salazar

La manipulación. Esa tendencia a dejarnos llevar por ideas no consolidadas por nosotros mismos, incluso de manera inconsciente es, hoy día, uno de los mayores riesgos derivados del impacto de la inteligencia artificial. El uso, principalmente a través de sistemas de recomendación, está empezando a incidir en la capacidad de decisión de unos consumidores cada vez más pasivos.

Pero, en pocas líneas, cabría plantearse quién es 'el verdadero culpable' de una situación que podría desembocar en una merma para la actual democracia. ¿Es la inteligencia artificial, como tecnología? Esas máquinas que 'toman decisiones' por nosotros y nos incitan a un consumo premeditado por aquellos que las desarrollan… Pongamos los puntos sobre las íes.

Idoia Salazar

En primer lugar, los sistemas de IA son software, es decir, programas informáticos, con peculiaridades específicas. Por tanto, sin responsabilidad ni intención. Sí la tienen, sin embargo, las empresas u organismos –públicos y privados– que las usan o las desarrollan. Clarificar esta cuestión es clave para dejar de personificar en la IA las responsabilidades humanas con el uso de cualquier tecnología. Por otro lado, tenemos la cuestión de la preparación real de nuestra sociedad para asumir el impacto de la IA.

Aunque a partir de la salida de ChatGPT empezó a democratizarse su uso, el conocimiento general sobre sus repercusiones aún es muy vago. Es necesaria la involucración de Gobierno, empresas y centros educativos para trabajar conjuntamente en una revolución cultural y educativa que fomente el conocimiento del impacto. En caso contrario, la era de la inteligencia artificial podría llegar a relacionarse con la de la manipulación masiva inconsciente. 

¿Neutralidad tecnológica?

Daniel García Andújar

La influencia del algoritmo en la creación y consumo cultural trasciende lo técnico para convertirse en un fenómeno ideológico y económico. Aunque la tecnología digital prometió democratizar el acceso a la cultura, hoy está diseñada para maximizar la rentabilidad de plataformas privadas. Esto fomenta un modelo que homogeneiza la oferta y reduce la participación activa del público.

Estos algoritmos suplantan criterios y gustos personales reduciendo la experiencia cultural a un proceso predecible y cuantificable. Bajo el disfraz de "personalización" se esconde una programación que responde a intereses comerciales, maximiza la rentabilidad y prioriza lo fácilmente consumible. Convierte al público en receptores pasivos, expuesto a recomendaciones que limitan su autonomía y diversidad de elección.

Daniel García Andújar

Este fenómeno condiciona la actividad creativa. Artistas del "pop viral" adaptan su obra, estructura y estética, al formato reducido y fragmentado de las redes sociales, generando productos previsibles ajustados a parámetros digitales que favorecen un éxito efímero. Bajo una aparente neutralidad tecnológica, los centros de poder digital consolidan un modelo cultural hegemónico. Lo que parece "tendencia natural" es el resultado de decisiones algorítmicas alineadas con estrategias corporativas, relegando propuestas experimentales y dificultando la emergencia de narrativas alternativas o locales.

Ante esta realidad es urgente una resistencia cultural que desafíe la lógica algorítmica corporativa y cuestionar este modelo tecnológico. Recuperar la autonomía creativa, la capacidad crítica, la diversidad y la experimentación es esencial para defender una cultura que florezca al margen de formatos impuestos por el mercado. 

Culpar a la máquina

Celsa Pardo Araujo

Los algoritmos de IA de Netflix y Spotify reflejan los sesgos de la sociedad y, si no se procesan con cuidado, tienden a perpetuarlos. Con el propósito de maximizar los beneficios de las empresas, estos algoritmos se basan en patrones de gustos similares, asegurando que los usuarios sigan contentos y activos en las plataformas, lo que penaliza a nuevos artistas y a aquellos con menor visibilidad.

Aunque no parece que haya un claro consenso científico sobre si perjudican la diversidad musical. Spotify lo ha investigado. En 2018, concluyeron que los usuarios con gustos variados seguían siendo igual de diversos después de un año de uso, mientras que aquellos con gustos más restringidos continuaban igual. También notaron que los usuarios más diversos confiaban menos en las recomendaciones automáticas.

Celsa Pardo Araujo

No veo que esta forma de recomendar difiera de la época en la que una persona seleccionaba el contenido musical en los medios de comunicación, donde también predominaban los artistas más populares porque garantizaban mayores audiencias. Quizás este debate está más activo ahora porque resulta más fácil culpabilizar a un algoritmo que a personas concretas. Pero al final los algoritmos son diseñados y optimizados con objetivos muy claros, generalmente maximizar beneficios.

Por ejemplo, Spotify, para corregir estos sesgos, en vez de usar un algoritmo basado solamente en feedback de usuarios combina otros varios con el trabajo de expertos que procesan los datos para promover la diversidad musical y dar más espacio a artistas emergentes. Por lo tanto, no creo que el problema esté en el tipo de algoritmos usados para las recomendaciones sino en los objetivos con que se optimizan estos algoritmos y el uso que se hace de ellos. 

La resistencia es posible

Lola López Mondéjar

Sustituir nuestro mundo interno por ofertas prefabricadas, vaciándolo, es el objetivo de las grandes empresas digitales, que capturan nuestra atención con algoritmos basados en proporcionar al usuario una recompensa rápida, activando nuestra dopamina de forma que el uso de las pantallas se haga adictivo.

Esta presencia constante de los dispositivos electrónicos y su oferta infinita de productos impide la separación del exterior y la creación de un espacio subjetivo necesario para el surgimiento de la imaginación y la creatividad. En lugar de aburrirnos y bucear en nuestros intereses en busca de nuevas posibilidades de investir el mundo, de crear un mundo propio y vincularnos a él, navegamos por la superficie de unas ofertas que nos guían desde fuera generando deseos inferidos, curiosidad ficticia, entretenimiento vacuo que apenas se inscribe en nuestra memoria.

Lola López Mondéjar

Los dispositivos digitales aprovechan la preferencia de nuestro cerebro por la simplicidad, nos sacian y nos adocenan, pasivizándonos. La mayoría de los usuarios de las plataformas de oferta cinematográfica visionan sus recomendaciones, obviando una trayectoria propia, fruto de un genuino interés por un director u otro, por uno u otro tema, y consumen productos que buscan el éxito con fórmulas que copian el de los precedentes. Sin embargo, es posible la resistencia con un uso exploratorio de las plataformas, una investigación singular, una producción innovadora.

Procedo de la cultura analógica pero la fascinación me afecta. Hablo en primera persona, desde la experiencia de la dificultad de escapar de esos voraces consumidores de atención que devoran mi propia iniciativa. Escribo para salvarme. 

Visión de túnel

Elena Neira

Hay que tener presente que los algoritmos son herramientas estructurales sin los que la distribución digital de contenidos no podría funcionar. Son el elemento fundamental a partir del cual se construye una buena experiencia de usuario. También articulan las funcionalidades básicas que permiten que los grandes repositorios de contenidos operen de manera sencilla: búsquedas, agregar cosas a tu lista, selecciones de contenidos a partir de determinados indicadores, adaptación a tamaños de pantalla... El ser humano, en esta era de la hiperabundancia, no podría gestionar por sí mismo unos catálogos con tantísimas referencias.

Elena Neira

Los riesgos de los algoritmos se manifiestan de manera especial en su faceta como nuevos programadores. Su misión es mantener retenido al usuario, adecuando la oferta a sus deseos y tratando de influir en sus rutinas de consumo. El gran reto al que se enfrentan es el de intensificar y orientar la atención hacia elementos determinados en un contexto con infinidad de estímulos a partir de lo que saben de su oferta y de lo que saben de cada usuario en particular. Y es aquí donde se abre la caja de pandora.

Los algoritmos son agnósticos, pero quien los programa no. El capitalismo de plataformas introduce intereses comerciales que pueden adulterar de manera profunda lo que se ve y, por extensión, la forma en que se confeccionan los gustos y preferencias. Las plataformas de streaming, por ejemplo, compran y producen teniendo en cuenta toda esta información. ¿La consecuencia? Visión de túnel, burbujas de filtro, sesgos en las selecciones de contenidos u homogeneización del consumo, entre muchas otras.