Un usuario universitario de treinta años que estaba haciendo un trabajo sobre las dificultades de las personas mayores para hacer que sus ingresos se extendiesen más allá de la jubilación utilizando Gemini, el algoritmo generativo de Google (algo completamente legítimo y que, además, no supone “copiar” o “ser deshonesto” nos pongamos como nos pongamos), se ha encontrado con un susto mayúsculo cuando el algoritmo ha respondido a uno de sus prompts con un mensaje que le decía que no era nada especial, que no era necesario, que era una pérdida de tiempo y recursos, una carga para la sociedad, un drenaje en la tierra, una plaga para el paisaje, una mancha en el universo, y le pedía que por favor, muriese.
Semejante sarta de lindezas, capaces de impresionar a cualquiera y de dejarle pensando que el Terminator ya ha venido del futuro y viene a por nosotros, se han viralizado —como no podía ser de otra manera— y han dejado a muchos pensando ya no solo en las posibles responsabilidades de Google (poner una simple advertencia diciendo que “no te fíes” no puede ser suficiente), sino también en el origen de este tipo de barbaridades.
¿Qué diferencia a Google del resto de compañías de inteligencia artificial, además del hecho de que empezaron antes que ninguna de ellas para llegar a un desarrollo aparentemente inferior, y que tienen unas prácticas de gestión empresarial espantosamente malas?
Básicamente, la diferencia estriba en que son de los pocos que tienen la totalidad de la web indexada y pueden utilizarla para alimentar a sus algoritmos. Esto es así, primero, porque su negocio principal es exactamente ese, el de hacer búsquedas en la web, de ahí que la copien enterita en sus bases de datos. Y segundo, porque obligan a las páginas web, si quieren ser indexadas, a que su contenido pueda ser utilizando para ese entrenamiento, en lo que probablemente supone una violación de numerosas leyes.
Pero… ¿cómo se convierte una ventaja, la de contar con la totalidad de la web para entrenar tus algoritmos, en una debilidad? Muy sencillo: porque a lo largo de los últimos años hemos ido pasando de una web inicial en la que había muchísima información valiosa, a un montón de basura, de falsedades, de teorías de la conspiración y de profundísima y patológica polarización.
A lo largo de los últimos años hemos ido pasando de una web inicial en la que había muchísima información valiosa, a un montón de basura
Si alguien sin conocimiento de lo que es la web se aventurase en ella hoy en día, alguien a quien hubiésemos congelado a principios de los ’90 y que descongelásemos ahora, se encontraría con una cantidad de barbaridades, de estafas, de contenido absurdo y de basura en general que, tras una serie de, seguro, malas experiencias, terminaría tan escamado que no haría caso de prácticamente nada de lo que viese ahí.
De ahí que el algoritmo generativo de Google, Gemini, aventaje a todos los demás en generación de barbaridades, de tonterías y de chorradas que viralizan a toda velocidad. Según lo que le preguntes, te puede decir que pongas pegamento en tu pizza, que comas piedras, que prepares spaghetti con gasolina, o que Obama fue el primer presidente musulmán de los Estados Unidos.
Y se queda tan ancho. ¿Por qué? Simplemente, porque mucho de su entrenamiento viene de páginas satíricas, de humor o de lugares insondables en la web donde no le recomendaría a nadie asomarse. Y de esos polvos, vienen estos lodos. Como dicen los desarrolladores, garbage in, garbage out.
Obviamente, que la web se haya convertido en un gigantesco montón de basura no dice nada bueno de los que escribimos en ella. Rebajar las barreras de entrada a la creación de contenidos ha hecho que la calidad de esos contenidos caigan muy por debajo de lo que sería un mínimo exigible. Ahora las discusiones se han convertido en intercambios absurdos de insultos y de golpes, en lanzamiento de datos a cada cual más manipulado y más simplista.
Que la web, una herramienta teóricamente poderosísima, se haya convertido en un montón de basura implica también otro problema todavía más preocupante, como lo es la muerte de la democracia: muchos personajes recientes llegan al poder porque el voto de todos los que crean y consumen toda esa basura en la web vale lo mismo que el de las personas normales, con una educación y una cultura mínima como para no caer en ese comportamiento.
De ahí que el algoritmo generativo de Google, Gemini, aventaje a todos los demás en generación de barbaridades, de tonterías y de chorradas que viralizan a toda velocidad
No, lo ocurrido con Gemini no quiere decir que haya un fantasma en la máquina con un odio inherente a la humanidad, aunque posiblemente ese odio estuviese muy bien justificado. Implica simplemente que Google se dedica a meter basura en su algoritmo más rápido que nadie, y que por tanto, obtiene de él más basura que nadie. Por mucha censura que le intenten colocar después, siempre se les van a escapar más cosas que a los demás. No, la mítica Google no es una compañía precisamente bien gestionada: más bien todo lo contrario.
Pero más allá de lo que un algoritmo generativo pueda escupir debido a que en su entrenamiento se ha encontrado con determinados ingredientes, está el problema de las implicaciones. Dado que el tamaño del montón de basura en la web va obviamente en aumento, parece razonable esperar que todas sus consecuencias, como el incremento de estafas, timos, estupideces, teorías conspirativas, explicaciones absurdas insultos y polarización sin límites también vaya en aumento, y que dentro de poco ya no se elija a Donald Trump como presidente, sino a otro payaso con todavía peores ideas, si es que eso es posible.
Un payaso que tendrá, si nada lo impide, control sobre el botón nuclear y sobre muchas otras cosas más. ¿Estamos ante la total decadencia de la raza humana? ¿Debemos pedir, como en el meme, eso de “meteorito, ven ya”? Posiblemente, pero no por culpa de la tecnología, sino de nuestra propia estupidez.
En pocos años hemos creado más contenido que en muchísimos siglos anteriores… y una gran mayoría del mismo no solo era completamente prescindible, sino que además, es nocivo. De repositorio de contenido, a vomitorio de estupideces.
¿Qué podía ir mal? Buena suerte.
***Enrique Dans es profesor de Innovación en IE University.