Hay que pausar el entrenamiento de la IA, una carta firmada por eminencias del mundo de la tecnología El Androide Libre

Noticias y novedades

Pausar el entrenamiento de la IA tipo GPT-4, el deseo de Musk y los que van por detrás en esta carrera

Elon Musk, Steve Wozniak (co-fundador de Apple), Jaan Tallinn (co-fundador de Skype) y otros tantos piden que se pause el entrenamiento de sistemas de IA más potentes que GPT-4.

29 marzo, 2023 13:15

Manuel Ramírez

La IA generativa está dibujando un futuro simplemente incierto y es ahora cuando 1.000 personalidades del mundo tecnológico piden que se paralice su entrenamiento por los efectos que podría tener en la historia del planeta. Es curioso que algunos de los que van por detrás en esta tecnología firmen esa carta.

[Europol hace saltar las alarmas por ChatGPT: la IA ya está siendo usada para cometer crímenes]

Un cambio disruptivo para la humanidad

Ahora mismo estamos ante una carrera tecnológica en la que Microsoft se ha adelantado con gran distancia sobre sus directos competidores, entre los que se encuentra la misma Google con su Bard, su IA generativa tipo ChatGPT.

Desde hace ya décadas las grandes tecnológicas han luchado e invertido cantidades ingentes de capital en proyectos que las colocasen como el puntal a nivel tecnológico. Y ahora mismo solamente surfea "la gran ola" OpenAI con su GPT-4 seguido de Bard de Google al que todavía le cuesta subirse sobre la tabla de surf, la que podría decirse como la del El gran miércoles (película de 1978 centrada en el mundo del surf en California).

Big Wednesday El Androide Libre

Revisando los nombres de la carta que ha sido enviada y firmada por eminencias dentro del mundo de la tecnología, es simplemente curioso que aquellos que andan un poco retrasados en la IA generativa anden tras su firma. Lo que nos hace preguntarnos es si alguno de ellos, entre los que se encuentra Elon Musk, tuviera en propiedad a OpenAI, ¿pausarían el entrenamiento de su IA?

Casi que se puede encontrar fácil la respuesta para que vayamos directamente a los riesgos que claman que podría producir a la sociedad y humanidad los sistemas de IA que compiten casi cara a cara con la inteligencia humana.

Pausen el entrenamiento durante 6 meses

De aquí, que se haga una llamada general a todos los laboratorios de IA para pausar inmediatamente por al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4.

En esta locura que se ha convertido el avance tecnológico en todas sus ramas, decir que se pare ese tren de alta velocidad es casi más un grito, ya que estamos hablando de importantes compañías que en anteriores años se vieron sobrepasadas por otras. Aunque Microsoft ha estado ahí siempre, hasta la llegada de Nadella, su CEO actual, no pasó por sus mejores momentos, así que decir que ahora paren su máquina, puede ser casi anecdótico.

Saya Nadella presentando el nuevo Bing. Microsoft Omicrono

Y es que incluso esta carta mantiene que esa pausa se debería de hacer pública y verificable e incluir a todos los actores principales. Lo que es curioso es que también citan a los gobiernos para que entren en juego y sean capaces de institucionalizar una moratoria.

Esa moratoria se usaría para asegurarse de que los sistemas adheridos a la IA avanzada sean seguros y sin ningún tipo de duda razonable. Indican que no se está clamando una pausa para el desarrollo de la IA en general, sino un paso hacia atrás desde esta carrera peligrosa actual.

[La IA de ChatGPT revoluciona la ofimática: todo lo que has de saber sobre Microsoft 365 Copilot]

¿Se debería dejar a las máquinas controlar los canales de información?

Como todas las irrupciones tecnológicas en cada aspecto de la vida humana, siempre han generado muchos miedos y en este caso incluso puede ser uno mayor debido a la vasta capacidad de la IA generativa en recoger información; si toda aquella que tu mismo estás proporcionando, al igual que millones en este mismo instante en todo el mundo.

Un aprendizaje casi infinito en el que su capacidad es desconocida y que pone las alarmas en todo el planeta. Los firmantes de la carta ofrecen una pregunta al público de a pie: ¿deberíamos dejar a las máquinas que inunden nuestros canales de información con propaganda y falsedad?

Elon Musk

La carta dicta que la IA avanzada podría representar un profundo cambio en la historia de la vida en la Tierra, y debería de ser planeada y gestionada con atención y recursos acordes.

De hecho, claman que de momento este nivel de planeamiento y gestión no está ocurriendo, incluso en estos recientes meses cuando los laboratorios de IA están en una carrera sin control para desarrollar y desplegar incluso "mentes digitales" más potentes que incluso sus creadores no logran entender, predecir o controlar de forma segura.

La carta afirma que los sistemas de IA deberían de ser desarrollados una vez que estemos seguros de que sus efectos serán positivos y sus riesgos puedan ser manejados.

Se hace una mención a las propias palabras de OpenAI en un comunicado en el que mantienen, los creadores de ChatGPT, que en algún momento sería importante recibir un análisis independiente antes de comenzar a entrenar sistemas futuros, e incluso limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos.

Steve Jobs con Steve Wozniak Apple Omicrono

Aquí es donde comparten la misma opinión firmantes como Elon Musk, CEO de SpaceX, Tesla y Twitter, Steve Wozniak, co-fundador de Apple, Jaan Tallinn, co-fundador de Skype o Stuart Russell, profesor de Ciencias de la Computación y coautor del libro Inteligencia Artificial: Un Enfoque Moderno.

El objetivo, vía Xataka y como fuente a futureoflife.org, que se desea es que esos sistemas de IA puedan ser beneficiosos realmente para la humanidad en su totalidad y así se puedan optimizar y refinar para que la sociedad se pueda adaptar a los mismos. Pero volvemos a lo del principio, que CEOs de grandes tecnológicas clamen por parar ese tren de alta velocidad al que han llegado tarde, es para pensarlo pero bien.