El extraño regalo que han recibido Sam Altman y Scarlett Johansson para alertar del peligro de la IA

Abrir un regalo que acaba de llegar y encontrarte con un guante hecho a medida, puede ser una grata sorpresa, pero si ese guante tiene seis dedos y llega con un recordatorio de los riesgos a los que se enfrenta la humanidad a causa de la IA, la cosa cambia. Sam Altman, padre de ChatGPT o Mark Zuckerberg, CEO de Meta han recibido este curioso presente. También Ursula von der Leyen, presidenta de la Comisión Europea.

Tras esta sorpresa está Saidot, una compañía de software en Helsinki, Finlandia. Su proyecto Six fingers (Seis dedos, en español) quiere poner el foco en los riesgos ocultos de la IA e impulsar un enfoque más transparente y colaborativo para la seguridad de la IA. Para ello ha usado como mensaje los seis dedos que la IA generativa aplica en muchas de las imágenes de personas que crea esta tecnología.

El detalle de los seis dedos ha sido el principal truco para detectar imágenes falsas que no se identificaban debidamente. Sin embargo, la IA es cada vez más eficaz recreando el mundo real y los expertos advierten que cada día será más complicado diferenciar lo real de lo ficticio si no se toman medidas. 

Por ello, Saidot ha enviado guantes de seis dedos hechos a medida a figuras prominentes que están dando forma al futuro de la IA. No todos los guantes tienen un mensaje de advertencia, la actriz Scarlett Johanson también ha recibido los suyos, después de que haya alzado la voz contra varios usuarios indebidos de la IA como los deepfakes o que OpenAI lanzará un asistente con una voz casi idéntica a la suya. "Los guantes de Johansson sirven como recordatorio de que todos tienen derechos sobre su voz y su imagen", dice el comunicado.

Mientras en la página web del proyecto se puede leer: "Gracias, gracias, gracias, gracias, gracias, gracias, Scarlett Johansson, por tomar postura en la debacle de las voces deepfake": Esta frase figura al lado de otro agradecimiento dirigido a Sam Altman: "Seis grandes gracias, Sam Altman, por posponer la liberación de Sora para su disponibilidad pública hasta que sea seguro usarlo. Esperamos que los guantes le recuerden que debe alinear la IA con los valores humanos y fomentar la colaboración del ecosistema".

Sam Altman, en unas jornadas tecnológicas en Estados Unidos. Getty

A Mark Zuckerberg le agradecen haber invertido en modelos de código abierto disponibles para todos, pero le recuerdan que es necesario una "obtención sostenible de datos de entrenamiento". Por su parte, a Ursula von der Leyen se le premia con este guante por liderar la aprobación de la Ley de Inteligencia Artificial en la UE, aunque consideran que esa legislación tiene que favorecer la innovación.

Saidot ha enviado estos guantes simbólicos al primer ministro del Reino Unido, Keir Starmer, a Clément Delangue, director ejecutivo de Hugging Face, a Henna Virkkunen, comisaria designada de la UE, a Sebastian Siemiatkowski, director ejecutivo de Klarna, y a Rishi Bommasani, director de la sociedad en el Centro de Investigación de Stanford.

El proyecto gira en torno al número seis, como ya habrá podido ver, pues seis son los riesgos que esta empresa advierte sobre el desarrollo y uso de la IA sin control: la creación de contenido nocivo y tóxico; la violación de la privacidad; infracción de los derechos de autor, creación de información falsa, resultados sesgados y su uso en ciberamenazas son los seis pecados de la IA que hay que evitar, según Sadiot.

"La IA se está desarrollando tan rápido que nadie puede anticipar por completo sus impactos y los riesgos emergentes. Por eso queremos destacar tanto los pasos que se han dado para lograr una IA más segura como algunos de los pasos que se deberían dar" ha dicho Veera Siivonen, directora comercial y cofundadora de Saidot. "Además, como la IA es una tecnología tan esencial que puede afectar profundamente nuestras vidas, debemos asegurarnos de que todos comprendan que, además del gran progreso que trae consigo, también implica riesgos significativos. Los guantes son una forma de hacer que estas preocupaciones sean más tangibles y comprensibles para todos".