Crisis de ética en Silicon Valley

La encrucijada contra el avance imparable de la inteligencia artificial tiene un nuevo rostro, el de la actriz Scarlett Johansson. El mundo tecnológico se funde, una vez más, con el de Hollywood en una cadena de sucesos que han dejado al descubierto el lado oscuro de Silicon Valley.

En estos momentos, Microsoft, Google y OpenAI viven el auge de la inteligencia artificial, pero ninguna compañía parece tener interés en poner freno a una tecnología que avanza de manera imparable, pero con escasa regulación. En Silicon Valley se sabe: aquella compañía que logre aventajar a las demás en este terreno, tiene todas las posibilidades de convertirse en el siguiente fenómeno tecnológico del siglo XXI.

Todo comenzó el pasado 13 de mayo, cuando Sam Altman, CEO de OpenAI, compartió un simple mensaje en X con la palabra "her", haciendo referencia a la película de 2013 en la que el personaje interpretado por Joaquin Phoenix se enamoraba de una inteligencia artificial con la voz de Scarlett Johansson. 

Altman consideró que sería una buena idea usar la emblemática voz de la actriz para lanzar el nuevo asistente personal de ChatGPT en un evento esa misma semana. Para sorpresa de los asistentes, y de aquellos que pudimos probar la herramienta, la voz era sospechosamente similar a la de Johansson. 

La polémica estalló cuando Johansson reveló que no había dado autorización para el uso de su voz. En un comunicado que se extendió rápidamente por las redes sociales y los medios de comunicación, Johansson reveló que OpenAI le había ofrecido un contrato para poner voz a “Sky”, el personaje de ChatGPT, pero ella rechazó la oferta.

“Cuando escuché la demo, me quedé sorprendida, enfadada e incrédula de que el Sr. Altman creara una voz que sonara tan similar a la mía que mis amigos más cercanos y los medios de comunicación no podían notar la diferencia (...). Dos días antes de que se publicara la demostración de ChatGPT 4.o, el Sr. Altman contactó a mi agente pidiéndome que reconsiderara. Antes de que pudiéramos hablar, Sky fue anunciado”.

Por el momento, la actriz no ha tomado medidas legales, pero ha exigido una explicación sobre el proceso creativo de la voz Sky. OpenAI ha optado por retirar este personaje de entre las opciones disponibles en la última versión de ChatGPT.

Altman explicó en un comunicado enviado a los medios que la voz fue interpretada por otra actriz y que las pruebas de grabación comenzaron antes incluso de que se pusieran en contacto con Johansson. Un razonamiento un tanto extraño y que no ofrece garantías a Johansson. 

Este tipo de maniobras fue exactamente lo que causó el colapso de Hollywood el año pasado. La industria del entretenimiento se paralizó por las huelgas de los sindicatos de actores y guionistas que pedían protecciones a los estudios ante la inminente expansión de la inteligencia artificial. Uno de los objetivos era evitar que algo así sucediera: que una empresa se apoderara de la imagen y la voz de un actor sin su permiso y con fines lucrativos. 

El prestigioso medio 'The New York Times' demandó a la compañía el pasado mes de diciembre, acusándola de usar sus artículos periodísticos, protegidos por derechos de autor, sin permiso para entrenar a la inteligencia artificial. Esta acción ha abierto la puerta a que otros ocho medios de comunicación de Estados Unidos se unan a la demanda con acusaciones similares. 

Lo más inquietante del asunto, es la marcha reciente de Ilya Sutskever, cofundador de OpenAI y máximo responsable de asegurar el desarrollo de la inteligencia artificial y de estudiar y paliar las posibles amenazas para la humanidad. La salida de Sutskever provocó una serie de dimisiones por parte de otros empleados que han mostrado públicamente su indignación por la falta de control sobre el producto. 

“La cultura de la seguridad y los procesos han pasado a un segundo plano y ahora se pone atención solamente a un producto llamativo”, comentaba el ex empleado Jan Leike en su cuenta personal de X.

Su siguiente mensaje es aún más preocupante: “Hace mucho tiempo que debíamos habernos tomado muy en serio las implicaciones de la IA. Debemos dar prioridad a prepararnos para ella lo mejor que podamos. Solo así podremos asegurar que la IA beneficie a toda la humanidad”.

Ese comunicado podría quedar como testigo de lo que está por llegar. ¿Se tomará en serio Silicon Valley esta gran crisis de ética?