Elon Musk y su IA ante el reto de las imágenes falsas de famosos en X: los derechos de imagen en la cuerda floja

La controversia sobre los derechos de imagen en la industria de la inteligencia artificial (IA) ha sido un tema recurrente desde que esta tecnología irrumpió en nuestra sociedad. Sin embargo, Elon Musk y Grok, la IA disponible de forma gratuita en España para los usuarios de X (antes Twitter), han elevado esta problemática a un nivel completamente nuevo.

Grok ha estado en el ojo del huracán durante la última semana debido a la viralización y el volumen de imágenes generadas y compartidas en redes sociales. Este modelo, conocido como Aurora, no parece tener problemas en permitir prompts o descripciones que no serían aceptadas por otras IA.

Un ejemplo controvertido de su capacidad son los deepfakes de celebridades, que han inundado las redes sociales con millones de representaciones a menudo comprometedoras o malintencionadas, y que incluyen a deportistas, políticos y artistas de diferentes nacionalidades.

Imágenes de Elon Musk generadas por Grok Grok Omicrono

El abogado especializado en inteligencia artificial y derecho tecnológico, Andrés Vanegas Canosa, analiza las implicaciones legales de herramientas como Grok. "El uso de imágenes y nombres de celebridades en estas plataformas plantea cuestiones legales importantes, especialmente en cuanto a derechos de imagen y propiedad intelectual".

Además, según señala, el marco legal podría extenderse a otros delitos relacionados con esta problemática inicial: "dependiendo del propósito y beneficio comercial derivado de estos montajes, podrían surgir demandas por violación de derechos de privacidad o publicidad".

IA sin censura

En este contexto, el aspecto económico no será el único problema que enfrentará la aplicación. "Esto no solo implica costes financieros elevados (sobre todo en jurisdicciones como la estadounidense), sino también riesgos reputacionales y estratégicos para Elon Musk", subraya.

Aunque no todas las solicitudes de generación de imágenes se procesan de manera adecuada, el hecho de que sea posible crear estas representaciones plantea preocupaciones éticas y legales muy significativas.

OpenAI El Androide Libre

Los increíbles vídeos de Sora: OpenAI da un golpe en la mesa y lanza su IA más polémica

Musk, por su parte, ha defendido a Grok como un modelo de "IA sin censura", lo que ha generado críticas y nuevas preguntas sobre el impacto de esta herramienta en los derechos de imagen y privacidad.

El enfoque y las decisiones estratégicas del magnate estadounidense son claras, y se caracterizan por su aparente despreocupación hacia las consecuencias legales. Esta situación plantea un panorama incierto, lo que podría generar un impacto significativo y potencialmente perjudicial en todo el sector tecnológico.

Tuit de Elon Musk con imagen generada por IA Captura de X / Omicrono Omicrono

"Es cierto que Musk ha mostrado una postura poco convencional frente a riesgos legales, pero en casos como este, las demandas podrían ir más allá de lo económico. Establecer precedentes legales adversos podría limitar herramientas similares en el futuro", concluye Vanegas Canosas. El propio magnate ha publicado imágenes generadas con Grok de personas reales, como Kamala Harris con un atuendo de dictador comunista.

A nivel europeo, la situación sigue siendo incierta. Según Daniel García Carabelos, abogado especializado en inteligencia artificial en Rúa Abogados, el futuro de la aplicación está ligado a la implementación de la legislación en Europa. "Grok se basa en que, por el momento, la AI Act no está plenamente en vigor", señala.

Álvarez del Vayo El Androide Libre Río Rhin (Suiza)

El año que la inteligencia artificial tomó los móviles: de traducir conversaciones a que nunca salga mal una foto

La EU AI Act (Ley de IA de la Unión Europea) es la primera regulación integral sobre inteligencia artificial a nivel mundial. Este marco legal busca garantizar que las aplicaciones de IA desarrolladas y utilizadas en el espacio europeo sean seguras, transparentes, éticas y respetuosas con los derechos fundamentales.

"Si Grok quiere mantenerse en el mercado europeo como un adalid de la libertad de expresión, debe empezar a desarrollar su sistema de gestión de riesgos", advierte García Carabelos, quien considera fundamental incorporar una marca de agua detallada en los contenidos generados. Esta aparece en la esquina inferior derecha de las imágenes creadas por Grok, pero parece insuficiente para su identificación inmediata e inequívoca, y puede recortarse o taparse fácilmente con cualquier software de edición de imágenes.

Carl Pei El Androide Libre

Nothing revela su proyecto secreto: tu móvil se convertirá en tu mejor amigo con una IA que será revolucionaria

Grok se distingue de otros generadores de inteligencia artificial por una ventaja clave: utiliza su propia base de datos. A diferencia de otros sistemas que se apoyan en gigantescos bancos de imágenes externos, Grok se entrena directamente con el contenido generado y publicado en X.

Desde este verano, la red social activó por defecto la opción para que los datos de los usuarios alimenten su IA, lo que ha permitido que millones de imágenes se usen para entrenar a Grok. Muchos usuarios no desactivaron esta opción, ya sea por desconocimiento o por falta de atención, lo que ha impulsado el crecimiento y la precisión de una de las herramientas más potentes del sector. 

Imagen de decenas de personas con la cara de Elon Musk generada por Grok Grok Omicrono

A pesar de la libertad presente dentro de la aplicación, los términos de servicio de xAI dejan claro que la responsabilidad por el uso indebido de las imágenes generadas recae exclusivamente en el usuario. Además de esta advertencia general, también se detallan restricciones específicas sobre los usos de Grok, particularmente en lo que respecta a la toma de decisiones que afecten a las personas.

En este sentido, la plataforma prohíbe explícitamente utilizar los resultados generados para tomar decisiones que puedan tener un impacto legal o material en otros individuos, incluyendo áreas sensibles como el crédito, la educación o la salud. 

El caso Scarlett Johansson

La nueva IA de Grok lleva unos días operando y, hasta el momento, no se ha registrado ninguna demanda de celebridades contra X. Sin embargo, casos como el de Scarlett Johansson podrían marcar el inicio de futuras disputas legales.

En septiembre de 2023, OpenAI contactó con la intérprete para ofrecerle la oportunidad de ceder su voz al sistema ChatGPT, lo que a muchos recordaría su papel en la película Her, aunque ella rechazó la propuesta. Meses después, al escuchar la nueva voz del asistente, llamada Sky, la estrella de Hollywood notó una inquietante similitud con la suya.

Scarlett Johansson contra la inteligencia artificial: la actriz demanda por uso ilegal de su imagen

Este descubrimiento la llevó a considerar la posibilidad de emprender acciones legales contra la compañía, lo que podría sentar un importante precedente en la industria.

Ante la controversia, OpenAI negó que la voz de Sky fuera una imitación de la reconocida artista, explicando que la persona elegida para el proyecto había sido seleccionada antes de contactar con la actriz. No obstante, y como muestra de respeto (y para evitar una demanda millonaria), la empresa decidió retirar la voz de sus productos.

*Iván Castejón, autor del reportaje, es alumno de la segunda promoción 2024-2025 del Máster de Periodismo de EL ESPAÑOL/UCJC.