Siguiendo el paso dado por Meta, que ayer mismo anunció que indicará en sus redes sociales cuando se está viendo una imagen generada con inteligencia artificial, ahora OpenAI añadirá marcas de agua a los metadatos de la imagen generada con IA para así ofrecer el soporte necesario a los nuevos estándares de la Coalición para la procedencia y autenticidad del contenido (C2PA).
Unas acciones que se están tomando para así ofrecer la información necesaria sobre el contenido que se está viendo en cualquier plataforma, como puede ser una red social o una app de mensajería. Ya China se adelantó a estas medidas a finales de 2022 para que cada vez que se genere una imagen con IA se indique que ha sido elaborada con una inteligencia artificial.
La compañía ha indicado que las marcas de agua de C2PA aparecerán en las imágenes generadas en el sitio web de ChatGPT y el API del modelo de DALL-E 3. Los usuarios de la experiencia de ChatGPT en el móvil recibirán estas marcas de agua el 12 de febrero, e incluirán tanto el metadato invisible como el símbolo CR visible, que justamente aparecerá ubicado en la parte superior izquierda de cada imagen generada.
Imagen de OpenAI que muestra la marca de agua en una imagen generada por IA
De hecho, se puede revisar la herramienta IA usada para generar ese contenido a través de varios sitios web, como puede ser Content Credentials Verify. Eso sí, de momento solamente se puede usar para las imágenes, ya que los vídeos o textos no pueden 'llevar' esta etiqueta.
Cómo afectará a las imágenes generadas
Hay algunos detalles a tener en cuenta para la inclusión de esta etiqueta o marca de agua, según cita OpenAI en su anuncio. Y son bien importantes para entender mejor si afectará a la imagen generada o incluso su tamaño:
- La marca de agua no afectará a la latencia y la calidad de la imagen generada por inteligencia artificial.
- Incrementará el tamaño de la imagen para algunas tareas.
Por lo que respecta a C2PA, el grupo en el que se puede encontrar a compañías como Adobe y Microsoft, ha estado empujando muy fuerte para el uso de la etiqueta Content Credentials para así identificar la procedencia del contenido e indicar si ha sido creado por humanos o la inteligencia artificial.
Justamente fue Adobe la que creó el símbolo de Content Credentials que ya está usando OpenAI en las creaciones hechas con DALL-E 3. El mismo que incluirá Meta en Instagram, Threads y Facebook, así que todos giran alrededor de una acción necesaria para que cualquier persona sepa si el contenido en imagen que está visualizando está realizado con IA.
El gran problema, según The Verge, yace en que los metadatos de C2PA se pueden eliminar fácilmente, ya sea de forma intencional o por accidente, sobre todo en las plataformas de redes sociales que lo suelen borrar al subir el usuario el contenido. Pasa lo mismo con las capturas de pantalla que omiten este tipo de datos. OpenAI da más detalles sobre esta novedad desde su propio sitio web.