Con la irrupción de las herramientas generativas de inteligencia artificial ha surgido un problema clave: detectar las imágenes producto de la IA de las que no lo son. Un trabajo arduo que a simple vista humana es realmente complicado y cuyo progreso no es nada halagüeño teniendo en cuenta que los resultados son cada vez más afinados a la par que realistas. Google, como una de las compañías más punteras en el ramo, se encuentra trabajando precisamente en un sistema que intentará lograrlo con una marca de agua invisible.

El funcionamiento se basa en alterar una serie de píxeles individuales de cada una de las imágenes generadas con IA, de forma que escapen al ojo humano pero no al algoritmo. Esta marca de agua será inquebrantable y resistirá a cualquier tipo de manipulación por profunda que sea. Algo que no consiguen las marcas de agua tradicionales que se pueden recortar o alterar la imagen hasta hacerlas desaparecer.

Esta tecnología, denominada SynthID, se encuentra por el momento en fase de pruebas y tan sólo será efectiva con el servicio de generación de imágenes de la propia Google, llamado Imagen. Del desarrollo se está encargado DeepMind, el brazo de inteligencia artificial del gigante californiano. "Puedes cambiar el color, el contraste, incluso puedes cambiar el tamaño... y aún podrá ver que está generado por IA", asegura Pushmeet Kohli, jefe de investigación en DeepMind, a BBC.

Una foto real de Lacey Ellen Fletcher y su recreación en Inteligencia Artificial

Aunque con el despliegue oficial en marcha, la función está reservada a un pequeño grupo de usuarios de pago del servicio Imagen de Google. Además, Kohli indica que se trata de "lanzamiento experimental" del sistema y que la compañía necesita que la gente lo empiece a utilizar para comprobar realmente su desempeño.

El pasado julio, Google fue una de las firmantes del acuerdo voluntario para el "desarrollo y uso seguro de la inteligencia artificial" en donde se incluyó un apartado muy en la línea de lo que ahora ofrece con SynthID. En él se comprometía a garantizar que las personas pudieran detectar las imágenes creadas por la IA mediante la integración de una marca de agua.

[Las cinco claves para identificar las fotos falsas que se han hecho con inteligencia artificial]                   

Microsoft y Amazon, por su parte, también se encuentran trabajando en sistemas que permitan la integración de una marca de agua y en el desarrollo de las herramientas necesarias para luego detectar las imágenes. Por el momento, se desconoce qué método utilizarán y cuándo iniciará el despliegue.

Algunas voces, como la de Claire Leibowicz de Partnership on AI, indican que lo mejor sería una estandarización entre las plataformas como método más rápido y simple para el ciudadano de a pie. "Muchas instituciones están explorando diferentes métodos, lo que añade dos grados de complejidad", añade. "Ya que nuestro ecosistema de información se basa en diferentes métodos para interpretar y discernir el contenido generado por la IA".

También te puede interesar...