El problema de los 'deepfakes', imágenes y vídeos falsos creados con inteligencia artificial, es una bola de nieve que ha alcanzado un tamaño preocupante en los últimos meses. Las apps para desnudar mujeres han ganado una popularidad inaudita, aunque hayan sido prohibidas en las tiendas de apps de Google y Apple por su uso para el acoso sexual.

Como una de las pioneras en el uso de inteligencia artificial para crear imágenes falsas, lo último que quiere Google es estar asociada con estos acosadores y abusadores sexuales, y ya tiene un servicio en marcha para retirar pornografía falsa publicada sin consentimiento. Sólo es necesario iniciar una solicitud en esta página, para que Google deje de mostrar las imágenes cuando se realiza una búsqueda en sus páginas o sus apps.

Sin embargo, eso no soluciona realmente el problema; al fin y al cabo, crear este tipo de imágenes es cada día más fácil, y por cada foto falsa que desaparece de Google puede aparecer una docena más. Aquí es donde entran las novedades anunciadas hoy por Google, ya que están diseñadas para acabar con el contenido falso antes de que llegue a aparecer en la búsqueda.

A partir de ahora, cuando una persona use el formulario para eliminar contenido explícito falso de la búsqueda, los sistemas de Google también filtrarán todos los resultados en búsquedas similares sobre esa persona. Por lo tanto, imágenes similares también deberían desaparecer de la búsqueda aunque no se haya pedido de manera expresa; de la misma manera, los algoritmos también buscarán copias de la imagen denunciada, en caso de que haya sido publicada en diferentes páginas web.

Google también está cambiando los resultados de su búsqueda, con el objetivo de detectar peticiones que tengan un mayor riesgo de mostrar contenido sexual falso. Por ejemplo, si el usuario busca imágenes creadas por IA de una persona real, el buscador de Google no las mostrará, sino que se centrará en mostrar contenido "de alta calidad y no explícito"; como por ejemplo, fotografías de agencias de noticias. 

Para asegurarse de que no muestra imágenes falsas, Google va a empezar a penalizar a las páginas que son denunciadas en varias ocasiones; por lo que, de todas maneras, deberían aparecer con menos frecuencia a la hora de hacer cualquier tipo de búsqueda.

Uno de los mayores retos de esta situación, afirma Google, es que es necesario distinguir entre contenido explícito real y consentido (como escenas de desnudos de un actor o actriz), y contenido explícito falso (como 'deepfakes'). Google confiesa que queda mucho trabajo por hacer para solucionar el problema de las imágenes falsas, ya que va más allá de los motores de búsqueda.