Los vídeos falsos hechos con IA o conocidos popularmente como "deepfakes" están empezando a ser una preocupación entre los profesionales de la tecnología. Estos vídeos han pasado de ser simples montajes cuya falsedad se percibía al momento a sofisticados metrajes que parecen casi reales (no olvidar aquel tenebroso deepfake de Steve Buscemi...). Por lo que, ¿qué podemos hacer contra ellos?
Google ha publicado un gran conjunto de datos de deepfakes para apoyar a los investigadores que se dedican a detectarlos. En general han publicado una base de datos de 3.000 deepfakes que ellos mismos han generado, por lo que se podría decir que están combatiendo fuego con fuego.
Pero esto tiene un por qué. Gracias a esta base de datos los investigadores pueden usar dichos deepfakes para entrenar herramientas de detección automática para hacerlas tan precisas y eficaces como sea posible.
Los vídeos falsos se detectarán con más vídeos falsos: ten cuidado con los deepfakes
El proceso que ha usado Google para crear dichos deepfakes es muy sencillo. Han rodado a actores en una amplia variedad de escenas y luego han usado métodos de generación de vídeos falsos con IA. El resultado ha sido una base de datos con unos 3.000 deepfakes a disposición de los investigadores.
Puede parecer a simple vista que no tiene mucha lógica combatir deepfakes con más deepfakes, pero debido a que estos vídeos están cada vez más en alza y son cada vez más fáciles de producir es imposible regularlos de forma "humana". Se necesitan herramientas de detección automatizadas, y para que estas herramientas sepan qué videos son deepfake o no es preciso que antes sepan qué es un deepfake.
Google ha prometido llenar todavía más la base de datos y actualizarla conforme las técnicas de creación de deepfake evolucionen. Esto es lo que ha dicho la misma Google al respecto en su blog de IA:
"Dado que el campo se está moviendo rápidamente, agregaremos más vídeos a este conjunto de datos a medida que la tecnología deepfake evolucione con el tiempo, y continuaremos trabajando con socios en este espacio. Creemos firmemente en apoyar a una comunidad de investigación próspera en torno a la mitigación de daños potenciales por mal uso de medios sintéticos, y el lanzamiento de hoy de nuestro conjunto de datos de falsificación profunda en el benchmark FaceForensics es un paso importante en esa dirección".
Los deepfakes se han convertido en un tema tan serio que incluso Microsoft y Facebook están metidas en el problema. Estas empresas, además de Google, están empeñadas en crear herramientas de código abierto de detección de deepfakes que gobiernos, instituciones y organizaciones puedan usar. Facebook, por su parte, planea crear una base de datos similar para finales de año. Esto es beneficioso para todos, aunque no lo parezca; cuantos más datos absorban estas herramientas más fácil lo tendrán para detectar deepfakes.
Más información | Google AI Blog