Microsoft ya detecta los deepfakes: así son sus armas contra la desinformación

La desinformación es uno de los grandes males de nuestra sociedad, especialmente con el COVID-19 campando a sus anchas por España. Las campañas de desinformación han sido tan intensas que marcas como Microsoft han decidido tomar cartas en el asunto y combatir con medidas esta lacra que nos asola.

Microsoft ha anunciado hoy novedades en su programa "Defending Democracy" que busca precisamente luchar contra campañas organizadas de desinformación. Entre todas las novedades presentadas, vemos herramientas para identificar y captar 'deepfakes', es decir, vídeos falsos realizados con IAs y buscar colaboradores en esta lucha.

La firma de Redmond además publica diversas investigaciones que adierten del peligro de la desinformación en redes sociales, que está teniendo una tendencia peligrosamente alta especialmente para posicionar a la opinión pública o polarizar los debates.

'Deepfakes', desinformación y más

Edificio de Microsoft.

Una de las principales novedades que Microsoft anuncia es Video Authenticator, una plaaforma inteligente que analiza fotos o vídeos para proporcionar un porcentaje o calificación para determinar si este material ha sido alterado de alguna forma. Por supuesto se vale de la ya afamada Inteligencia Artificial para reconocer estos cambios.

Video Authenticator nos dará un porcentaje en tiempo real sobre cada 'frame' del vídeo a medida que se reproduce, identificando así elementos que no serían visibles a primera vista por un ojo humano, especialmente no experto. Esta herramienta ha sido creada por Microsoft Research, junto al equipo de IA de Microsoft y el Comité de IA, Ética y efectos de ingeniería AETHER de Microsoft.

No es lo único; Microsoft también ha anunciado una nueva tecnología que impulsará un proyecto llamado Project Origin que será capaz de detectar contenido manipulado y garantizar además que los contenidos que se visualicen son auténticos. Constará de dos partes; una herramienta integrada en Microsoft Azure para que los creadores de contenido añadan 'hashes' y certificados a sus piezas y un lector, que se usará como una extensión de navegador o como otras apps que verificará la huella digital almacenada en los archivos.

Colaboraciones e iniciativas

El logo de Windows, hackeado. Manuel Fernández Omicrono

Adicionalmente, Microsoft ha estado aliándose con otras firmas para desarrollar estas herramientas o en su defecto para impulsar una lucha contra esta lacra. Se destaca la colaboración con la AI Foundation, una empresa sin fdines de lucro que tiene como misión llevar el potencial de la IA al consumidor. A través de esta asociación se crea Reality Defender 2020, la iniciativa que pondrá Video Authenticator a disposición de las organizaciones involucradas en esta lucha.

Microsoft también se ha asociado con un consorcio de compañías de medios, incluida la BBC, CBC/Radio-Canada y el New York Times, en Project Origin, que utilizará la tecnología de autenticación y ayudará a avanzar en un estándar que pueda ser adoptado de manera amplia. La iniciativa Trusted News, que incluye a un amplio grupo de editoriales y compañías de redes sociales, también va a poner a prueba esta tecnología de verificación.