Lo nuevo de Google es una IA que detecta abuso infantil

Una de las mayores lacras de Internet, desgraciadamente, es la pornografía infantil y la exposición de abuso infantil. Igualmente ocurría en la era de antes de Internet, pero con él, las cifras de exposición y distribución se han aumentado gracias al anonimato que da la red. Por lo tanto, y para acabar con él, hay personas que se dedican exclusivamente a ver imágenes para ver si contiene abusos o pornografía infantil.

Y ver esto durante 40 horas no es agradable (y por eso Facebook, entre otras compañías, lo paga muy bien, además de proveer ayuda psicológica). Por ello, Google ha decidido lanzar un software gratuito y libre que permite identificar estos actos en imágenes para, precisamente, ayudar a las personas que tengan este desagradable trabajo (al fin y al cabo, alguien tiene que hacerlo).

Actualmente hay aplicaciones de Microsoft que hacen impiden la difusión de este cotenido, y son usadas por Facebook y Twitter, pero solo funcionan si los contenidos son marcados como ilegales.

Google crea una Inteligencia Artificial para detectar abuso infantil

La Inteligencia Artificial de Google, en cambio, es distinta: asiste a los moderadores clasificando imágenes y vídeos marcados y “priorizando el contenido más probable de CSAM (Child Sexual Abuse Material) para su revisión“; es decir, que clasifica por sí mismo el contenido. Durante el mismo periodo de tiempo, un moderador puede revisar contenido un 700% más rápido.

CCC Essen

Y, para ello, se basa en la experiencia aprendida por el software gracias al entrenamiento clasificando contenido. Pero, por el momento, no evita que el moderador tenga que dejar de ver estas imágenes. Y es que, por ahora, su función principal es revisar las imágenes y decidir cuáles deben ser vistas (urgentemente) por el moderador humano, que será quien lo marque como ilegal o no en última instancia.

Uno de los primeros sitios donde se probará este software será en la IWF (Internet Watch Foundation), una de las organizaciones más grandes a nivel mundial que se dedica precisamente a revisar y eliminar contenido inapropiado de Internet bajo el lema “Better Internet for Kids”, para ver cómo se ajusta al flujo de trabajo de los moderadores. «Ese tipo de clasificador es un poco como el Santo Grial en nuestra área», agrega la organización.

Imagen de portada | Pix A Bay