Seamos o no usuarios habituales de YouTube, cada vez que se accede a la plataforma para visualizar algún tipo de contenido se nos ofrecen decenas de sugerencias de vídeos relacionados. Imágenes que el algoritmo ha decidido que nos pueden interesar a partir de nuestro historial de consumo, los canales a los que estamos suscritos o las búsquedas que realizamos. Pues bien, esa misma herramienta, que podría parecer del todo inofensiva, está sirviendo a pedófilos de todo el mundo para localizar vídeos de menores. 

Este ha sido el descubrimiento que ha hecho el youtuber Matt Watson y que está poniendo contra las cuerdas al gestor de vídeos de Google, al que muchos anunciantes han dicho adiós a raíz del escándalo. Fue el pasado 17 de febrero cuando Watson publicó en la plataforma su hallazgo y le han bastado cuatro días para que su vídeo supere los dos millones de reproducciones. Lejos de necesitar de amplios conocimientos de informática para dar con la treta de los pedófilos, cualquier usuario puede hacer lo mismo que ha hecho el youtuber y comprobarlo por sí mismo. 

Watson se abrió una cuenta nueva y escribió "bikini haul" [contenido en el que los usuarios se prueban bikinis]. Le bastaron un par de clics en vídeos recomendados para que YouTube le empezase a surtir de imágenes de menores. Pinchó en uno de ellos y casi automáticamente su columna de recomendaciones se llenó de vídeos protagonizados por menores de edad. No se trata, no obstante, de vídeos con un contenido sexual explícito; pero en los comentarios los pedófilos han escrito el minuto exacto en el que pasa algo que podría ser tomado como tal.

También figuran comentarios sexuales, enlaces a otros vídeos e incluso contactos. Algunos de los canales desde donde se han subido estos vídeos pertenecen a menores que publican imágenes inocentes de sus bailes o su día en la piscina. Otros, sin embargo, son anónimos y se aprovechan de contenido robado. Algunos de los vídeos denunciados estaban monetizados, es decir, sus propietarios recibían una remuneración económica por parte de YouTube al haber insertado publicidad en ellos. 

Sacar rentabilidad de los pedófilos

El periodista español Emilio Doménech ha explicado el hallazgo de Watson a través de un hilo de Twitter que no ha tardado en hacerse viral. Analiza además que "el algoritmo de YouTube define al usuario, le crea una burbuja de contenido que en casos extremos como este convierten a la plataforma en un paraíso para los pedófilos".

Doménech ha recordado que este vacío tecnológico ya se había hecho público con la polémica de los vídeos de extrema derecha o la teoría de la conspiración y que la "crisis" a la que se enfrenta la plataforma ahora es diferente por el hecho de que contengan anuncios: "De la misma forma que puede haber niños y padres sacando tajada de subir vídeos a priori inofensivos, sobre ropa y juguetes, protagonizados por menores, también hay gente sacando rentabilidad de vídeos cuyas secciones de comentarios están plagadas de pedófilos". 

Una máquina de radicalizar

La profesora de Ciencias de la Información y Biblioteconomía en la Universidad de Carolina del Norte Zeynep Tufekci es una de las voces más críticas con YouTube de Estados Unidos. De hecho, desde su espacio de opinión en The New York Times no vacila al afirmar que se trata de "uno de los instrumentos de radicalización más poderosos del siglo XXI". Su tesis se basa en que el algoritmo va ofreciendo al usuario un contenido cada vez más extremo sobre el interés detectado. 

La experta ha reflexionado sobre los descubrimientos de un antiguo ingeniero de Google, Guillaume Chaslot, al que echaron en 2013 precisamente por cuestionar las tácticas utilizadas por el algoritmo de recomendación. En los meses previos a las elecciones estadounidenses del 2016, este desarrolló un programa para rastrear los vídeos más recomendados por la plataforma y sus patrones. Descubrió entonces que si comenzabas a ver un vídeo favorable a Hillary Clinton o a Donald Trump lo más probable es que terminases con otro de Trump.

"Estamos presenciando la explotación computacional de un deseo humano natural: mirar 'detrás de la cortina' para profundizar en algo que nos compromete", analiza Tufekci, añadiendo que "a medida que hacemos clic nos dejamos llevar por la emocionante sensación de descubrir más secretos". Y todo, insiste, mientras Google hace caja: "Google es un agente publicitario que vende nuestros gustos a compañías que pagan por ello. Cuando más tiempo permanecen las personas en YouTube más dinero gana Google". 

Los anunciantes se marchan

Matt Watson pidió en su vídeo que sus espectadores se comunicasen con los anunciantes de los vídeos, grandes multinacionales como IKEA o McDonald's, para que supieran que estaban pagando por poner sus anuncios en vídeos que estaban siendo utilizados por pedófilos. La huida de las empresas no se ha hecho esperar y algunas como Nestlé, Epic Games -desarrolladora del Fortnite-, Purina e incluso podría hacerlo Disney, han anunciado que retiran su publicidad. 

Una de las portavoces de YouTube, Chi Hea Cho, salió a la palestra para tratar de paliar el desastre, asegurando que se habían eliminado cuentas y comentarios "perturbadores", poniendo en manos de las autoridades lo sucedido, recoge The New York Times. "Cualquier contenido, incluidos los comentarios, que ponga en peligro a los menores es aberrante y contamos con políticas claras que lo prohíben. Tomamos acciones inmediatas borrando cuentas y canales, denunciando cualquier actividad ilegal a las autoridades, y desactivando los comentarios en decenas de millones de vídeos que incluyen menores. Hay más por hacer, y continuamos trabajando para mejorar y detectar el abuso cada vez más rápido", explicó. 

Además, explican desde Google España, en los últimos días han cerrado más de 400 canales por los comentarios, informando de ello al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC en sus siglas en inglés), y la semana pasada han reportado 46.000 cuentas de infractores. También, insisten, "estamos contratando de forma permanente a cada vez más expertos que se dedican a la seguridad infantil" y, recuerdan, "no permitimos a menores de 13 años crear sus cuentas en YouTube". 

No es la primera vez que la plataforma se ve envuelta en la polémica, en 2017 se enfrentó al conocido como ElsaGate, cuando su algoritmo recomendó contenido sexual a menores y se vieron obligados a actualizar sus términos de uso. A finales de este mismo año la empresa ya tuvo que bloquear comentarios en los que algunos usuarios proporcionaban datos de contacto.

[Más información: Por qué el vídeo de Kevin Spacey es lo más enfermizo que ha pasado en YouTube]

Noticias relacionadas