Dos tiroteos en mezquitas de Christchurch, Nueva Zelanda, ya están siendo considerados como los primeros ataques terroristas virales; un tirador, ayudado presuntamente por tres sospechosos más, acabó con la vida de 49 personas e hirió a decenas más. Su objetivo no era pasar desapercibido, sino todo lo contrario: fue un evento planeado al segundo, retransmitido en directo por Internet y con la clara intención de hacerse viral.

Algo que consiguió con sorprendente facilidad, gracias a plataformas como Facebook, Youtube, Twitter, 4Chan, 8Chan, Reddit, y muchas más. Aún en estos momentos es posible que te “salte” el vídeo de 17 minutos en el que se muestra la masacre con todo lujo de detalles, sin tener que buscarlo. Y como no podía ser de otra manera, ahora el foco está en esos servicios, y en cómo han ayudado a hacer famoso a un terrorista.

¿Cómo es posible que una plataforma sea incapaz de controlar lo que se sube a sus servidores? ¿Por qué Youtube tiene tantos problemas para eliminar el infame vídeo de sus recomendaciones? ¿Por qué Facebook permitió que se hiciese un “streaming” en directo desde su plataforma durante tanto tiempo sin ser eliminado?

Los algoritmos no están diseñados para esto

Una de las mayores críticas que han recibido estos servicios es que, aparentemente, son capaces de borrar cualquier vídeo de su plataforma al instante, excepto justo en estos casos. Mucha gente se extraña de que Youtube te bloquee un vídeo que hayas subido si estás usando una canción con copyright, o si contiene una porción de una película; pero no sea capaz de identificar un vídeo violento como este, sobre todo si ha sido subido y borrado tantas veces en pocas horas.

El motivo de esto es, simplemente, que los algoritmos de Youtube y otros servicios no están diseñados para capturar y eliminar este tipo de contenido. En concreto, ContentID de Youtube se centra en analizar todos los vídeos que subimos, comparándolos con una base de datos de material con copyright y prohibido en la plataforma. Este algoritmo es muy potente, y es capaz de reconocer, por ejemplo, canciones, en unas horas, o incluso en unos minutos. Pero la clave, lo importante, es que tiene que estar en su base de datos.

Incluso si ContentID reconoce contenido prohibido en un vídeo, este proceso no es instantáneo; y depende mucho de si el contenido está copiado tal cual, o si ha sido modificado. Según expertos, el proceso de detección puede durar entre un par de minutos y varias horas.

Para cuando el vídeo de la masacre fue añadido a la base de datos y ContentID empezó a bloquearlo, ya había sido visto y compartido por decenas de miles de personas, incluso más. Algo que normalmente no es un problema con el contenido con copyright, gracias a los acuerdos que Youtube tiene con las propietarias de derechos de autor; pero que es catastrófico en un caso como este.

Los empleados humanos son los que terminan decidiendo

¿Por qué tardó tanto Youtube en considerar que este vídeo debía ser bloqueado? Porque borrar un vídeo no siempre depende en exclusiva de un algoritmo. Youtube cuenta con moderadores humanos que tienen que tomar decisiones en vídeos denunciados por la comunidad o que hayan sido reclamados por sus autores.

Los primeros vídeos de la masacre subidos a Youtube no pudieron ser borrados hasta que recibieron la cantidad suficiente de denuncias de los usuarios como para que un empleado de Youtube lo comprobase. En ese momento, probablemente marcaría el vídeo en la base de datos para que ContentID lo bloquease automáticamente.

Pero, y como bien saben los “piratas”, existen métodos para saltarse estos filtros; desde marcos que ocupan la mayor parte del vídeo, a modificar levemente el sonido para que siga siendo reconocible para el oído humano pero no para el algoritmo. En estos casos, el sistema lo considera vídeos completamente nuevos, y es necesario iniciar todo el proceso desde cero para bloquearlos.

En este caso hemos hablado de Youtube, pero los sistemas implementados por Facebook y otras plataformas funcionan de manera similar. También es cómo funcionarán los filtros que la Unión Europea quiere implementar de manera obligatoria en todas las páginas web con el Artículo 13 de la nueva ley de copyright europea.

Plataformas que ayudaron a viralizar el ataque

Pero Youtube y Facebook no fueron las únicas plataformas en las que se expandió este vídeo. En foros como Reddit, 4Chan, 8Chan se reúnen comunidades de ideologías afines a las del terrorista, y fueron claves para hacer que el vídeo fuese viral. Eso es porque, tanto en foros como en redes sociales, prima la reacción y no la censura previa.

Con esto queremos decir que los moderadores casi nunca borran contenido de manera proactiva; sólo cuando es denunciado o cuando recibe la suficiente atención. Incluso entonces, en muchos de estos sitios siempre se opta por errar a favor del usuario; y considerar que compartir el vídeo y capturas ayuda al “debate”. Claro, que en realidad en la mayoría de ocasiones esos son excusas para saltarse las limitaciones del sitio.

Por ejemplo, en el momento de escribir estas líneas es posible encontrar capturas del infame vídeo; además de un apoyo claro a las acciones del terrorista en algunas comunidades de 4Chan y 8Chan. Históricamente, estos sitios han alojado a algunas de las comunidades más extremas de Internet; y el ataque terrorista en Nueva Zelanda sólo ha servido para avivar este fuego, en muchos casos con el apoyo de los propios moderadores de los sitios.

Por contra, Reddit ha tomado una postura más dura contra estas comunidades; llegando a cerrar muchos “subreddits”, o subforos en los que se estaba compartiendo el vídeo. Reddit también ha sido protagonista en el pasado de muchas polémicas similares, pero en los últimos años ha intentado lavar su imagen con el cierre de las comunidades más extremas.

Un ataque terrorista diseñado para Internet

A estas alturas es evidente que el tirador y sus cómplices planearon para que el vídeo se hiciese viral desde el principio. Todas sus acciones fueron metódicamente diseñadas para apelar a los seguidores de sus ideales, saltarse las medidas de las grandes webs, y alcanzar al internauta medio.

El vídeo y el “manifiesto” publicados por el atacante contienen una gran cantidad de referencias y “memes”; introducidos precisamente para que todo el mundo hable de ello. Desde la mención a Pewdiepie, el youtuber más famoso del mundo, hasta la decoración de sus rifles o el uso de frases asociadas con la cultura alternativa de Internet, el atacante tenía algo para todo el mundo.

Hasta el punto de vista del vídeo, grabado con una GoPro para que pareciese como si fuese un videojuego en primera persona, fue una elección consciente. No solo reaviva el debate que asocia a los videojuegos con la violencia (una asociación que, por cierto, está desacreditada); sino que es otro guiño más para la audiencia a la que va dirigida este ataque.

El vídeo de la matanza en Nueva Zelanda, un antes y un después para Internet

Las redes sociales le siguieron el juego. Conforme más detalles salían a la luz, estos eran analizados y criticados por separado. Desde expertos que intentaban sacar algo de sentido al supuesto “manifiesto”; a gente incrédula porque su meme favorito estuviese en las noticias. Hasta tenía “regalos” para los periodistas, con menciones de otros ataques similares y neonazis a los que “admira”, entre ellos algún español.

La conexión española del terrorista de Nueva Zelanda: un viaje a nuestro país y lazos neonazis

Estamos ante un caso excepcional. En los últimos años ya se habían dado casos semejantes de ataques que terminaban por hacerse virales; pero esta es la primera vez que vemos un ataque terrorista ideado desde el principio para convertirse en viral. Posiblemente supondrá un antes y un después en la lucha contra grupos extremistas; y no dudamos que será copiado por otros. Lamentablemente, en estos momentos Internet no está lista para reaccionar ante alguien que conoce tan bien su funcionamiento.