La presencia de discurso del odio y de apología del terrorismo en redes sociales es un hecho; que las compañías no hacen todo lo necesario para evitarlo también lo es. Sin embargo, ¿cuál es la solución? Muchas voces apuntan que las redes sociales deben recorrer una fina línea a la hora de moderar sus plataformas.

Si se vuelven demasiado celosas con el contenido que publican, pueden acabar bloqueando a usuarios legítimos; y si son demasiado permisivas pueden cultivar una cultura de odio que emponzoñe la comunidad. Los recientes quebraderos de cabeza de Twitter demuestran que no es nada sencillo.

Por todo esto, la UE hasta ahora no había adoptado una política concreta, prefiriendo dejar que las plataformas se autorregulasen. Sin embargo, los resultados no aparecen, y algunos legisladores europeos creen que ya va siendo hora de implementar leyes al respecto.

La UE quiere borrar contenido extremista en una hora

Según The Financial Times, un nuevo borrador de ley incluirá la posibilidad de grandes multas a las webs que no retiren contenido extremista y “terrorista”. De esta forma, las compañías tendrán que controlar absolutamente todo lo que se sube a sus plataformas.

Llama la atención el escaso tiempo que tendrán para reaccionar; el contenido tendrá que ser borrado apenas una hora después de ser publicado. Esto se hace para evitar que el mensaje se expanda por la red social. Sin embargo, esto no será nada sencillo.

Precisamente, Jack Dorsey, CEO de Twitter, ha intentado defender que no expulse a usuarios que vulneran sus reglas; escudándose en que analizar los cientos de horas de vídeo y contenido publicado por un sólo usuario es imposible sin invertir millones de dólares.

Es por eso que este proyecto de ley tiene el potencial de ser devastador para las pequeñas webs. Empresas como Facebook o Google hacen uso de Inteligencia Artificial para detectar contenido extremista; una herramienta que no está al alcance de todos.

Sin embargo, Julian King, comisario de seguridad de la UE, afirma que lo importante es crear la misma base legal para todas las webs, sin importar su tamaño; hasta ahora, dependía mucho de lo que cada web invertía o decidía, y la UE quiere acabar con eso.

Claro, que aún quedan muchas preguntas al respecto. Como por ejemplo, la definición de “extremista” o “terrorista”, y cómo afectará a los usuarios “de a pie”.