Una de las cosas que más me llaman la atención en la interacción entre personas y tecnología es la facilidad con la que la ignorancia nos lleva a simplificar los problemas.
Imaginemos el problema que supone la gestión de una plataforma social como Facebook, en la que más de dos mil millones de personas, un tercio de la población mundial, pasan cincuenta minutos todos los días leyendo noticias, escribiendo, viendo vídeos, enterándose de lo que han hecho sus amigos y conocidos, o simplemente curioseando. ¿Alguien -que no sean los implicados en semejante reto tecnológico- cree ser capaz de imaginarse lo que supone?
La semana pasada, el director de seguridad de Facebook, Alex Stamos, dio un interesante dato: cada día, la compañía elimina alrededor de un millón de cuentas por infracciones a sus políticas, por temas como spam, fraude, amenazas, acoso o incitación al odio, entre otros.
Un. Millón. De. Cuentas. Cada día. Un millón hoy, otro millón mañana, otro millón al día siguiente... y así todos los días. ¿Alguien de verdad aspira a entender lo que significa algo así? ¿Cuántas cuentas tienes que revisar para terminar eliminando un millón de ellas? Asumamos, por ejemplo, que un 10% de las cuentas que examinan terminan siendo consideradas culpables de infringir alguna política: hablamos de más de diez millones de cuentas que hay que supervisar cada día, algorítmica y/o manualmente. En un momento dado, los retos técnicos que implica la supervisión de las políticas de seguridad pasan a ser un tema más importante y complejo que las propias políticas de seguridad.
En esa tarea, la compañía cometerá errores, y lo sabe. Y hasta ahora, los problemas derivados de un error podían ser las quejas de los usuarios, el ridículo público cuando alguien comentaba esos errores, o el que hubiese malas personas usando su servicio. Ahora, tras la ley alemana que impone multas de hasta cincuenta millones de euros a las plataformas sociales si no eliminan rápidamente las publicaciones que contengan incitación al odio, la dimensión del problema pasa a ser un delito penal y una multa fastuosa.
¿Qué harán, en consecuencia, las plataformas sociales? Fácil: cerrar más cuentas. Y cometer más errores. Si te parece importante que las plataformas sociales garanticen la libertad de expresión, piénsalo: unos políticos completamente incapaces de entender lo que supone un problema sin precedentes, han pensado que lo arreglaban simplemente amenazando con multas. Genial. Libertad de expresión, democracia, humor, ironía... ¿qué más da? En el próximo escándalo con acusaciones de censura, hablamos. Para arreglar un problema, habrán generado otro peor.