Desde que Elon Musk compró la red social de Twitter, el magnate ha anunciado numerosas medidas y nuevas normas que han generado polémica también en España, alegando que la intención principal era limpiar la red social de bots o cuentas falsas. Sin embargo, la plataforma sigue sin atajar el problema, la Unión Europea ha llamado la atención a esta y otras redes sociales sobre la desinformación que en ellas se comparte y una nueva operación revela como la inteligencia artificial está facilitando la labor de estas granjas de bots.

Estados Unidos y varios países aliados han informado esta semana del éxito de una operación con la que han tomado el control de una sofisticada fábrica de propaganda rusa que usaba inteligencia artificial para manejar casi mil cuentas encubiertas en la red social X, más conocida como Twitter.

Las agencias de Estados Unidos, los Países Bajos y Canadá han colaborado para identificar varios programas informáticos que se utilizaban para gestionar esta red de bots. Uno de estos softwares, llamado Meliorator, creaba usuarios falsos conocidos como "almas" en varios países. La red de Elon Musk X cumplió con una orden judicial de proporcionar información sobre las cuentas al FBI y luego las borró. 

Para tumbar la red, el FBI obtuvo una orden judicial para confiscar dos dominios web desde los que se registraban las direcciones de correo electrónico que figuraban tras las cuentas ficticias o bots. La red de Elon Musk cumplió con una orden judicial que exigía que proporcionara información sobre las 968 cuentas detectadas por FBI y luego las borró, según informa The Washington Post. El sistema conseguía eludir las técnicas de X para verificar la autenticidad de los usuarios, copiando automáticamente las claves de un solo uso enviadas a las direcciones de correo electrónico registradas. 

La red se organizaba en dos tipos de perfiles falsos: mientras unas cuentas con biografías más elaboradas publicaban contenido original para promocionar, otras cuentas más genéricas se dedicaban a compartir las publicaciones de las primeras y darles "me gusta" para difundir el mensaje entre los usuarios reales de la red social. 

La red nace en 2022, cuando el entonces editor jefe adjunto en RT, la agencia de noticias rusa con sede en Moscú, buscaba el desarrollo de medios alternativos para distribuir información más allá de las transmisiones de noticias televisivas estándar de RT. En respuesta, se inició el desarrollo de un software que podía crear y operar una granja de bots de redes sociales. 

Aún así, las agencias no han indicado la efectividad de esta red, cuántas personas reales vieron y contribuyeron a difundir los mensajes en internet. Según informan, la intención de los responsables de esta granja de bots era expandirse a otras redes sociales como Facebook o Instagram, pues se habían encontrado referencias a estas plataformas en el código de los programas informáticos.

Los investigadores que han llevado a cabo esta operación han compartido una información detallada del funcionamiento de la red para ayudar a otras organizaciones a desmantelar granjas de bots similares. No creen que el problema vaya a desaparecer y consideran que las redes sociales deben reformar sus medidas de seguridad, más aún cuando ha quedado demostrado que el uso de la inteligencia artificial aporta una mayor capacidad de acción a estas redes de desinformación y propaganda online.