Los nuevos filtros de Xbox Live usarán IA para eliminar palabrotas

Uno de los "peligros" de jugar online es que, si somos jóvenes (o son nuestros hijos los que juegan) podemos estar expuestos a un tipo de lenguaje que no corresponde con el de nuestra edad. Cada humano se expresa de distinta manera, y lo que a uno le puede parecer una palabra normal, al otro le puede sonar malsonante. Para solucionar este problema llegan los filtros de Xbox Live.

De nuevo, si estamos jugando a un videojuego online (o nuestros hijos) puede que veamos palabrotas o expresiones feas en el chat. Cada cuál lleva la educación de sus hijos como quiere, pero es cierto que a edades tempranas este tipo de lenguaje puede llegar a influir de forma negativa en según qué personas. Microsoft quiere acabar con esto aplicando unos filtros que usarán Inteligencia Artificial para detectar y filtrar palabras malsonantes.

Concretamente estos filtros se aplicarán en los chats de Xbox Live y el usuario podrá regularlos a placer, definiendo su agresividad. Si bien es cierto que Microsoft lleva años moderando lo que se dice por este servicio, será ahora cuando le dará control al jugador sobre lo que ocurre.

Los filtros de Xbox Live te salvarán de las palabrotas usando IA

Estos filtros, al menos en sus fases iniciales, tendrán 4 niveles: Friendly, Medium, Mature, y Unfiltered. Como sus nombres indican estos filtros tendrán como principal foco la edad del usuario; el 'Friendly' se encargará de bloquear todo tipo de comentario potencialmente ofensivo para los niños y el Unfiltered directamente no filtrará ninguna palabra.

Si se lanzan mensajes posiblemente ofensivos, en el chat se advertirá de que el mensaje ha sido ocultado por ser "potencialmente ofensivo". Si estamos usando una cuenta Xbox Live para adultos, podremos acceder al contenido del mensaje y reportarlo usando las herramientas de moderación de Xbox. Obviamente los padres también podrán administrar los niveles de los filtros desde sus cuentas familiares.

Estos filtros estarán disponibles en Xbox One, Xbox Game Bar y las aplicaciones Xbox para Windows 10, iOS y Android. Por lo tanto, podremos usar el servicio de chat de Xbox Live en cualquier sitio con los nuevos filtros de moderación. Para Microsoft esto va más allá de censurar un par de palabrotas en un momento tenso de Call of Duty. Según Dave McCarthy, jefe de operaciones de Xbox de Microsoft en una entrevista para The Verge:

"Ves historias de jugadores afroamericanos llamados a lincharse en sesiones multijugador, o jugadoras en entornos competitivos que reciben todo tipo de nombres y se sienten hostigadas en el mundo exterior, o miembros de nuestra comunidad LGBTQ que sienten que no pueden hablar con su voz en Xbox Live por temor a que los llamen de todo. Si realmente queremos darnos cuenta de nuestro potencial como industria y hacer que este medio maravilloso llegue a todos, simplemente no hay lugar para eso".

Mando de Xbox.

El método que McCarthy y su equipo han usado ha sido la combinación de Inteligencia Artificial y filtrados estándar. "El contexto es algo realmente complicado en el espacio de los juegos. Una cosa es decir que vas a ir de juerga asesina cuando te estás preparando para una misión multijugador en Halo, y es otra cuando eso se pronuncia en otro entorno. Encontrar maneras de entender el contexto y los matices es una batalla interminable".

Obviamente esto puede dar pie a falsos positivos; no todo el mundo entiende de manera exacta qué es un mensaje ofensivo o no. A esto se le añade el hecho de que, como dice McCarthy el contexto es vital, ya que en diversas situaciones una palabra malsonante puede no serlo. ¿El arma de Microsoft para enfrentar esto? La transparencia.

"Si vamos a pedir a nuestros usuarios que sean responsables de sus acciones en Xbox Live y nuestros otros servicios, debemos ser transparentes sobre nuestro sistema de valores, nuestras prácticas y por qué hacemos lo que hacemos. Recientemente hemos tenido éxito en hacer cosas como proporcionar evidencia y señalar a las personas a nuestros nuevos estándares de la comunidad Xbox Live, como parte de nuestro esfuerzo de transparencia en torno a las investigaciones que hacemos".

Para ello Microsoft está razonando diferentes formas de notificar a los usuarios el que hayan sufrido acciones en su cuenta por lenguaje malsonante. Así que ahora los usuarios de Xbox Live podrán ver en la web de Microsoft los motivos exactos por los que su cuenta podrá haber sido afectada.

Via | The Verge