El nivel que han alcanzado Google Assistant, Siri o Alexa en apenas unos años es sorprendente; pero no siempre lo fue. Estos sistemas usan aprendizaje automático para mejorar constantemente, para descubrir nuevas maneras de decir las cosas, nuevas expresiones y peticiones.

Pero es precisamente por eso que estos sistemas precisan de una enorme cantidad de información; la calidad de un asistente personal es directamente proporcional a la cantidad y la calidad de los datos que tenga. Eso implica escuchar al usuario y recopilar sus datos; y comprensiblemente, mucha gente no quiere tener un micrófono en casa que registre todo lo que hace. El éxito de dispositivos como el Amazon Echo, que usa el asistente Alexa, depende en buena parte de esta percepción de privacidad.

Personas escuchan lo que decimos a Alexa

Desde el principio, la postura de Amazon y otros desarrolladores ha sido que el proceso está automatizado y es anónimo; sin embargo, una investigación publicada por Bloomberg ha revelado que eso no siempre es cierto, y que miles de empleados humanos de Amazon están dedicados a escuchar todo lo que decimos a Alexa.

Estos empleados forman parte del equipo de Amazon dedicado a la mejora de Alexa; aunque Amazon usa sistemas de aprendizaje automático para mejorar el asistente personal basándose en grabaciones y datos de los usuarios, estos datos no sirven de mucho si no son fiables.

El trabajo de este equipo es ayudar a Alexa a comprender mejor la manera en la que hablamos y qué es lo que queremos cuando le pedimos algo. En cierta manera, son los “profesores” de Alexa, que repasan el temario antes de entregárselo para que pueda mejorar.

Por qué Amazon necesita que sus empleados escuchen nuestras grabaciones

El equipo está compuesto tanto de empleados de Amazon como de contratistas externos; y está dividido en varios grupos alrededor del mundo, dependiendo del idioma que usen: desde EEUU hasta Costa Rica, India o Rumanía. Cada miembro de este equipo dedica su jornada laboral completa únicamente a escuchar clips de sonido provenientes de dispositivos con Alexa; en algunos casos hasta 1.000 archivos de audio cada día.

El trabajo de estos trabajadores es acumular datos relacionados con lo que escuchan. Por ejemplo, puede ser algo tan sencillo como las diferentes maneras en las que decimos “Taylor Swift” según nuestro acento; pero, según ex-empleados que participaron en el proyecto, también escuchan partes vergonzosas y privadas de nuestras vidas. Desde gente cantando en la ducha a bebés llorando, estos empleados escuchan muchos eventos de nuestra vida diaria que no tienen nada que ver con el uso de Alexa.

Grabaciones de momentos graciosos y potencialmente ilegales

No solo el empleado al que le ha tocado el archivo es capaz de escuchar nuestras vergüenzas. El equipo cuenta con un chat interno, en el que pueden compartirse archivos de audio. En teoría es para recibir ayuda en los casos en los que sea difícil distinguir lo que el usuario está diciendo; pero también se usa para compartir los audios más graciosos y vergonzosos.

Y no hablamos sólo de que juzguen nuestros cantos. Estos empleados han llegado a escuchar cosas potencialmente ilegales; algunos afirman haber escuchado casos de abusos sexuales, y que cuando se lo dijeron a la compañía, esta se lavó las manos afirmando que “el trabajo de Amazon no es interferir”. Pero es posible que esa sea una manera de evitar un posible escándalo. Si un criminal acabase arrestado gracias a que fue escuchado por un Amazon Echo, habría una gran polémica sobre cómo estos dispositivos afectan a nuestra privacidad.

Amazon se defiende: estos empleados no pueden identificarnos

Amazon ha respondido a esta investigación, confirmando que hay empleados que escuchan lo que decimos a Alexa, pero que es sólo una “pequeña muestra de grabaciones”, y sólo se usa para mejorar la experiencia del consumidor. Sobre los equipos de empleados, Amazon afirma que tiene implementadas medidas para evitar el abuso del sistema; los empleados no pueden obtener la identidad o la cuenta de la persona que aparece en una grabación.

Además, un aspecto importante de esta polémica es que los dispositivos con Alexa no escuchan de manera activa; es decir, que no activan su micrófono por si solos. Únicamente si decimos la palabra de activación (“Alexa” en este caso), el dispositivo registra lo que decimos. Sin embargo, no es menos cierto que a todo el mundo le ha ocurrido que el asistente personal se ha activado por error; es precisamente lo que este tipo de desarrollos quiere también evitar.

Sin embargo, que Amazon use a empleados humanos para escuchar grabaciones será una sorpresa para mucha gente. Toda la publicidad y el material de marketing de dispositivos como el Echo no hace mención alguna a ello, centrándose en cómo Alexa es “inteligente” y “usa el poder de la nube”.