La cruzada de China para identificar la IA: los usuarios tendrán que revelar su identidad para usar las apps

China es uno de los países que más esfuerzo está dedicando al desarrollo de la inteligencia artificial. Este mismo verano ha abierto el primer hospital formado por médicos y enfermeras generados por IA. En España también se apuesta por esta tecnología capaz de acelerar el diagnóstico de pacientes. Sin embargo, al país asiático no le tiembla la mano a la hora de regular esta tecnología y a los gigantes tecnológicos con tal de mantener el control del internet que se consume en su territorio.

La Administración del Ciberespacio de China ha anunciado un plan que requerirá que las plataformas y los proveedores de servicios en línea etiqueten todo el material generado por IA con un logotipo visible y con metadatos integrados en los archivos relevantes. La medida afectará tanto a contenidos en texto, vídeos, imágenes o audio. 

Desde OpenAI, responsables de ChatGPT y Sora, hasta Meta, las principales marcas desarrolladoras de IA se están sumando al uso de la etiqueta Content Credentials para así identificar la procedencia del contenido y luchar contra la desinformación y deepfakes. Esta tecnología se está usando de forma negativa para difundir desinformación o videos sexuales falsos, pero también como protección para periodistas perseguidos por el régimen de Venezuela, por ejemplo. 

Inteligencia Artificial EP

En consonancia con estas iniciativas, China ha presentado un borrador, que muy posiblemente llegará a ser oficial como indica The Register. En el borrador detalla las pautas de identificación para contenidos de IA. Como ya propuso Adobe hace un año, la información sobre la IA que ha creado ese contenido quedará incrustada en los metadatos, una medida más segura que la marca de agua, pues es más complicado eliminarlo con Photoshop u otros programas. China mantiene una férrea vigilancia de internet y sus usuarios a nivel nacional, principalmente para controlar las críticas al Partido Comunista. 

En cuanto al contenido de vídeo, será necesario indicar cómo se ha creado al principio, final y en momentos puntuales. Los internautas que recurran a estas herramientas para crear contenido también estarán obligados a etiquetarlo como tal. Para mantener ese control del uso que hacen los usuarios de internet de estas plataformas generadoras, deberán identificarse y quedar registrada su actividad en la IA.

Por ejemplo, para aquellos audios narrados por una IA, Beijing quiere que un mensaje de voz advierta de este origen artificial al principio y al final del audio, incluso en medio si es necesario. También será responsabilidad del software que reproduzca el archivo, advertir al oyente. Por ejemplo, para canciones o pódcast generados por IA que acaban difundiéndose por plataformas de streaming.

Las medidas no se limitan a informar del origen artificial del contenido, hace un año China también informó de su intención de controlar esta actividad durante todo el proceso, censurando previamente todo el proceso, es decir, prohibir su uso como parámetros de entrenamiento. El objetivo, como indicaron, es que esta tecnología dañe la reputación de la nación y destruya la estabilidad social y la unidad nacional.