¿Puede la IA generativa acabar con la credibilidad de los medios?

Y como nos recuerdan diariamente en exitosos hilos de Twitter, el modelo de OpenAI no viene solo. Bard, la IA desarrollada por Google, presume hacer cosas que ChatGPT no puede hacer, como encontrar datos posteriores a 2021, funcionar con comandos de voz, resumir páginas web o explicar código. Y Amazon quiere plantar batalla con Bedrock, capaz de generar imágenes o texto con la misma o mayor calidad que la de sus rivales.

De una u otra forma, con la plataforma que resulte finalmente dominante, la inteligencia artificial generativa transformará seriamente la actividad de personas o colectivos que creían que su actividad nunca se vería transformada por la mecanización. No hablamos ya de contables, auditores o técnicos de nóminas, sino de profesiones como diseñadores gráficos, periodistas o guionistas de televisión. La IA generativa va a cambiar, y mucho, el sector de las comunicaciones.

Hay países que ya se están preparando para ello. Ofcom, que es algo así como la CNMC de Gran Bretaña, ya expresa su preocupación por una realidad que traerá muchas cosas buenas, pero que mal gestionada puede convertirse en un peligro para la sociedad occidental y nuestro modo de vida. No en vano, es en las sociedades euroatlánticas donde mayores recelos genera el uso de IA. Francia es el país más pesimista sobre sus efectos, seguido de Canadá, Holanda y Estados Unidos.

La IA generativa va a cambiar, y mucho, el sector de las comunicaciones

Por el contrario, China encabeza el ranking de países optimistas, seguido de Arabia Saudí, India y Perú. Pero detractores y entusiastas coinciden en una cosa: el fuerte impacto que tendrá en el futuro de nuestra economía y sociedad en general. Y en especial, en la industria de las comunicaciones.

Desde la seguridad de las telecomunicaciones hasta la transmisión de radio y televisión, y desde la seguridad online hasta la gestión del espectro, la IA generativa anticipa una disrupción en la prestación de servicios tradicionales, los modelos comerciales y el comportamiento del consumidor.

Muchos de estos cambios podrían ser beneficiosos. Los modelos generativos de IA se pueden utilizar en la producción de contenido televisivo, mejorando la capacidad de los productores para crear efectos visuales convincentes. Del mismo modo, en el campo de la seguridad online, los investigadores están examinando cómo la IA generativa podría usarse para crear nuevos conjuntos de datos, también conocidos como datos de entrenamiento sintéticos, para mejorar la precisión de las tecnologías de seguridad.

Además, la IA generativa puede marcar posibles actividades maliciosas mediante la identificación de anomalías en una red, protegiendo así la seguridad de los datos y los activos en línea. No hay transformación digital sin ciberseguridad.

Pero también existen riesgos, claro. Los clones de voz creados por herramientas generativas de IA podrían usarse para estafar a las personas por teléfono haciéndose pasar por sus seres queridos. O por su oficina de banco. Eso es algo que, en realidad existe ya desde hace tiempo, antes incluso de que ninguna plataforma de IA generativa se lanzase al mercado. Lo malo es que ahora estas prácticas son más fáciles de implementar.

No hay transformación digital sin ciberseguridad

Los estafadores también podrían usar modelos generativos de IA para crear contenido de phishing más efectivo. La IA generativa podría plantear diversos riesgos para los usuarios de Internet, por ejemplo, al permitir que las personas accedan más fácilmente a las instrucciones para autolesionarse o al proporcionar asesoramiento sobre el contrabando de sustancias ilegales.

Los modelos generativos de IA también podrían usarse –y de manera muy sencilla- para crear noticias y medios "falsos", que pueden propagarse rápidamente en línea, lo que plantea un enorme desafío para los periodistas. Estas herramientas podrían producir inadvertidamente contenido de noticias inexacto o servir contenido de noticias que esté sesgado hacia una u otra tendencia política, lo que podría socavar los esfuerzos para crear un ecosistema de noticias pluralista. Terreno abonado para las Fake News.

¿Cómo protegernos?

Ante esta perspectiva, y ante la dificultad de frenar la implantación de un modelo que ya cuenta con el beneplácito de gran parte de la población mundial, algunas agencias reguladoras van tomando cartas en el asunto. En el Reino Unido, Ofcom trabaja con empresas que están desarrollando e integrando herramientas generativas de IA para comprender cómo están evaluando los riesgos de seguridad de sus productos e implementando mitigaciones efectivas para proteger a los usuarios de posibles daños.

Paralelamente, ha publicado una serie de consejos a las emisoras del Reino Unido en un boletín reciente, clarificando cuestiones cómo el uso de medios sintéticos y la necesidad de distinguir entre imágenes reales y generadas por IA. Trabajando, en definitiva, para dar forma a las mejores prácticas emergentes para el uso ético de la IA en el periodismo.

Es un tema que reviste cierta urgencia. En un escenario geopolítico convulso, el mal uso de las herramientas de IA generativa puede dar alas a los propagadores de Fake News. O a los fanáticos de cualquier tendencia política, social o cultural que antepongan sus intereses a los del conjunto de la sociedad.

El consumidor, claro está, debe ser crítico con lo que recibe, pero un primer filtro ético tiene que venir desde el creador de contenidos. Cuando resulta tan fácil confundir a la gente cobra más valor que nunca el ejercicio de la verdad. Periodistas, y también influencers, pueden utilizar la IA generativa para hacer mejor su trabajo. Hacerlo más visual, de forma más rápida y con mayor acceso a información en menos tiempo.

Y esto supone un reto para toda la sociedad. Porque, en realidad, su trabajo es ahora mucho más importante que nunca. Alguien tiene que garantizarnos que todo lo que leemos o vemos es cierto. Eso es labor de los periodistas, y de los medios de comunicación. La nuestra, la de los expertos en inteligencia artificial, es poner el debate sobre la mesa. Y la de todos, afrontarlo cuanto antes.

*** Alicia Richart es directora general de Afiniti para España y Portugal.