Cuando ChatGPT ganó popularidad, inmediatamente el primer miedo que tuvo mucha gente es que iba a ser usado con fines maliciosos. Si una IA ya es capaz de escribir textos de una manera indistinguible a la de un humano, es inevitable que haya quienes la usen para hacerse pasar por uno. Llegará un punto en el que no nos podamos creer nada de lo que se publica en Internet.

[Si creías que ChatGPT era bueno, prepárate para GPT-5: sería indistinguible de un humano]

Usuarios falsos creados con Inteligencia Artificial

Al menos en parte, este es un miedo infundado. Para empezar, nunca deberías creerte cualquier cosa que se publica en Internet, y ese ya era un buen consejo antes de la llegada de los nuevos modelos de lenguaje como GPT-4. Los mentirosos han existido desde que existe la humanidad, así que no tiene sentido tener miedo ahora de que alguien pueda usar IA para publicar mentiras.

Lo que sí es cierto es que ChatGPT y otras IA generativas semejantes (como las capaces de crear imágenes) han facilitado mucho el proceso de creación de mentiras y contenido falso; si quieres crear una imagen del papa Francisco con una chaqueta de moda la puedes tener en apenas unos segundos, sin necesidad de aprender Photoshop.

Esa es la razón por la que estamos viendo un aumento en la cantidad de contenido falso publicado en Internet, especialmente en redes sociales y cualquier sitio que permita dejar comentarios. Como explican en Motherboard, el problema ya ha alcanzado a Amazon, que se está llenando de reseñas falsas de productos, todas positivas, por supuesto.

Estas reseñas falsas son más difíciles de distinguir de otras creadas a base de copiar y pegar texto. Irónicamente, las frases que una IA es capaz de escribir son mucho más naturales y convincentes que las de un humano. Sin embargo, no son perfectas.

La clave para distinguir las reseñas creadas con IA de las reales está en fijarse en pequeños detalles, y no tan pequeños, que delatan a la IA. Por ejemplo, muchas de estas reseñas falsas incluyen “confesiones” como por ejemplo “como un modelo de lenguaje de IA, no puedo dar una opinión sobre una cuestión subjetiva”, o mensajes de error como los que aparecen en ChatGPT cuando escribe varias respuestas consecutivas. Además, Amazon afirma que ya tiene equipos dedicados a investigar este tipo de reseñas falsas.

Pero el problema no es sólo de Amazon. Twitter también se está llenando de bots (pese a la promesa de Elon Musk de eliminarlos completamente); y todos tienen en común que en algún momento publican ese tipo de errores.

Ante esta publicación, Amazon ha recordado su política al respecto de las reseñas falsas:

La política de Amazon con respecto a las reseñas falsas

 

“Tenemos tolerancia cero con las reseñas falsas y queremos que los clientes de Amazon compren con confianza sabiendo que las reseñas que ven son auténticas y fiables. Tenemos políticas claras que prohíben el abuso de reseñas, incluido el ofrecimiento de incentivos como tarjetas de regalo para escribir reseñas positivas. Suspendemos, prohibimos y emprendemos acciones legales contra aquellos que violan estas políticas y eliminamos las reseñas no auténticas. Más del 99% de los productos vistos por los clientes en nuestras tiendas contienen solo reseñas auténticas. Alentamos a los clientes preocupados por la autenticidad de las reseñas publicadas sobre un producto a que utilicen el botón ‘Denunciar’, para que podamos investigar y tomar las medidas adecuadas. Cuando un cliente denuncia un abuso, lo investigamos de inmediato y tomamos las medidas necesarias”.

 

Cómo protege Amazon a los consumidores de las reseñas falsas

 

“En Amazon estamos constantemente evaluando las tecnologías emergentes e innovando sin descanso para permitir solo reseñas auténticas en nuestra tienda. Contamos con un equipo de expertos y usamos herramientas sofisticadas que utilizan modelos de aprendizaje automático para analizar las reseñas en busca de patrones fraudulentos y actividades sospechosas antes de su publicación. Además, también adoptamos acciones legales contra aquellos intermediarios que promueven las reseñas falsas. Nuestros investigadores, abogados y analistas que hacen seguimiento de estos actores reúnen las evidencias necesarias sobre cómo operan y toman las medidas pertinentes contra ellos”.

Te puede interesar