Google responde a las críticas sobre su buscador con IA: "No gestiona bien las respuestas a consultas sobre sátira"

El buscador de Google potenciado por la IA generativa se activó en Estados Unidos para que respondiera erróneamente a algunas consultas que se volvieron virales. Google hace horas ha explicado las razones por las que AI Overviews ha respondido a ciertas preguntas en Google Search. 

AI Overviews fue presentado en el I/O 2024 como una porción de texto potenciado mayoritariamente por la inteligencia artificial generativa para responder al usuario cuando hace una búsqueda. Una nueva experiencia para adaptarse al cambio de paradigma que ha creado ChatGPT al responder a consultas en una conversación natural con IA generativa; y que para muchos usuarios es más agradable que tener que buscarla en la primera o segunda página de resultados de Google Search.

De hecho, en la explicación dada, aclara cómo funciona AI Overviews para diferenciarse en algunos aspectos clave frente a los chatbots y los productos LLM o modelos de lenguaje mayores.

AI Overviews no genera simplemente una respuesta basada en los datos de entrenamiento, y aunque está potenciado por un modelo de lenguaje personalizado, el modelo se integra con los sistemas principales de posicionamiento web que están diseñados para gestionar tareas de 'búsqueda' tradicionales.

De aquí que AI Overviews no solamente genere un texto como respuesta a la consulta, sino que incluya enlaces relevantes para que el usuario pueda seguir investigando en el tema. AI Overviews no suele 'alucinar' (uno de los peores problemas a los que se enfrentan los chatbots de IA generativa) o se inventa cosas como podrían hacer otros productos LLM.

Que AI Overviews falle en su respuesta se debe a tres problemas comunes:

• Malinterpreta la consulta.
• Al malinterpretar un matiz del idioma en la web.
• No puede acceder a información de valor sobre el tema.

Entre todas respuestas incorrectas dadas en la última semana por parte del buscador, hay un ejemplo que ha usado Google para mostrar lo que ha sucedido: "Cuántas rocas debería de comer". Google lo deja bien claro, no maneja bien el contenido satírico. 

Cómo va a mejorarlo

Si alguien hace una pregunta en el buscador, AI Overwiew se encarga de enlazar un artículo que en este caso era justo uno de The Onion, un medio satírico de gran popularidad en Estados Unidos. Otra de las respuestas relacionadas con este caso fue el uso de pegamento para fijar el queso a la pizza para mostrar el enlace a Reddit como fuente de primera mano.

Google ha anunciado también los próximos pasos que va a dar para limitar la inclusión de contenido de sátira y humor como parte de la mejora de los mecanismos de detección para consultas sin sentido. Estos son tres aspectos que también va a desarrollar:

• Se han actualizado los sistemas para limitar el uso de contenido generado por el usuario en respuestas que podrían ofrecer consejos inapropiados.
• Se añaden restricciones de activación frente a consultas donde AI Overviews no ofreció una respuesta útil.
• En los temas de noticias y salud, se incluyen nuevas medidas de seguridad. El objetivo será no mostrar resúmenes con IA de temas de noticias importantes donde los hechos sean reales. Sobre la salud se incluirán restricciones adicionales.

Finalmente, según 9to5Google, Google desde su publicación mantiene que la vasta mayoría de AI Overviews ofrecen información de alta calidad similar a las respuestas a consultas con los conocidos fragmentos enriquecidos del buscador desde hace años.