9 ejemplos de RAG basados en casos de uso y arquitecturas reales

RAG se utiliza ampliamente tanto en contextos de consumo como empresariales. Ejemplos reales y cotidianos de RAG incluyen la búsqueda web, la atención al cliente y las compras habilitadas por IA. El acceso al conocimiento interno y la asistencia para la programación se encuentran entre los ejemplos comerciales más destacados.

La arquitectura RAG también puede variar según los casos de uso. Dos de las implementaciones más comunes son el RAG híbrido, que combina la coincidencia de palabras clave tradicional con la búsqueda vectorial o de gráficos de conocimiento, y el RAG agéntico, en el cual un LLM dirige el proceso de recuperación.

¿Qué es la generación aumentada por recuperación (RAG)?

RAG, o generación aumentada por recuperación, permite que las aplicaciones de IA accedan a información almacenada en sistemas externos para complementar las respuestas generadas por los LLM.

Es una tecnología potente porque aborda tres problemas principales de la IA generativa: las alucinaciones, la información desactualizada y la falta de acceso a datos no incluidos en el contexto de entrada.

Así es como se ve un proceso RAG básico:

1. El usuario introduce un mensaje en lenguaje natural.
2. La aplicación de IA determina si se requiere fundamentación, a veces con la intervención de un LLM.
3. Se envía una solicitud a una fuente de información externa, como una base de datos.
4. La información recuperada se añade a la entrada de contexto del LLM.
5. El LLM genera una respuesta basada en el mensaje ampliado.

Aunque pueden variar en su implementación específica, estos pasos representan un flujo de trabajo RAG típico. Las diferencias entre los diversos tipos de arquitectura tienden a centrarse en cómo la aplicación cliente gestiona las solicitudes y en la naturaleza de la información que se recupera.

Una visión general de la arquitectura RAG

El término "generación aumentada por recuperación" apareció por primera vez en un artículo de 2020 titulado Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicado por investigadores de Meta AI (entonces Facebook AI Research) junto con colaboradores del University College London y la Universidad de Nueva York.

Los primeros enfoques de recuperación y posterior generación, denominados informalmente “RAG ingenuo", se han desarrollado desde entonces hasta convertirse en una variedad de diferentes tipos de arquitectura, muchos de los cuales se solapan.

RAG ingenuo

El RAG ingenuo utiliza una canalización simple de recuperación y generación, que sigue siendo adecuada para muchas solicitudes básicas. El ejemplo más común de RAG ingenuo es la conversión de una consulta en una lista ordenada de números llamada incrustación vectorial, o simplemente vector. A continuación, la incrustación de la consulta se compara con otros vectores que representan fragmentos, es decir, porciones de contenido en una base de datos o índice (llamado índice semántico).

RAG avanzado

El RAG avanzado optimiza las etapas anteriores y posteriores a la recuperación. Las técnicas incluyen la expansión de consultas, el filtrado de metadatos y la compresión de contexto. Estas medidas mejoran esencialmente la relevancia de la información recuperada y la forma en que se modifica antes de añadirla al contexto de entrada de un LLM.

RAG agéntico

El RAG agéntico es la ejecución de canalizaciones RAG por parte de un agente basado en LLM. El agente “decide” qué herramientas son las mejores para un mensaje determinado y dirige la recuperación, a veces en un bucle, para generar una respuesta relevante.

RAG de grafos

El RAG de grafos recupera información de un grafo de conocimiento, el cual representa entidades (como objetos, conceptos y eventos) y las relaciones entre ellas. Esto resulta útil cuando la respuesta a un mensaje requiere que el LLM combine información sobre distintas entidades.

RAG multimodal

El RAG multimodal amplía la recuperación a contenidos como imágenes y audio tanto durante la consulta como en la recuperación. Estas canalizaciones RAG utilizan codificadores especiales para convertir texto, imágenes o audio en incrustaciones.

RAG híbrido

El RAG híbrido combina la búsqueda por palabras clave, o recuperación léxica, con la recuperación vectorial o grafos de conocimiento, y fusiona los resultados. Esto es útil porque la coincidencia de palabras clave puede ser altamente precisa (más que otros métodos) en determinados contextos.

RAG correctivo

El RAG correctivo evalúa la información o los datos devueltos para determinar su relevancia respecto a la consulta. Puede refinar o complementar los pasajes recuperados, o bien sustituirlos por completo mediante la ejecución de otra solicitud.

Ejemplos de RAG por caso de uso y aplicación industrial

Existen múltiples ejemplos de RAG tanto en el ámbito de consumo como en el empresarial. Esto se debe en gran parte a que las canalizaciones RAG se han integrado en la mayoría de las herramientas convencionales. Además, muchos proveedores ofrecen integraciones listas para usar, como para los chatbots de servicio al cliente, lo que ha facilitado su adopción.

1. Búsqueda web

La búsqueda web es uno de los ejemplos más omnipresentes de RAG. Todos los días, millones de personas utilizan herramientas de IA para generar respuestas basadas en información recuperada de la web.

Cómo funciona: La aplicación de IA busca en un índice web, como el índice de Google Search, utilizando recuperación basada en palabras clave y semántica. El contenido relevante de la página se incluye junto con la pregunta del usuario en la entrada del LLM. A continuación, el LLM genera una respuesta, normalmente con citas de las fuentes.

Ejemplo del mundo real: Si un usuario escribe una consulta sencilla en la interfaz de chat de Perplexity, como "¿Qué tiempo hace en Chicago?", el LLM realizará una búsqueda web para encontrar información actualizada. Perplexity utiliza un índice web propio junto con las API de búsqueda de socios.

Ampliar

2. Atención al cliente

Los chatbots integrados en aplicaciones y sitios web se han convertido en un caso de uso empresarial importante de RAG. Estos sistemas suelen combinarse con rutas de enrutamiento tradicionales, lo que reduce la necesidad de intervención por parte de los representantes de atención al cliente.

Cómo funciona: Cuando un cliente hace una pregunta, la aplicación busca en la base de conocimiento de la empresa, a menudo utilizando una canalización híbrida. Los pasajes recuperados se suministran al LLM, el cual genera una respuesta. Por lo general, también intervienen procesos correctivos y de transferencia para validar la respuesta y, cuando sea necesario, derivarla a un representante.

Ejemplo del mundo real: Varias plataformas de servicio al cliente, incluidas Zendesk (en la imagen inferior) e Intercom, ofrecen chatbots de atención al cliente listos para usar que se integran con la documentación existente y las bases de asistencia al cliente.

Ampliar

3. Asistentes personales

Los asistentes personales utilizan RAG agéntico para acceder a los correos electrónicos, archivos y calendario del usuario. Estos asistentes suelen ser capaces de ejecutar múltiples canalizaciones RAG.

Cómo funciona: Dado que los asistentes personales suelen requerir acceso a múltiples fuentes de información, utilizan una combinación de API, búsqueda por palabras clave, búsqueda vectorial y grafos de conocimiento. La aplicación envía diferentes descripciones de herramientas al LLM, el cual selecciona las más adecuadas.

Ejemplo del mundo real: Google Gemini sirve como un buen ejemplo de una aplicación que puede actuar como un asistente de IA de propósito general y personal (como ocurre con la mayoría de los asistentes hoy en día). Se integra con un ecosistema de herramientas como Gmail, Docs, Photos y Calendar.

Ampliar

4. Gestión del conocimiento empresarial

La gestión del conocimiento empresarial permite a los empleados hacer preguntas sobre un amplio conjunto de información de la empresa, incluidas políticas, informes, documentos de proyectos, textos legales e incluso debates internos.

Cómo funciona: La aplicación recupera contenido relevante utilizando un índice vectorial que se actualiza a medida que cambian los documentos de origen. El índice contiene incrustaciones que representan fragmentos de documentos, con enlaces a su texto y metadatos asociados.

Ejemplo del mundo real: Microsoft 365 Copilot accede a la información de la organización a través de Microsoft Graph, que expone varias API para fuentes de datos, y utiliza índices léxicos y semánticos para recuperar el contenido relevante.

Ampliar

5. Asistentes de programación

Los asistentes de programación aplican RAG a una base de código. Aunque el proceso RAG subyacente es el mismo (por lo general, RAG agéntico), la diferencia radica en que tratan específicamente con el contexto de código.

Cómo funciona: Los asistentes de programación indexan los archivos locales del proyecto y realizan pases de búsqueda múltiple para encontrar fragmentos de código relevantes cuando se les solicita. Estos asistentes también suelen contar con conectores dedicados para ampliar el acceso, por ejemplo, a bases de conocimiento corporativas.

Ejemplo del mundo real: GitHub Copilot es un ejemplo conocido de asistente de programación que se integra directamente con proyectos de desarrollo. También puede hacer referencia a repositorios públicos de GitHub para aumentar la precisión de las respuestas.

Ampliar

6. Solución de problemas técnicos

La solución de problemas técnicos integra una canalización RAG de gestión del conocimiento con un bucle de diagnóstico. Un agente puede evaluar los resultados para refinar aún más las recomendaciones de resolución de problemas según sea necesario.

Cómo funciona: Una aplicación recopila los síntomas de un problema técnico aportados por el usuario o recibe alertas de supervisión automatizadas. Activa una búsqueda de mensajes de error, registros técnicos y métricas de rendimiento para contrastar los síntomas. A continuación, recupera la información relevante de una base de conocimiento interna para transmitirla al LLM. El bucle de diagnóstico se produce cuando los resultados de un intento de solución se devuelven al LLM, ya sea por parte del usuario o de una herramienta de diagnóstico.

Ejemplo del mundo real: La plataforma de observabilidad Datadog (en la imagen inferior) recopila datos de todas las capas de un sistema y señala cualquier problema en cuanto surge. Estos datos se envían a un agente de IA especializado llamado Bits AI para solucionar posibles errores.

Ampliar

7. Comercio agéntico

El comercio agéntico es un caso de uso más amplio que normalmente implica RAG. Un agente de compras recupera detalles como especificaciones de productos, reseñas, precios y disponibilidad para comparar opciones y explicar recomendaciones. A continuación, puede realizar la compra automáticamente sin que el usuario abandone la interfaz.

Cómo funciona: El comercio agéntico es un auténtico RAG agéntico, ya que las consultas particulares suelen requerir diferentes formas de recuperación, las cuales son dirigidas por el modelo. Un agente puede recuperar datos de productos exclusivamente de texto a través de la API de un minorista, o bien puede utilizar RAG multimodal para relacionar productos en un índice semántico basándose en una fotografía del usuario.

Ejemplo del mundo real: Un agente de propósito general como Perplexity puede recuperar múltiples imágenes y especificaciones detalladas de productos basándose en un mensaje. La función de pago Instant Buy permite al usuario completar la compra tras elegir un producto.

Ampliar

8. Dominios de conocimiento especializados

Las herramientas de IA que recuperan conocimientos de dominios especializados deben lidiar con formatos de contenido complejos. Además, minimizar las alucinaciones y las brechas de información suele ser una prioridad.

Cómo funciona: La diferencia clave entre las arquitecturas RAG de propósito general y las especializadas está relacionada con el material de origen y la configuración de recuperación. Por lo general, solo se consultará un índice de alta autoridad y la solicitud se configurará para incluir terminología específica con el fin de acotar las búsquedas.

Ejemplo del mundo real: La herramienta de investigación académica Scite accede a un gran índice de artículos académicos y datos de citas creado mediante acuerdos con editores y fuentes de acceso abierto. También aplica comprobaciones posteriores a la recuperación, como la verificación de fuentes, antes de generar una respuesta completa.

Ampliar

9. Análisis de datos

El RAG para el análisis de datos se ha convertido en un caso de uso empresarial especialmente potente porque permite que una amplia gama de profesionales, en especial aquellos sin formación en ciencia de datos, consulten conjuntos de datos utilizando lenguaje natural. Esto facilita la generación de informes y la formulación de preguntas muy específicas.

Cómo funciona: Para una pregunta como "¿Por qué cayeron las ventas el trimestre pasado?", la aplicación podría consultar los registros de ventas y recuperar notas sobre escasez de existencias o cambios de precios. El LLM selecciona el cálculo adecuado (que normalmente se delega a una herramienta de cálculo) para los datos recuperados antes de generar un análisis.

Ejemplo del mundo real: Google Analytics ofrece un chatbot de IA "Ask Advisor" que puede acceder a los datos de análisis web y responder a preguntas muy específicas y matizadas de los usuarios. Es uno de los mejores ejemplos reales de RAG de sistema cerrado de nivel empresarial.

Ampliar

¿Qué le espera a la evolución de RAG?

RAG supuso un avance significativo cuando se introdujo por primera vez. Ayudó a abordar muchos de los problemas inherentes a los LLM independientes.

Sin embargo, está lejos de ser una tecnología estática. La investigación actual se centra en una recuperación multimodal más profunda y en un procesamiento más riguroso del contexto recuperado en aras de la precisión y la corrección. Además, es probable que veamos una mayor integración de RAG en agentes de múltiples herramientas.

Incluso con ventanas de contexto extremadamente grandes, existen casos de uso importantes para RAG tanto en contextos personales como profesionales, y quedan muchas innovaciones por llegar.