9 ejemplos de RAG basados en casos de uso reales y arquitecturas

RAG se utiliza ampliamente tanto en contextos de consumo como empresariales. Ejemplos reales y cotidianos de RAG incluyen la búsqueda web, la atención al cliente y las compras potenciadas por IA. El acceso al conocimiento interno y la asistencia en la programación se encuentran entre los ejemplos empresariales más destacados.

La arquitectura RAG también puede variar según el caso de uso. Dos de las implementaciones más comunes son RAG híbrido, que combina la coincidencia de palabras clave tradicionales con la búsqueda por vectores o gráficos de conocimiento, y RAG agéntico, en el cual un LLM dirige el proceso de recuperación.

¿Qué es la generación aumentada por recuperación (RAG)?

RAG, o generación aumentada por recuperación, permite que las aplicaciones de IA accedan a información almacenada en sistemas externos para complementar las respuestas generadas por LLM.

Es una tecnología potente porque aborda tres problemas principales de la IA generativa: alucinaciones, información desactualizada y la falta de acceso a datos que no están incluidos en el contexto de entrada.

Así es como se ve un proceso RAG básico:

1. El usuario introduce un aviso en lenguaje natural.
2. La aplicación de IA determina si se requiere fundamentación, a veces con la participación de un LLM.
3. Se envía una solicitud a una fuente de información externa, como una base de datos.
4. La información recuperada se añade al contexto de entrada del LLM.
5. El LLM genera una respuesta basada en el aviso aumentado.

Aunque pueden variar en su implementación específica, estos pasos representan un flujo de trabajo RAG típico. Las diferencias entre los diversos tipos de arquitectura tienden a centrarse en cómo la aplicación cliente maneja las solicitudes y en la naturaleza de la información que se está recuperando.

Una descripción general de la arquitectura RAG

El término "generación aumentada por recuperación" apareció por primera vez en un documento de 2020 titulado Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicado por investigadores de Meta AI (entonces Facebook AI Research) junto con colaboradores del University College London y la Universidad de Nueva York.

Los primeros enfoques de recuperación y luego generación, denominados informalmente "RAG ingenuo", se han desarrollado desde entonces en una variedad de diferentes tipos de arquitectura, muchos de los cuales se superponen.

RAG ingenuo

El RAG ingenuo utiliza un pipeline simple de recuperación y generación, el cual sigue siendo apropiado para muchas solicitudes básicas. El ejemplo más común de RAG ingenuo es la conversión de una consulta en una lista ordenada de números llamada incrustación vectorial, o simplemente vector. A continuación, la incrustación de la consulta se empareja con otros vectores que representan fragmentos, es decir, porciones de contenido en una base de datos o índice (conocido como índice semántico).

RAG avanzado

El RAG avanzado optimiza las etapas anteriores y posteriores a la recuperación. Las técnicas incluyen la expansión de consultas, el filtrado de metadatos y la compresión de contexto. Estas mejoran esencialmente la relevancia de la información que se recupera y cómo se modifica antes de ser agregada al contexto de entrada de un LLM.

RAG agéntico

El RAG agéntico es la ejecución de pipelines RAG por parte de un agente basado en LLM. El agente “decide” qué herramientas son las mejores para un aviso determinado y dirige la recuperación, a veces en un ciclo, para generar una respuesta relevante.

RAG de grafos

El RAG de grafos recupera información de un grafo de conocimiento, el cual representa entidades (como objetos, conceptos y eventos) y las relaciones entre ellas. Esto resulta útil cuando la respuesta a un aviso requiere que el LLM combine información sobre entidades distintas.

RAG multimodal

El RAG multimodal extiende la recuperación a contenido como imágenes y audio tanto durante la consulta como durante la recuperación. Estos pipelines RAG utilizan codificadores especiales para convertir texto, imágenes o audio en incrustaciones.

RAG híbrido

El RAG híbrido combina la búsqueda por palabras clave, o recuperación léxica, con la recuperación vectorial o grafos de conocimiento y fusiona los resultados. Esto es útil porque la coincidencia de palabras clave puede ser altamente precisa (más que otros métodos) en ciertos contextos.

RAG correctivo

El RAG correctivo evalúa la información o los datos devueltos para determinar su relevancia con respecto a la consulta. Puede refinar o complementar los fragmentos recuperados o reemplazarlos por completo ejecutando otra solicitud.

Ejemplos de RAG por caso de uso y aplicación en la industria

Existen múltiples ejemplos de RAG tanto en el ámbito del consumidor como en el empresarial. Esto se debe en gran parte a que los pipelines RAG se han integrado en la mayoría de las herramientas principales. Además, muchos proveedores ofrecen integraciones listas para usar, como para los chatbots de servicio al cliente, lo que ha facilitado su adopción.

1. Búsqueda web

La búsqueda web es uno de los ejemplos más omnipresentes de RAG. Todos los días, millones de personas utilizan herramientas de IA para generar respuestas fundamentadas en información recuperada de la web.

Cómo funciona: La aplicación de IA busca en un índice web, como el índice de Google Search, utilizando recuperación basada en palabras clave y semántica. El contenido relevante de la página se incluye junto con la pregunta del usuario en la entrada del LLM. A continuación, el LLM genera una respuesta, por lo general con citas de las fuentes.

Ejemplo del mundo real: Si un usuario escribe una consulta simple en la interfaz de chat de Perplexity, como "¿Qué tiempo hace en Chicago?", el LLM llevará a cabo una búsqueda web para encontrar información actualizada. Perplexity utiliza un índice web propio junto con API de búsqueda de socios.

Ampliar

2. Atención al cliente

Los chatbots integrados en aplicaciones y sitios web se han convertido en un caso de uso empresarial importante de RAG. Por lo general, estos sistemas se combinan con rutas de enrutamiento tradicionales, lo que reduce la necesidad de la intervención de representantes de atención al cliente.

Cómo funciona: Cuando un cliente hace una pregunta, la aplicación busca en la base de conocimiento de la empresa, a menudo utilizando un pipeline híbrido. Los fragmentos recuperados se proporcionan al LLM, el cual genera una respuesta. Asimismo, por lo general hay procesos correctivos y de transferencia involucrados para validar la respuesta y, cuando sea necesario, derivarla a un representante.

Ejemplo del mundo real: Varias plataformas de servicio al cliente, incluidas Zendesk (que se muestra a continuación) e Intercom, ofrecen chatbots de atención al cliente listos para usar que se integran con la documentación existente y las bases de soporte al cliente.

Ampliar

3. Asistentes personales

Los asistentes personales utilizan RAG agéntico para acceder a los correos electrónicos, archivos y calendario de un usuario. Por lo general, estos asistentes pueden ejecutar múltiples pipelines RAG.

Cómo funciona: Debido a que los asistentes personales a menudo requieren acceso a múltiples fuentes de información, utilizan una combinación de API, búsqueda por palabras clave, búsqueda vectorial y grafos de conocimiento. La aplicación envía diferentes descripciones de herramientas al LLM, el cual selecciona las más apropiadas.

Ejemplo del mundo real: Google Gemini sirve como un buen ejemplo de una aplicación que puede actuar como un asistente de IA de propósito general y personal (como ocurre con la mayoría de los asistentes hoy en día). Se integra con un ecosistema de herramientas, como Gmail, Docs, Photos y Calendar.

Ampliar

4. Gestión de conocimiento Enterprise

La gestión de conocimiento Enterprise permite a los empleados hacer preguntas en un amplio conjunto de información de la empresa, incluidas políticas, informes, documentos de proyectos, textos legales e incluso debates internos.

Cómo funciona: La aplicación recupera contenido relevante utilizando un índice vectorial que se actualiza a medida que cambian los documentos de origen. El índice contiene incrustaciones que representan fragmentos de documentos, con enlaces a su texto y metadatos asociados.

Ejemplo del mundo real: Microsoft 365 Copilot accede a la información de la organización a través de Microsoft Graph, el cual expone varias API para fuentes de datos, y utiliza índices léxicos y semánticos para recuperar contenido relevante.

Ampliar

5. Asistentes de programación

Los asistentes de programación aplican RAG a una base de código. Si bien el proceso RAG subyacente es el mismo (por lo general, RAG agéntico), la diferencia radica en que tratan específicamente con el contexto del código.

Cómo funciona: Los asistentes de programación indexan archivos de proyectos locales y realizan pases de búsqueda múltiple para encontrar fragmentos de código relevantes cuando se les solicita. Estos asistentes también suelen contar con conectores dedicados para ampliar el acceso, como a bases de conocimiento corporativas.

Ejemplo del mundo real: GitHub Copilot es un ejemplo conocido de un asistente de programación que se integra directamente con proyectos de desarrollo. También puede hacer referencia a repositorios públicos de GitHub para aumentar la precisión de las respuestas.

Ampliar

6. Solución de problemas técnicos

La solución de problemas técnicos integra un pipeline RAG de gestión de conocimiento con un ciclo de diagnóstico. Un agente puede evaluar los resultados para refinar aún más las recomendaciones de solución de problemas según sea necesario.

Cómo funciona: Una aplicación recopila los síntomas de un problema técnico del usuario o recibe alertas de supervisión automatizadas. Activa una búsqueda de mensajes de error, registros técnicos y métricas de rendimiento para contrastar los síntomas. A continuación, recupera información relevante de una base de conocimiento interna para transmitirla al LLM. El ciclo de diagnóstico se produce cuando los resultados de un intento de solución se retroalimentan en el LLM, ya sea por parte del usuario o de una herramienta de diagnóstico.

Ejemplo del mundo real: La plataforma de observabilidad Datadog (que se muestra a continuación) recopila datos de todas las capas de un sistema y señala cualquier problema a medida que surge. Estos se alimentan luego a un agente de IA especializado llamado Bits AI para solucionar posibles problemas.

Ampliar

7. Comercio agéntico

El comercio agéntico es un caso de uso más amplio que por lo general involucra RAG. Un agente de compras recupera detalles como especificaciones de productos, reseñas, precios y disponibilidad para comparar opciones y explicar recomendaciones. Luego, puede realizar la compra automáticamente sin que el usuario abandone la interfaz.

Cómo funciona: El comercio agéntico es un verdadero RAG agéntico porque las consultas particulares a menudo requieren diferentes formas de recuperación, las cuales dirige el modelo. Un agente puede recuperar datos de productos exclusivamente de texto a través de la API de un minorista, o puede utilizar RAG multimodal para hacer coincidir productos en un índice semántico basándose en la fotografía de un usuario.

Ejemplo del mundo real: Un agente de propósito general como Perplexity puede recuperar múltiples imágenes y especificaciones detalladas de productos basándose en un aviso. La función de pago Instant Buy permite al usuario completar la compra después de elegir un producto.

Ampliar

8. Dominios de conocimiento especializados

Las herramientas de IA que recuperan conocimiento de dominios especializados deben lidiar con formatos de contenido complejos. Además, minimizar las alucinaciones y las brechas de información suele ser una prioridad.

Cómo funciona: La diferencia clave entre las arquitecturas RAG de propósito general y las especializadas se relaciona con el material de origen y la configuración de recuperación. Por lo general, solo se consultará un índice altamente autorizado y la solicitud se configurará para incluir terminología específica con el fin de acotar las búsquedas.

Ejemplo del mundo real: La herramienta de investigación académica Scite accede a un gran índice de artículos académicos y datos de citas que se ha creado mediante acuerdos con editores y fuentes de acceso abierto. También aplica controles posteriores a la recuperación, como la verificación de fuentes, antes de generar una respuesta completa.

Ampliar

9. Análisis de datos

El RAG para análisis de datos se ha convertido en un caso de uso empresarial particularmente potente porque permite a una amplia gama de profesionales, especialmente a aquellos sin formación en ciencia de datos, consultar conjuntos de datos utilizando lenguaje natural. Esto facilita la generación de informes y la realización de preguntas altamente específicas.

Cómo funciona: Para una pregunta como "¿Por qué cayeron las ventas el trimestre pasado?", la aplicación podría consultar los registros de ventas y recuperar notas sobre escasez de existencias o cambios de precios. El LLM selecciona el cálculo adecuado (el cual generalmente se delega a una herramienta de cálculo) para los datos recuperados antes de generar un análisis.

Ejemplo del mundo real: Google Analytics ofrece un chatbot de IA “Ask Advisor” que puede acceder a los datos de análisis web y responder preguntas altamente específicas y matizadas de los usuarios. Es uno de los mejores ejemplos del mundo real de RAG de sistemas cerrados de nivel empresarial.

Ampliar

¿Qué sigue en la evolución de RAG?

RAG fue un desarrollo significativo cuando se introdujo por primera vez. Ayudó a abordar muchos de los problemas inherentes a los LLM independientes.

Sin embargo, está lejos de ser una tecnología estática. La investigación actual se centra en una recuperación multimodal más profunda y en un procesamiento más riguroso del contexto recuperado para garantizar la precisión y la corrección. Además, es probable que veamos una mayor integración de RAG en agentes de múltiples herramientas.

Incluso con ventanas de contexto extremadamente grandes, existen casos de uso importantes para RAG tanto en contextos personales como profesionales y muchas innovaciones por venir.