9 exemplos de RAG baseados en casos de uso e arquitecturas reais

O RAG utilízase amplamente tanto en contextos de consumo coma empresariais. Exemplos reais e cotiáns de RAG inclúen a busca web, a atención ao cliente e as compras impulsadas por IA. O acceso ao 58%... O acceso ao coñecemento interno e a asistencia na programación están entre os exemplos empresariais máis destacados.

A arquitectura RAG tamén pode variar segundo os casos de uso. Dúas das implementacións máis comúns son o RAG híbrido, que combina a coincidencia tradicional de palabras clave coa busca vectorial ou de grafos de coñecemento, e o RAG baseado en axentes, no que un LLM dirixe o proceso de recuperación.

Que é a xeración aumentada por recuperación (RAG)?

O RAG, ou xeración aumentada por recuperación, permite que as aplicacións de IA accedan á información almacenada en sistemas externos para complementar as respostas xeradas polos LLM.

É unha tecnoloxía potente porque aborda tres problemas principais da IA xerativa: as alucinacións, a información desactualizada e a falta de acceso a datos non incluídos no contexto de entrada.

Así é como se ve un proceso RAG básico:

1. O usuario introduce un aviso en linguaxe natural.
2. A aplicación de IA determina se se require posta a terra, ás veces coa participación dun LLM.
3. Envíase unha solicitude a unha fonte de información externa, como unha base de datos.
4. A información recuperada engádese ao contexto de entrada do LLM.
5. O LLM xera unha resposta baseada no aviso aumentado.

Aínda que poden variar na súa implementación específica, estes pasos representan un fluxo de traballo RAG típico. As diferenzas entre os distintos tipos de arquitectura adoitan centrarse en como xestiona as solicitudes a aplicación cliente e na natureza da información que se recupera.

Unha visión xeral da arquitectura RAG

O termo "xeración aumentada por recuperación" apareceu por primeira vez nun artigo de 2020 chamado Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicado por investigadores de Meta AI (entón Facebook AI Research) xunto con colaboradores do University College London e da Universidade de Nova York.

Os primeiros enfoques de recuperar e despois xerar, denominados vagamente "RAG inxenuo", evolucionaron dende entón cara a unha variedade de tipos de arquitectura diferentes, moitos dos cales se superpoñen.

RAG inxenuo

O RAG inxenuo utiliza un pipeline sinxelo de recuperación e xeración, que aínda é axeitado para moitas solicitudes básicas. O exemplo máis común de RAG inxenuo é a conversión dunha consulta nunha lista ordenada de números chamada embedding vectorial, ou simplemente vector. O embedding da consulta combínase despois con outros vectores que representan fragmentos, porcións de contido nunha base de datos ou índice (chamado índice semántico).

RAG avanzado

O RAG avanzado optimiza as etapas anteriores e posteriores á recuperación. As técnicas inclúen a expansión de consultas, o filtrado de metadatos e a compresión de contexto. Estas melloran esencialmente a relevancia da información que se recupera e como se modifica antes de engadila ao contexto de entrada dun LLM.

RAG baseado en axentes

O RAG baseado en axente é a execución de pipelines RAG por parte dun axente baseado en LLM. O axente "decide" que ferramentas son as mellores para un aviso determinado e dirixe a recuperación, ás veces nun bucle, para xerar unha resposta relevante.

RAG de grafos

O RAG de grafos recupera información dun grafo de coñecemento, que representa entidades (como obxectos, conceptos e eventos) e as relacións entre elas. Isto é útil cando a resposta a un aviso require que o LLM combine información sobre entidades distintas.

RAG multimodal

O RAG multimodal amplía a recuperación a contidos como imaxes e audio tanto durante a consulta como durante a recuperación. Estes pipelines RAG utilizan codificadores especiais para converter texto, imaxes ou audio en embeddings.

RAG híbrido

O RAG híbrido combina a busca de palabras clave, ou recuperación léxica, coa recuperación vectorial ou grafos de coñecemento e fusiona os resultados. Isto é útil porque a coincidencia de palabras clave pode ser moi precisa (máis ca outros métodos) en certos contextos.

RAG correctivo

O RAG correctivo avalía a información ou os datos devoltos para comprobar a súa relevancia para a consulta. Pode refinar ou complementar os pasaxes recuperados ou substituílos por completo executando outra solicitude.

Exemplos de RAG por caso de uso e aplicación industrial

Hai múltiples exemplos de RAG tanto no ámbito de consumo coma no empresarial. Isto débese en gran parte a que os pipelines RAG se integraron na maioría das ferramentas principais. Ademais, moitos provedores ofrecen integracións listas para usar, como para chatbots de atención ao cliente, o que facilitou a adopción.

1. Busca web

A busca web é un dos exemplos máis omnipresentes de RAG. Todos os días, millóns de persoas utilizan ferramentas de IA para xerar respostas fundamentadas na información recuperada da web.

Como funciona: A aplicación de IA busca nun índice web, como o índice de Google Search, utilizando recuperación baseada en palabras clave e semántica. O contido relevante da páxina inclúese xunto coa pregunta do usuario na entrada do LLM. O LLM xera entón unha resposta, normalmente con citas de fontes.

Exemplo do mundo real: Se un usuario escribe unha consulta sinxela na interface de chat de Perplexity, como "Cal é o tempo en Chicago?", o LLM realizará unha busca web para atopar información actualizada. Perplexity utiliza un índice web propietario en combinación con API de busca de socios.

Ampliar

2. Atención ao cliente

Os chatbots integrados en aplicacións e sitios web emerxeron como un importante caso de uso empresarial de RAG. Estes sistemas adoitan combinarse con rutas de enrutamento tradicionais, reducindo a necesidade de intervención por parte dos representantes de atención ao cliente.

Como funciona: Cando un cliente fai unha pregunta, a aplicación busca na base de coñecemento da empresa, a miúdo utilizando un pipeline híbrido. Os pasaxes recuperados proporciónanse ao LLM, que xera unha resposta. Tamén adoita haber procesos correctivos e de transferencia implicados para validar a resposta e, de ser necesario, derivala a un representante.

Exemplo do mundo real: Varios plataformas de atención ao cliente, incluíndo Zendesk (imaxe inferior) e Intercom, ofrecen chatbots de atención ao cliente listos para usar que se integran coa documentación existente e as bases de atención ao cliente.

Ampliar

3. Asistentes persoais

Os asistentes persoais utilizan RAG baseado en axentes para acceder aos correos electrónicos, ficheiros e calendario dun usuario. Estes asistentes adoitan poder executar varios pipelines RAG.

Como funciona: Dado que os asistentes persoais adoitan requirir acceso a múltiples fontes de información, utilizan unha combinación de API, busca por palabras clave, busca vectorial e grafos de coñecemento. A aplicación envía diferentes descricións de ferramentas ao LLM, que despois selecciona as máis axeitadas.

Exemplo do mundo real: Google Gemini serve como un bo exemplo dunha aplicación que pode actuar como un asistente de IA xeral e persoal (como é o caso da maioría dos asistentes hoxe en día). Intégrase cun ecosistema de ferramentas, como Gmail, Docs, Photos e Calendar.

Ampliar

4. Xestión do coñecemento corporativo

A xestión do coñecemento de Enterprise permite aos empregados facer preguntas nun amplo conxunto de información da empresa, incluíndo políticas, informes, documentos de proxectos, textos legais e mesmo discusións internas.

Como funciona: A aplicación recupera contido relevante utilizando un índice vectorial que se actualiza a medida que cambian os documentos de orixe. O índice contén embeddings que representan fragmentos de documentos, con ligazóns ao seu texto e metadatos asociados.

Exemplo do mundo real: Microsoft 365 Copilot accede á información organizacional a través de Microsoft Graph, que expone varias API para fontes de datos, e utiliza índices léxicos e semánticos para recuperar contido relevante.

Ampliar

5. Asistentes de programación

Os asistentes de programación aplican RAG a unha base de código. Aínda que o proceso RAG subxacente é o mesmo (normalmente RAG baseado en axentes), a diferenza é que tratan especificamente co contexto do código.

Como funciona: Os asistentes de programación indexan ficheiros de proxectos locais e realizan múltiples pases de busca para atopar fragmentos de código relevantes cando se lles solicita. Estes asistentes tamén adoitan ter conectores dedicados para ampliar o acceso, como a bases de coñecemento corporativas.

Exemplo do mundo real: GitHub Copilot é un coñecido exemplo dun asistente de programación que se integra directamente con proxectos de desenvolvemento. Tamén pode facer referencia a repositorios públicos de GitHub para aumentar a precisión das respostas.

Ampliar

6. Resolución de problemas técnicos

A resolución de problemas técnicos integra un pipeline RAG de xestión do coñecemento cun bucle de diagnóstico. Un axente pode avaliar os resultados para refinación adicional das recomendacións de resolución de problemas segundo sexa necesario.

Como funciona: Unha aplicación recolle os síntomas dun problema técnico do usuario ou recibe alertas de monitorización automatizadas. Activa unha busca de mensaxes de erro, rexistros técnicos e métricas de rendemento para contrastar os síntomas. A continuación, recupera información relevante dunha base de coñecemento interna para pasala ao LLM. O bucle de diagnóstico prodúcese cando os resultados dunha corrección intentada se alimentan de novo no LLM, xa sexa dende o usuario ou dende unha ferramenta de diagnóstico.

Exemplo do mundo real: A plataforma de observabilidade Datadog (imaxe inferior) recolle datos de todas as capas dun sistema, sinalando calquera problema cando xorde. Estes datos envíanse despois a un axente de IA especializado chamado Bits AI para solucionar posibles arranxos.

Ampliar

7. Comercio baseado en axentes

O comercio baseado en axentes é un caso de uso máis amplo que normalmente implica RAG. Un axente de compras recupera detalles como especificacións de produtos, opinións, prezos e dispoñibilidade para comparar opcións e explicar recomendacións. A continuación, pode realizar a compra automaticamente sen que o usuario abandone a interface.

Como funciona: O comercio baseado en axentes é un verdadeiro RAG baseado en axentes porque as consultas particulares adoitan requirir diferentes formas de recuperación, que o modelo dirixe. Un axente pode recuperar datos de produtos só de texto a través da API dun minorista, ou pode utilizar RAG multimodal para facer coincidir produtos nun índice semántico en función dunha fotografía do usuario.

Exemplo do mundo real: Un axente de propósito xeral como Perplexity pode recuperar varias imaxes e especificacións detalladas de produtos en función dun aviso. A función de compra instantánea (Instant Buy) permítelle ao usuario completar a compra despois de escoller un produto.

Ampliar

8. Dominio de coñecemento especializado

As ferramentas de IA que recuperan coñecementos de dominios especializados teñen que lidar con formatos de contido complexos. Ademais, minimizar as alucinacións e as lagoas de información adoita ser unha prioridade.

Como funciona: A principal diferenza entre as arquitecturas RAG de propósito xeral e as especializadas está relacionada co material de orixe e a configuración de recuperación. Normalmente, só se consultará un índice altamente autoridade e a solicitude configurarase para incluír terminoloxía específica para estreitar as buscas.

Exemplo do mundo real: A ferramenta de investigación académica Scite accede a un gran índice de traballos académicos e datos de citación que se construíu mediante acordos con editores e fontes de acceso aberto. Tamén aplica comprobacións posteriores á recuperación, como a verificación de fontes, antes de xerar unha resposta completa.

Ampliar

9. Análise de datos

O RAG para a análise de datos converteuse nun caso de uso empresarial particularmente potente porque permite a unha ampla gama de profesionais, especialmente aqueles sen formación en ciencia de datos, consultar conxuntos de datos utilizando linguaxe natural. Isto facilita a xeración de informes e a formulación de preguntas moi específicas.

Como funciona: Para unha pregunta como "Por que caíron as vendas o trimestre pasado?", a aplicación pode consultar os rexistros de vendas e recuperar notas sobre escaseza de stock ou cambios de prezos. O LLM selecciona o cálculo axeitado (que normalmente se delega nunha ferramenta de cálculo) para os datos recuperados antes de xerar unha análise.

Exemplo do mundo real: Google Analytics ofrece un chatbot AI "Ask Advisor" que pode acceder aos datos de analítica web e responder a preguntas moi específicas e matizadas dos usuarios. É un dos mellores exemplos reais de RAG de sistema pechado e de nivel empresarial.

Ampliar

Que é o seguinte na evolución do RAG?

O RAG foi un desenvolvemento significativo cando se introduciu por primeira vez. Axudou a abordar moitos dos problemas inherentes aos LLM autónos.

Con todo, está lonxe de ser unha tecnoloxía estática. A investigación actual céntrase nunha recuperación multimodal máis profunda e nun procesamento máis rigoroso do contexto recuperado para garantir a precisión e a corrección. Ademais, é probable que vexamos unha maior integración do RAG en axentes de varias ferramentas.

Mesmo con ventás de contexto extremadamente grandes, hai casos de uso importantes para o RAG tanto en contextos persoais coma profesionais e moitas innovacións por vir.