9 exemplos de RAG baseados em casos de uso e arquiteturas reais

O RAG é amplamente utilizado em contextos tanto de consumo quanto corporativos. Exemplos reais e cotidianos de RAG incluem busca na web, suporte ao cliente e compras habilitadas por IA. O acesso a conhecimento interno e a assistência de codificação estão entre os exemplos empresariais mais proeminentes.

A arquitetura de RAG também pode variar de acordo com o caso de uso. Duas das implementações mais comuns são o RAG híbrido, que combina a correspondência tradicional de palavras-chave com busca por vetores ou grafos de conhecimento, e o RAG agêntico, para o qual um LLM direciona o processo de recuperação.

O que é geração aumentada por recuperação (RAG)?

O RAG, ou geração aumentada por recuperação, permite que aplicativos de IA acessem informações armazenadas em sistemas externos para complementar as respostas geradas por LLMs.

É uma tecnologia poderosa porque aborda três grandes problemas da IA generativa: alucinações, informações desatualizadas e falta de acesso a dados não incluídos no contexto de entrada.

Eis a aparência de um processo básico de RAG:

1. O usuário insere um prompt em linguagem natural.
2. O aplicativo de IA determina se a fundamentação é necessária, às vezes com o envolvimento de um LLM.
3. Uma solicitação é enviada a uma fonte de informação externa, como um banco de dados.
4. As informações recuperadas são adicionadas à entrada de contexto do LLM.
5. O LLM gera uma resposta com base no prompt aumentado.

Embora possam variar na implementação específica, essas etapas representam um fluxo de trabalho típico de RAG. As diferenças entre os vários tipos de arquitetura tendem a se concentrar em como as solicitações são tratadas pelo aplicativo cliente e na natureza das informações que estão sendo recuperadas.

Uma visão geral da arquitetura de RAG

O termo "geração aumentada por recuperação" apareceu pela primeira vez em um artigo de 2020 chamado Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicado por pesquisadores da Meta AI (então Facebook AI Research) em conjunto com colaboradores do University College London e da Universidade de Nova York.

Abordagens iniciais de recuperação seguidas de geração (retrieve-then-generate), chamadas vagamente de "RAG ingênuo", evoluíram desde então para uma variedade de tipos diferentes de arquitetura, muitas das quais se sobrepõem.

RAG ingênuo

O RAG ingênuo usa um pipeline simples de recuperação e geração, que ainda é apropriado para muitas solicitações básicas. O exemplo mais comum de RAG ingênuo é a conversão de uma consulta em uma lista ordenada de números chamada de incorporação vetorial, ou simplesmente vetor. A incorporação da consulta é então combinada com outros vetores que representam trechos, porções de conteúdo em um banco de dados ou índice (chamado de índice semântico).

RAG avançado

O RAG avançado otimiza os estágios antes e depois da recuperação. As técnicas incluem expansão de consultas, filtragem de metadados e compressão de contexto. Elas essencialmente melhoram a relevância das informações recuperadas e como elas são modificadas antes de serem adicionadas ao contexto de entrada de um LLM.

RAG agêntico

O RAG agêntico é a execução de pipelines de RAG por um agente baseado em LLM. O agente "decide" quais ferramentas são melhores para um determinado prompt e direciona a recuperação, às vezes em um loop, para gerar uma resposta relevante.

RAG de grafos

O RAG de grafos recupera informações de um grafo de conhecimento, que representa entidades (como objetos, conceitos e eventos) e os relacionamentos entre elas. Isso é útil quando a resposta a um prompt exige que o LLM combine informações sobre entidades distintas.

RAG multimodal

O RAG multimodal estende a recuperação para conteúdos como imagens e áudio durante a consulta e a recuperação. Esses pipelines de RAG usam codificadores especiais para converter texto, imagens ou áudio em incorporações.

RAG híbrido

O RAG híbrido combina a busca por palavras-chave, ou recuperação lexical, com a recuperação vetorial ou grafos de conhecimento e mescla os resultados. Isso é útil porque a correspondência de palavras-chave pode ser altamente precisa (mais do que outros métodos) em determinados contextos.

RAG corretivo

O RAG corretivo avalia as informações ou dados retornados quanto à relevância para a consulta. Ele pode refinar ou complementar as passagens recuperadas ou substituí-las inteiramente executando outra solicitação.

Exemplos de RAG por caso de uso e aplicação na indústria

Existem vários exemplos de RAG nas esferas de consumo e de negócios. Isso ocorre em grande parte porque os pipelines de RAG foram integrados à maioria das ferramentas convencionais. Além disso, muitos fornecedores oferecem integrações prontas para uso, como para chatbots de atendimento ao cliente, o que facilitou a adoção.

1. Busca na web

A busca na web é um dos exemplos mais difundidos de RAG. Todos os dias, milhões de pessoas usam ferramentas de IA para gerar respostas fundamentadas em informações recuperadas da web.

Como funciona: O aplicativo de IA pesquisa um índice da web, como o índice do Google Search, usando recuperação baseada em palavras-chave e semântica. O conteúdo relevante da página é incluído junto com a pergunta do usuário na entrada do LLM. O LLM então gera uma resposta, normalmente com citações das fontes.

Exemplo do mundo real: Se um usuário digitar uma consulta simples na interface de chat do Perplexity, como "Qual é a previsão do tempo em Chicago?", o LLM conduzirá uma busca na web para encontrar informações atualizadas. O Perplexity usa um índice da web proprietário em conjunto com APIs de pesquisa de parceiros.

Expandir

2. Suporte ao cliente

Chatbots em aplicativos e sites surgiram como um importante caso de uso empresarial de RAG. Esses sistemas geralmente se acoplam a rotas tradicionais de roteamento, reduzindo a necessidade de intervenção de representantes de atendimento.

Como funciona: Quando um cliente faz uma pergunta, o aplicativo pesquisa na base de conhecimento da empresa, geralmente usando um pipeline híbrido. As passagens recuperadas são fornecidas ao LLM, que gera uma resposta. Normalmente, também há processos corretivos e de transferência envolvidos para validar a resposta e, quando necessário, encaminhar a um representante.

Exemplo do mundo real: Várias plataformas de atendimento ao cliente, incluindo o Zendesk (ilustrado abaixo) e o Intercom, oferecem chatbots de suporte ao cliente prontos para uso que se integram à documentação existente e às bases de suporte ao cliente.

Expandir

3. Assistentes pessoais

Assistentes pessoais usam RAG agêntico para acessar e-mails, arquivos e o calendário de um usuário. Esses assistentes normalmente podem executar múltiplos pipelines de RAG.

Como funciona: Como os assistentes pessoais geralmente exigem acesso a múltiplas fontes de informação, eles usam uma combinação de APIs, busca por palavras-chave, busca vetorial e grafos de conhecimento. Diferentes descrições de ferramentas são enviadas pelo aplicativo para o LLM, que então seleciona as mais apropriadas.

Exemplo do mundo real: O Google Gemini serve como um bom exemplo de um aplicativo que pode atuar como um assistente de IA de uso geral e pessoal (como é o caso da maioria dos assistentes hoje em dia). Ele se integra a um ecossistema de ferramentas, como Gmail, Docs, Photos e Calendar.

Expandir

4. Gestão de conhecimento empresarial

A gestão de conhecimento empresarial permite que os funcionários façam perguntas em um amplo conjunto de informações da empresa, incluindo políticas, relatórios, documentos de projetos, textos jurídicos e até discussões internas.

Como funciona: O aplicativo recupera conteúdo relevante usando um índice vetorial que é atualizado conforme os documentos de origem mudam. O índice contém incorporações que representam trechos de documentos, com links para seu texto e metadados associados.

Exemplo do mundo real: O Microsoft 365 Copilot acessa informações organizacionais por meio do Microsoft Graph, que expõe várias APIs para fontes de dados, e usa índices lexicais e semânticos para recuperar conteúdo relevante.

Expandir

5. Assistentes de programação

Assistentes de programação aplicam RAG a uma base de código. Embora o processo de RAG subjacente seja o mesmo (geralmente RAG agêntico), a diferença é que eles lidam especificamente com o contexto de código.

Como funciona: Os assistentes de programação indexam arquivos de projetos locais e executam passagens de busca múltipla para encontrar trechos de código relevantes quando solicitados. Esses assistentes também normalmente possuem conectores dedicados para estender o acesso, como a bases de conhecimento corporativas.

Exemplo do mundo real: O GitHub Copilot é um exemplo bem conhecido de assistente de programação que se integra diretamente a projetos de desenvolvimento. Ele também pode fazer referência a repositórios públicos do GitHub para aumentar a precisão das respostas.

Expandir

6. Solução de problemas técnicos

A solução de problemas técnicos integra um pipeline de RAG de gestão de conhecimento a um loop de diagnóstico. Um agente pode avaliar resultados para refinar ainda mais as recomendações de solução de problemas conforme necessário.

Como funciona: Um aplicativo coleta sintomas de um problema técnico do usuário ou recebe alertas de monitoramento automatizados. Ele aciona uma busca por mensagens de erro, logs técnicos e métricas de desempenho para cruzar os sintomas. Em seguida, recupera informações relevantes de uma base de conhecimento interna para repassar ao LLM. O loop de diagnóstico ocorre quando os resultados de uma tentativa de correção alimentam de volta o LLM, seja por parte do usuário ou de uma ferramenta de diagnóstico.

Exemplo do mundo real: A plataforma de observabilidade Datadog (ilustrada abaixo) coleta dados de todas as camadas de um sistema, sinalizando quaisquer problemas à medida que surgem. Eles são então alimentados em um agente de IA especializado chamado Bits AI para solucionar possíveis correções.

Expandir

7. Comércio agêntico

O comércio agêntico é um caso de uso mais amplo que geralmente envolve RAG. Um agente de compras recupera detalhes como especificações de produtos, avaliações, preços e disponibilidade para comparar opções e explicar recomendações. Ele pode então fazer a compra automaticamente sem que o usuário saia da interface.

Como funciona: O comércio agêntico é um verdadeiro RAG agêntico porque consultas específicas frequentemente exigem diferentes formas de recuperação, que o modelo direciona. Um agente pode recuperar dados de produtos estritamente textuais por meio da API de um varejista, ou pode usar RAG multimodal para corresponder produtos em um índice semântico com base na fotografia de um usuário.

Exemplo do mundo real: Um agente de propósito geral como o Perplexity pode recuperar múltiplas imagens e especificações detalhadas de produtos com base em um prompt. O recurso de finalização de compra Instant Buy permite que o usuário conclua a compra após escolher um produto.

Expandir

8. Domínios de conhecimento especializados

Ferramentas de IA que recuperam conhecimento de domínios especializados precisam lidar com formatos de conteúdo complexos. Além disso, minimizar alucinações e lacunas de informação costuma ser uma prioridade.

Como funciona: A principal diferença entre arquiteturas de RAG de uso geral e especializadas refere-se ao material de origem e à configuração de recuperação. Normalmente, apenas um índice altamente autoritativo será consultado, e a solicitação será configurada para incluir terminologia específica para estreitar as buscas.

Exemplo do mundo real: A ferramenta de pesquisa acadêmica Scite acessa um grande índice de artigos acadêmicos e dados de citação que foi construído por meio de acordos com editoras e fontes de acesso aberto. Ela também aplica verificações pós-recuperação, como verificação de fontes, antes de gerar uma resposta completa.

Expandir

9. Análise de dados

O RAG para análise de dados tornou-se um caso de uso empresarial particularmente poderoso porque permite que uma ampla gama de profissionais, especialmente aqueles sem treinamento em ciência de dados, consultem conjuntos de dados usando linguagem natural. Isso facilita a geração de relatórios e a formulação de perguntas altamente específicas.

Como funciona: Para uma pergunta como "Por que as vendas caíram no último trimestre?", o aplicativo pode consultar registros de vendas e recuperar notas sobre escassez de estoque ou alterações de preços. O LLM seleciona o cálculo apropriado (que geralmente é delegado a uma ferramenta de cálculo) para os dados recuperados antes de gerar uma análise.

Exemplo do mundo real: O Google Analytics oferece um chatbot de IA "Ask Advisor" que pode acessar dados de análise da web e responder a perguntas altamente específicas e nuançadas dos usuários. É um dos melhores exemplos do mundo real de RAG de sistema fechado de nível empresarial.

Expandir

O que vem a seguir na evolução do RAG?

O RAG foi um desenvolvimento significativo quando foi introduzido pela primeira vez. Ele ajudou a resolver muitos dos problemas inerentes aos LLMs isolados.

No entanto, ele está longe de ser uma tecnologia estática. A pesquisa atual está focada em recuperação multimodal mais profunda e processamento mais rigoroso do contexto recuperado para precisão e exatidão. Além disso, é provável que vejamos uma maior integração do RAG em agentes de múltiplas ferramentas.

Mesmo com janelas de contexto extremamente grandes, há casos de uso importantes para o RAG em contextos pessoais e profissionais, e muitas inovações ainda estão por vir.