9 exemplos de RAG baseados em casos de uso e arquiteturas reais

O RAG é amplamente utilizado tanto em contextos de consumo quanto corporativos. Exemplos reais e cotidianos de RAG incluem busca na web, suporte ao cliente e compras habilitadas por IA. Acesso a conhecimento interno e assistência de programação estão entre os exemplos de negócios mais proeminentes.

A arquitetura de RAG também pode variar de acordo com os casos de uso. Duas das implementações mais comuns são o RAG híbrido, que combina correspondência de palavras-chave tradicional com busca em vetores ou grafos de conhecimento, e o RAG agêntico, no qual um LLM direciona o processo de recuperação.

O que é geração aumentada por recuperação (RAG)?

O RAG, ou geração aumentada por recuperação, permite que aplicativos de IA acessem informações armazenadas em sistemas externos para complementar as respostas geradas por LLMs.

É uma tecnologia poderosa porque aborda três grandes problemas da IA generativa: alucinações, informações desatualizadas e falta de acesso a dados não incluídos no contexto de entrada.

Veja como é um processo básico de RAG:

1. O usuário insere um prompt em linguagem natural.
2. O aplicativo de IA determina se o aterramento é necessário, às vezes com o envolvimento de um LLM.
3. Uma solicitação é enviada para uma fonte de informação externa, como um banco de dados.
4. As informações recuperadas são adicionadas à entrada de contexto do LLM.
5. O LLM gera uma resposta com base no prompt aumentado.

Embora possam variar em sua implementação específica, essas etapas representam um fluxo de trabalho de RAG típico. As diferenças entre os vários tipos de arquitetura tendem a se concentrar em como as solicitações são tratadas pelo aplicativo cliente e na natureza das informações que estão sendo recuperadas.

Uma visão geral da arquitetura de RAG

O termo "geração aumentada por recuperação" apareceu pela primeira vez em um artigo de 2020 chamado Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicado por pesquisadores da Meta AI (então Facebook AI Research) junto com colaboradores do University College London e da New York University.

As abordagens iniciais de recuperação seguida de geração, vagamente chamadas de "RAG ingênuo", evoluíram desde então para uma variedade de tipos de arquitetura diferentes, muitos dos quais se sobrepõem.

RAG ingênuo

O RAG ingênuo usa um pipeline simples de recuperação e geração, que ainda é adequado para muitas solicitações básicas. O exemplo mais comum de RAG ingênuo é a conversão de uma consulta em uma lista ordenada de números chamada de incorporação vetorial, ou simplesmente vetor. A incorporação da consulta é então correspondida a outros vetores que representam blocos, porções de conteúdo em um banco de dados ou índice (chamado de índice semântico).

RAG avançado

O RAG avançado otimiza os estágios antes e depois da recuperação. As técnicas incluem expansão de consultas, filtragem de metadados e compressão de contexto. Isso basicamente melhora a relevância das informações recuperadas e como elas são modificadas antes de serem adicionadas ao contexto de entrada de um LLM.

RAG agêntico

O RAG agêntico é a execução de pipelines de RAG por um agente baseado em LLM. O agente "decide" quais ferramentas são melhores para um determinado prompt e direciona a recuperação, às vezes em um loop, para gerar uma resposta relevante.

RAG de grafos

O RAG de grafos recupera informações de um grafo de conhecimento, que representa entidades (como objetos, conceitos e eventos) e as relações entre elas. Isso é útil quando a resposta a um prompt exige que o LLM combine informações sobre entidades distintas.

RAG multimodal

O RAG multimodal estende a recuperação para conteúdos como imagens e áudio durante a consulta e a recuperação. Esses pipelines de RAG usam codificadores especiais para converter texto, imagens ou áudio em incorporações.

RAG híbrido

O RAG híbrido combina a busca por palavras-chave, ou recuperação lexical, com recuperação vetorial ou grafos de conhecimento e mescla os resultados. Isso é útil porque a correspondência de palavras-chave pode ser altamente precisa (mais do que outros métodos) em determinados contextos.

RAG corretivo

O RAG corretivo avalia as informações ou dados retornados quanto à relevância para a consulta. Ele pode refinar ou complementar os trechos recuperados ou substituí-los inteiramente executando outra solicitação.

Exemplos de RAG por caso de uso e aplicação industrial

Há vários exemplos de RAG nas esferas de consumo e empresarial. Isso se deve em grande parte ao fato de que os pipelines de RAG foram integrados à maioria das ferramentas principais. Além disso, muitos fornecedores oferecem integrações prontas para uso, como para chatbots de atendimento ao cliente, o que facilitou a adoção.

1. Busca na web

A busca na web é um dos exemplos mais difundidos de RAG. Todos os dias, milhões de pessoas usam ferramentas de IA para gerar respostas fundamentadas em informações recuperadas da web.

Como funciona: O aplicativo de IA pesquisa um índice da web, como o índice do Google Search, usando recuperação baseada em palavras-chave e semântica. O conteúdo relevante da página é incluído junto com a pergunta do usuário na entrada do LLM. O LLM então gera uma resposta, normalmente com citações das fontes.

Exemplo do mundo real: Se um usuário digitar uma consulta simples na interface de chat do Perplexity, como "Qual é a previsão do tempo em Chicago?", o LLM conduzirá uma busca na web para encontrar informações atualizadas. O Perplexity usa um índice da web proprietário em conjunto com APIs de pesquisa de parceiros.

Expandir

2. Suporte ao cliente

Chatbots em aplicativos e sites surgiram como um importante caso de uso corporativo de RAG. Esses sistemas geralmente se acoplam a caminhos de roteamento tradicionais, reduzindo a necessidade de envolvimento de representantes de atendimento ao cliente.

Como funciona: Quando um cliente faz uma pergunta, o aplicativo pesquisa a base de conhecimento da empresa, frequentemente usando um pipeline híbrido. Os trechos recuperados são fornecidos ao LLM, que gera uma resposta. Geralmente, também há processos corretivos e de transferência envolvidos para validar a resposta e, quando necessário, encaminhar a um representante.

Exemplo do mundo real: Várias plataformas de atendimento ao cliente, incluindo o Zendesk (na imagem abaixo) e o Intercom, oferecem chatbots de suporte ao cliente prontos para uso que se integram à documentação existente e às bases de suporte ao cliente.

Expandir

3. Assistentes pessoais

Assistentes pessoais usam RAG agêntico para acessar e-mails, arquivos e o calendário de um usuário. Esses assistentes normalmente podem executar vários pipelines de RAG.

Como funciona: Como os assistentes pessoais geralmente exigem acesso a várias fontes de informação, eles usam uma combinação de APIs, busca por palavras-chave, busca vetorial e grafos de conhecimento. Diferentes descrições de ferramentas são enviadas pelo aplicativo para o LLM, que então seleciona as mais apropriadas.

Exemplo do mundo real: O Google Gemini serve como um bom exemplo de aplicativo que pode atuar como um assistente de IA pessoal e de uso geral (como é o caso da maioria dos assistentes hoje em dia). Ele se integra a um ecossistema de ferramentas, como Gmail, Docs, Photos e Calendar.

Expandir

4. Gerenciamento de conhecimento Enterprise

O gerenciamento de conhecimento Enterprise permite que os funcionários façam perguntas em um amplo conjunto de informações da empresa, incluindo políticas, relatórios, documentos de projetos, textos jurídicos e até discussões internas.

Como funciona: O aplicativo recupera conteúdo relevante usando um índice vetorial que é atualizado à medida que os documentos de origem mudam. O índice contém incorporações que representam blocos de documentos, com links para seus textos e metadados associados.

Exemplo do mundo real: O Microsoft 365 Copilot acessa informações organizacionais por meio do Microsoft Graph, que expõe várias APIs para fontes de dados, e usa índices lexicais e semânticos para recuperar conteúdo relevante.

Expandir

5. Assistentes de programação

Assistentes de programação aplicam RAG a uma base de código. Embora o processo de RAG subjacente seja o mesmo (geralmente RAG agêntico), a diferença é que eles lidam especificamente com o contexto de código.

Como funciona: Os assistentes de programação indexam arquivos de projetos locais e realizam várias passagens de pesquisa para encontrar trechos de código relevantes quando solicitado. Esses assistentes também normalmente possuem conectores dedicados para estender o acesso, como a bases de conhecimento corporativas.

Exemplo do mundo real: O GitHub Copilot é um exemplo bem conhecido de assistente de programação que se integra diretamente a projetos de desenvolvimento. Ele também pode referenciar repositórios públicos do GitHub para aumentar a precisão das respostas.

Expandir

6. Solução de problemas técnicos

A solução de problemas técnicos integra um pipeline de RAG de gerenciamento de conhecimento com um loop de diagnóstico. Um agente pode avaliar os resultados para refinar ainda mais as recomendações de solução de problemas conforme necessário.

Como funciona: Um aplicativo coleta sintomas de um problema técnico do usuário ou recebe alertas de monitoramento automatizados. Ele aciona uma busca por mensagens de erro, logs técnicos e métricas de desempenho para cruzar os sintomas. Em seguida, recupera informações relevantes de uma base de conhecimento interna para repassá-las ao LLM. O loop de diagnóstico ocorre quando os resultados de uma tentativa de correção retornam ao LLM, seja por meio do usuário ou de uma ferramenta de diagnóstico.

Exemplo do mundo real: A plataforma de observabilidade Datadog (na imagem abaixo) coleta dados de todas as camadas de um sistema, sinalizando quaisquer problemas à medida que surgem. Eles são então enviados para um agente de IA especializado chamado Bits AI para solucionar possíveis correções.

Expandir

7. Comércio agêntico

O comércio agêntico é um caso de uso mais amplo que geralmente envolve RAG. Um agente de compras recupera detalhes como especificações de produtos, avaliações, preços e disponibilidade para comparar opções e explicar recomendações. Ele pode então fazer a compra automaticamente sem que o usuário precise sair da interface.

Como funciona: O comércio agêntico é um verdadeiro RAG agêntico porque consultas específicas geralmente exigem diferentes formas de recuperação, que o modelo direciona. Um agente pode recuperar dados de produtos apenas com texto por meio da API de um varejista, ou pode usar RAG multimodal para corresponder produtos em um índice semântico com base em uma foto do usuário.

Exemplo do mundo real: Um agente de uso geral como o Perplexity pode recuperar várias imagens e especificações detalhadas de produtos com base em um prompt. O recurso de checkout Instant Buy permite que o usuário conclua a compra após escolher um produto.

Expandir

8. Domínios especializados de conhecimento

Ferramentas de IA que recuperam conhecimento de domínios especializados precisam lidar com formatos de conteúdo complexos. Além disso, minimizar alucinações e lacunas de informação costuma ser uma prioridade.

Como funciona: A principal diferença entre arquiteturas de RAG de uso geral e especializadas refere-se ao material de origem e à configuração de recuperação. Normalmente, apenas um índice altamente autoritativo será consultado, e a solicitação será configurada para incluir terminologia específica para estreitar as buscas.

Exemplo do mundo real: A ferramenta de pesquisa acadêmica Scite acessa um grande índice de artigos acadêmicos e dados de citação que foi construído por meio de acordos com editoras e fontes de acesso aberto. Ela também aplica verificações pós-recuperação, como verificação de fontes, antes de gerar uma resposta completa.

Expandir

9. Análise de dados

O RAG para análise de dados tornou-se um caso de uso corporativo particularmente poderoso porque permite que uma ampla gama de profissionais, especialmente aqueles sem treinamento em ciência de dados, consultem conjuntos de dados usando linguagem natural. Isso facilita a geração de relatórios e a realização de perguntas altamente específicas.

Como funciona: Para uma pergunta como "Por que as vendas caíram no último trimestre?", o aplicativo pode consultar registros de vendas e recuperar notas sobre escassez de estoque ou alterações de preços. O LLM seleciona o cálculo apropriado (que geralmente é delegado a uma ferramenta de cálculo) para os dados recuperados antes de gerar uma análise.

Exemplo do mundo real: O Google Analytics oferece um chatbot de IA "Ask Advisor" que pode acessar dados de análise da web e responder a perguntas altamente específicas e sutis dos usuários. É um dos melhores exemplos do mundo real de RAG de sistema fechado de nível corporativo.

Expandir

O que vem a seguir na evolução do RAG?

O RAG foi um desenvolvimento significativo quando foi introduzido pela primeira vez. Ajudou a resolver muitos dos problemas inerentes aos LLMs isolados.

No entanto, ele está longe de ser uma tecnologia estática. A pesquisa atual está focada em recuperação multimodal mais profunda e processamento mais rigoroso do contexto recuperado para precisão e exatidão. Além disso, é provável que vejamos uma maior integração do RAG em agentes de várias ferramentas.

Mesmo com janelas de contexto extremamente grandes, há casos de uso importantes para o RAG em contextos pessoais e profissionais, e muitas inovações ainda estão por vir.