9 RAG-exempel baserade på verkliga användningsområden och arkitekturer

RAG används i stor utsträckning i både konsument- och företagssammanhang. Verkliga, vardagliga exempel på RAG inkluderar webbsökning, kundsupport och AI-aktiverad shopping. Åtkomst till intern kunskap och kodningshjälp hör till de mest framträdande affärsexempeln.

RAG-arkitekturen kan också variera beroende på användningsområde. Två av de vanligaste implementeringarna är hybrid-RAG, som kombinerar traditionell nyckelordssökning med vektor- eller kunskapsgrafsökning, och agentbaserad RAG, där en LLM styr hämtningsprocessen.

Vad är retrieval-augmented generation (RAG)?

RAG, eller retrieval-augmented generation, gör det möjligt för AI-applikationer att komma åt information som lagrats i externa system för att komplettera LLM-genererade svar.

Det är en kraftfull teknik eftersom den löser tre stora problem med generativ AI: hallucinationer, utdaterad information och brist på tillgång till data som inte ingår i inmatningskontexten.

Så här ser en grundläggande RAG-process ut:

1. Användaren anger en prompt på naturligt språk.
2. AI-applikationen avgör om grundning krävs, ibland med inblandning av en LLM.
3. En begäran skickas till en extern informationskälla, till exempel en databas.
4. Den hämtade informationen läggs till i LLM:ens inmatningskontext.
5. LLM:en genererar ett svar baserat på den utökade prompten.

Även om de kan variera i specifik implementering representerar dessa steg ett typiskt RAG-arbetsflöde. Skillnaderna mellan de olika arkitekturtyperna brukar kretsa kring hur begäranden hanteras av klientapplikationen och vilken typ av information som hämtas.

En översikt över RAG-arkitektur

Uttrycket "retrieval-augmented generation" dök först upp i en artikel från 2020 med titeln Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, publicerad av forskare vid Meta AI (dåvarande Facebook AI Research) tillsammans med samarbetspartners från University College London och New York University.

Tida hämta-och-sedan-generera-metoder, löst benämnda "naiv RAG", har sedan dess utvecklats till ett urval av olika arkitekturtyper, varav många överlappar varandra.

Naiv RAG

Naiv RAG använder en enkel pipeline för hämtning och generering, vilket fortfarande är lämpligt för många enkla förfrågningar. Det vanligaste exemplet på naiv RAG är omvandlingen av en fråga till en ordnad lista med siffror som kallas en vektorembedding, eller helt enkelt en vektor. Frågans embedding matchas sedan mot andra vektorer som representerar stycken, delar av innehåll i en databas eller ett index (kallat ett semantiskt index).

Avancerad RAG

Avancerad RAG optimerar stegen före och efter hämtning. Tekniker inkluderar query expansion, metadatatestning och kontextkomprimering. Dessa förbättrar i väsentlig grad relevansen av den information som hämtas och hur den modifieras innan den läggs till i en LLM:s inmatningskontext.

Agentbaserad RAG

Agentbaserad RAG är exekvering av RAG-pipelines av en LLM-baserad agent. Agenten "bestämmer" vilka verktyg som är bäst för en given prompt och styr hämtningen, ibland i en loop, för att generera ett relevant svar.

Graf-RAG

Graf-RAG hämtar information från en kunskapsgraf, som representerar entiteter (som objekt, koncept och händelser) och relationerna mellan dem. Detta är användbart när ett svar på en prompt kräver att LLM:en kombinerar information om skilda entiteter.

Multimodal RAG

Multimodal RAG utökar hämtningen till innehåll som bilder och ljud under både sökning och hämtning. Dessa RAG-pipelines använder särskilda kodare för att omvandla text, bilder eller ljud till embeddings.

Hybrid-RAG

Hybrid-RAG kombinerar nyckelordssökning, eller lexikal hämtning, med vektorhämtning eller kunskapsgrafer och sammanfogar resultaten. Detta är användbart eftersom nyckelordsmatchning kan vara mycket exakt (mer so än andra metoder) i vissa sammanhang.

Korrigerande RAG

Korrigerande RAG utvärderar returnerad information eller data med avseende på relevans för frågan. Den kan förfina eller komplettera de hämtade styckena eller ersätta dem helt genom att köra en ny begäran.

RAG-exempel efter användningsområde och branschtillämpning

Det finns flera exempel på RAG inom både konsument- och företagssfären. Detta beror till stor del på att RAG-pipelines har integrerats i de flesta vanliga verktyg. Dessutom erbjuder många leverantörer färdiga integrationer, till exempel för chattbotar för kundtjänst, vilket har underlättat införandet.

1. Webbsökning

Webbsökning är ett av de mest genomgripande exemplen på RAG. Varje dag använder miljontals människor AI-verktyg för att generera svar som baseras på information som hämtats från webben.

Så här fungerar det: AI-applikationen söker i ett webbindex, till exempel Google Search-indexet, med hjälp av nyckelordsbaserad och semantisk hämtning. Relevant sidinnehåll inkluderas tillsammans med användarens fråga i LLM:ens inmatning. LLM:en genererar sedan ett svar, vanligtvis med källhänvisningar.

Verkligt exempel: Om en användare skriver en enkel fråga i Perplexitys chatts gränssnitt, till exempel "Vad är det för väder i Chicago?", kommer LLM:en att utföra en webbsökning för att hitta uppdaterad information. Perplexity använder ett proprietärt webbindex i kombination med partnersöknings-API:er.

Förstora

2. Kundsupport

Chattbotar i appar och på webbplatser har vuxit fram som ett stort företagsanvändningsfall för RAG. Dessa system kopplas oftast ihop med traditionella dirigeringsvägar, vilket minskar behovet av inblandning från kundtjänstrepresentanter.

Så här fungerar det: När en kund ställer en fråga söker applikationen igenom företagets kunskapsbas, ofta med hjälp av en hybridpipeline. De hämtade styckena tillhandahålls till LLM:en, som genererar ett svar. Det finns vanligtvis också korrigerande och överlämnande processer inblandade för att validera svaret och vid behov dirigera till en representant.

Verkligt exempel: Olika kundtjänstplattformar, inklusive Zendesk (bilden nedan) och Intercom, erbjuder färdiga kundsupportchattbotar som integreras med befintlig dokumentation och kundsupportbaser.

Förstora

3. Personliga assistenter

Personliga assistenter använder agentbaserad RAG för att komma åt en användares e-postmeddelanden, filer och kalender. Dessa assistenter kan vanligtvis köra flera RAG-pipelines.

Så här fungerar det: Eftersom personliga assistenter ofta kräver åtkomst till flera informationskällor använder de en blandning av API:er, nyckelordssökning, vektorsökning och kunskapsgrafer. Olika verktygsbeskrivningar skickas av applikationen till LLM:en, som sedan väljer ut de lämpligaste.

Verkligt exempel: Google Gemini fungerar som ett bra exempel på en app som kan fungera som en allmän och personlig AI-assistent (vilket är fallet med de flesta assistenter nu för tiden). Den integreras med ett ekosystem av verktyg, såsom Gmail, Docs, Photos och Calendar.

Förstora

4. Företagskunskapshantering

Företagskunskapshantering låter anställda ställa frågor i en bred samling företagsinformation, inklusive policyer, rapporter, projektdokument, juridiska texter och till och med interna diskussioner.

Så här fungerar det: Applikationen hämtar relevant innehåll med hjälp av ett vektorindex som uppdateras i takt med att källdokumenten ändras. Indexet innehåller embeddings som representerar dokumentsnuttar, med länkar till deras text och tillhörande metadata.

Verkligt exempel: Microsoft 365 Copilot kommer åt organisationsinformation via Microsoft Graph, som exponerar olika API:er för datakällor, och använder lexikala och semantiska index för att hämta relevant innehåll.

Förstora

5. Kodningsassistenter

Kodningsassistenter tillämpar RAG på en kodbas. Även om den underliggande RAG-processen är densamma (vanligtvis agentbaserad RAG) är skillnaden att de hanterar specifikt kodkontext.

Så här fungerar det: Kodningsassistenter indexerar lokala projektfiler och utför flersökningar för att hitta relevanta kodsnuttar när de uppmanas till det. Dessa assistenter har också vanligtvis dedikerade anslutningar för att utöka åtkomsten, till exempel till företagets kunskapsbaser.

Verkligt exempel: GitHub Copilot är ett välkänt exempel på en kodningsassistent som integreras direkt med utvecklingsprojekt. Den kan också referera till offentliga GitHub-lagringsplatser för att öka svarsnoggrannheten.

Förstora

6. Teknisk felsökning

Teknisk felsökning integrerar en RAG-pipeline för kunskapshantering med en diagnostisk loop. En agent kan utvärdera resultat för att ytterligare förfina felsökningsrekommendationer efter behov.

Så här fungerar det: En applikation samlar in symptom på ett tekniskt problem från användaren eller tar emot automatiserade övervakningslarm. Den utlöser en sökning efter felmeddelanden, tekniska loggar och prestandamått för att korsreferera symptomen. Den hämtar sedan relevant information från en intern kunskapsbas för att skicka vidare till LLM:en. Den diagnostiska loopen inträffar när resultaten av en försök till fix matas tillbaka till LLM:en, antingen från användaren eller ett diagnostiskt verktyg.

Verkligt exempel: Observerbarhetsplattformen Datadog (bilden nedan) samlar in data från alla lager i ett system och flaggar eventuella problem när de uppstår. Dessa matas sedan in i en specialiserad AI-agent som heter Bits AI för att felsöka potentiella buggar.

Förstora

7. Agentbaserad handel

Agentbaserad handel är ett bredare användningsfall som oftast involverar RAG. En shoppingagent hämtar detaljer som produktspecifikationer, recensioner, priser och tillgänglighet för att jämföra alternativ och förklara rekommendationer. Den kan sedan automatiskt genomföra köpet utan att användaren lämnar gränssnittet.

Så här fungerar det: Agentbaserad handel är äkta agentbaserad RAG eftersom enskilda frågor ofta kräver olika former av hämtning, som modellen styr. En agent kan hämta enbart textbaserad produktdata via en återförsäljares API, eller så kan den använda multimodal RAG för att matcha produkter i ett semantiskt index baserat på ett användarfoto.

Verkligt exempel: En allmän agent som Perplexity kan hämta flera bilder och detaljerade produktspecifikationer baserat på en prompt. Funktionen för direktköp (Instant Buy) gör att användaren kan slutföra köpet efter att ha valt en produkt.

Förstora

8. Specialiserade kunskapsdomäner

AI-verktyg som hämtar specialiserad domänkunskap måste hantera komplexa innehållsformat. Dessutom är det ofta en prioritet att minimera hallucinationer och informationsluckor.

Så här fungerar det: Den viktigaste skillnaden mellan allmänna och specialiserade RAG-arkitekturer rör källmaterialet och hämtningskonfigurationen. Vanligtvis efterfrågas endast ett mycket auktoritativt index, och begäran konfigureras för att inkludera specifik terminologi för att begränsa sökningarna.

Verkligt exempel: Det akademiska forskningsverktyget Scite har tillgång till ett stort index av akademiska uppsatser och citeringsdata som har byggts upp genom förlagsavtal och källor med öppen tillgång. Det tillämpar också kontroller efter hämtning, till exempel verifiering av källor, innan ett fullständigt svar genereras.

Förstora

9. Dataanalys

RAG för dataanalys har blivit ett särskilt kraftfullt företagsanvändningsfall eftersom det gör det möjligt för ett brett spektrum av yrkesverksamma, särskilt de utan utbildning i datavetenskap, att fråga datamängder med naturspråk. Detta gör det enklare att generera rapporter och ställa mycket specifika frågor.

Så här fungerar det: För en fråga som "Varför sjönk försäljningen förra kvartalet?" kan applikationen ställa en fråga till försäljningsregister och hämta anteckningar om lagerbrister eller prisändringar. LLM:en väljer lämplig beräkning (som vanligtvis delegeras till ett beräkningsverktyg) för den hämtade datan innan en analys genereras.

Verkligt exempel: Google Analytics erbjuder en AI-chattbot "Fråga rådgivare" som kan komma åt webbanalysdata och besvara mycket specifika, nyanserade frågor från användare. Det är ett av de bästa verkliga exemplen på företagsanpassad RAG med slutna system.

Förstora

Vad händer härnäst i utvecklingen av RAG?

RAG var en betydande utveckling när det först introducerades. Det bidrog till att lösa många av de problem som är inneboende i fristående LLM:er.

Det är dock långt ifrån en statisk teknik. Den aktuella forskningen är inriktad på djupare multimodal hämtning och striktare bearbetning av hämtad kontext med avseende på noggrannhet och korrekthet. Dessutom kommer vi sannolikt att få se en större integration av RAG i agenter med flera verktyg.

Även med extremt stora kontextfönster finns det viktiga användningsområden för RAG i både personliga och professionella sammanhang och många innovationer som ännu inte har kommit.