Retrieval-augmented generation (RAG): definition, anvendelser og praktiske eksempler

Retrieval-augmented generation (RAG) gør det muligt for AI-værktøjer at hente ekstern information ind for at forankre deres svar. Denne guide gennemgår, hvordan det fungerer, de vigtigste typer og anvendelser i den virkelige verden – fra websøgning til vidensbaser i virksomheder.

Diagram of a RAG pipeline: in the ingestion path, source data such as docs, databases, and files is chunked and embedded into a searchable index like a vector database; in the retrieval path, an orchestrator builds a query from the user prompt, retrieves results from the index, and passes the prompt plus context to an LLM to produce a grounded answer.

RAG, eller retrieval-augmented generation, er den proces, hvorved LLM-baserede værktøjer får adgang til ekstern information. Denne information, som ikke er indeholdt i LLM’ens træningsparametre, føjes til den relevante inputkontekst og bruges til at generere svar.

RAG er en af de vigtigste komponenter i moderne AI-systemer. Det bruges af alle de udbredte agentiske værktøjer (ChatGPT, Claude, Perplexity osv.) og har en lang række anvendelsesmuligheder for både forbrugere og virksomheder. RAG har gennemgået flere innovationer, siden det først blev udbredt, og fortsætter med at udvikle sig på spændende måder.

Hvad er retrieval-augmented generation (RAG)?

Retrieval-augmented generation (RAG) er en metode til at forbedre outputtet fra store sprogmodeller (LLM’er) ved at give dem relevant ekstern information.

En typisk RAG-»pipeline«, et begreb, der bruges om den overordnede underliggende RAG-arkitektur, har to spor: et indlæsningsspor og et hentningsspor. Indlæsningssporet tager data og konverterer dem til et søgbart format. Hentningssporet opbygger en anmodning ud fra brugerens prompt og sender forespørgsler til informationskilden.

RAG-systemer bygges ofte op omkring vektordatabaser. I dette scenarie vil orkestratoren i et LLM-værktøj, som håndterer brugerprompts, sender forespørgsler og henter resultater fra det søgbare indeks, generere en vektorindlejring. Den bruger den til at forespørge en database med vektorer, der repræsenterer de indlæste data. Derefter føjer den den hentede information til det eksisterende kontekstinput for LLM’en sammen med instruktioner om, hvordan den skal bruges til at generere et output.

RAG henviser ikke udelukkende til den type tæt vektorsøgning, der er beskrevet ovenfor. Gennemgang af vidensgrafer, semantisk søgning, traditionelle databaseopslag eller en hvilken som helst kombination af disse metoder tæller også med.

Fordele ved RAG

En af grundene til, at RAG er blevet så populært, er, at det løser to centrale problemer ved svargenerering, der udelukkende bygger på LLM’er: hallucinationer og manglende adgang til information, der ikke findes i træningsmaterialet.

Faktatjek og forankring

LLM’er er kendt for at have svært ved faktuel nøjagtighed. Hvis de ikke kan besvare et spørgsmål pålideligt, hallucinerer de ofte med stor selvsikkerhed. Det kan skyldes, at informationen ikke fandtes i træningsmaterialet, eller at selve træningsmaterialet indeholder unøjagtigheder. RAG-baseret faktatjek indebærer, at et svar forankres i information fra en pålidelig tredjepartskilde.

Opdateret information

LLM’er kan kun besvare spørgsmål om emner frem til skæringsdatoen for deres træningsdata, den såkaldte knowledge cut-off. RAG-systemer kan forbinde til meget aktuelle informationskilder, f.eks. nyhedsmateriale via en API til websøgning eller interne databaser med opdateret produktinformation. Det gør det muligt at generere svar om emner, der ikke er dækket af træningsdataene.

Adgang til private eksterne data

RAG-systemer gør det muligt for virksomheder at forbinde deres AI-infrastruktur til kilder med følsom, proprietær og domænespecifik information, som de ikke kan dele offentligt. Mange populære værktøjer, såsom Perplexity, giver nu mulighed for at uploade fortrolige data og opbygge private vidensbaser, og det er et almindeligt anvendelsesområde i virksomheder.

Overblik over RAG og dets udvikling: De vigtigste arkitekturtyper

Selvom selve begrebet retrieval-augmented generation først optrådte i en betydningsfuld forskningsartikel fra 2020 med titlen Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, havde systemer til informationssøgning været i brug i mange årtier forinden. Tidlige søgemaskiner er et godt eksempel. Den egentlige AI-innovation var dog at kombinere parametrisk modelviden med et tæt vektorindeks (artiklen brugte Wikipedia til at opbygge det).

Her er et overblik over de vigtigste typer RAG:

  • Grundlæggende RAG (basic RAG): Grundlæggende RAG, også kaldet naiv RAG, er den enkleste udgave af en RAG-pipeline. Den følger et hent-og-generér-flow med søgning i vektordatabaser som det primære anvendelsesområde. Den er stadig velegnet til at opbygge en enkel RAG-implementering, især til begrænset intern brug.
  • Hybrid RAG: Her kombineres mere end én type RAG. Det henviser som regel til en kombination af simple søgeordssøgninger og tæt vektorhentning.
  • Korrigerende RAG (corrective RAG): En form for RAG, hvor den hentede information evalueres af en finjusteret model for at afgøre, hvor relevant den er for brugerens prompt.
  • Self-RAG: Self-RAG minder om korrigerende RAG, men her evaluerer LLM’en sit eget output og igangsætter hentning efter behov. Den bruger specialiserede refleksionstokens til dette.
  • Agentisk RAG (agentic RAG): Agentisk RAG henviser til den måde, hvorpå agentiske AI-platforme kan benytte forskellige hentningsmetoder. LLM’en kan ræsonnere og vælge mellem forskellige RAG-muligheder via orkestratoren.
  • Multimodal RAG: Denne type RAG inddrager andre medieformer, såsom billeder og lyd, i sine indlæsnings- og hentningspipelines.
  • GraphRAG: GraphRAG inddrager gennemgang af vidensgrafer (entitetssøgning) for at hente information. Det kan ske i kombination med tæt vektorhentning, men behøver ikke at gøre det.
  • Forgrenet RAG (branched RAG): Denne RAG-arkitektur indebærer, at flere hentningsforespørgsler køres samtidig, ofte med forskellige arkitekturmønstre. Forgrenet RAG er en almindelig funktion i AI-værktøjer, der kører komplekse arbejdsgange.
  • HyDE (Hypothetical Document Embeddings): Hypotetiske dokumentindlejringer er AI-genererede svar, der simulerer, hvordan et ideelt svar på en brugerprompt kunne se ud. De bruges til at forfine RAG-forespørgslen og forbedrer dermed nøjagtigheden af den hentede information.

De vigtigste anvendelser af RAG med eksempler

Hvordan ser RAG ud i den virkelige verden? Hvis du har stillet en AI-chatbot et spørgsmål om et tidsfølsomt emne, har sendt en forespørgsel til en kundeservicebot eller har brugt en personlig assistent til administrative opgaver, har du gjort brug af RAG.

De vigtigste RAG-eksempler i forbruger- og virksomhedssammenhænge er websøgning, personlige assistenter (også inden for kodning), kodeassistenter, kundeservice og videnstyring i virksomheder.

Websøgning

Websøgning er en udbredt form for RAG og nok den mest gennemgribende forbrugerrettede anvendelse. Alle de store chatbots tilbyder websøgning, hvor LLM’en bruger opdaterede kilder til at supplere informationen i sit træningsmateriale.

Orkestratoren i AI-værktøjet forbinder til en tredjepartssøgemaskine via et API-kald, og resultaterne føjes i form af uddrag til LLM’ens kontekstvindue. Det giver brugerne adgang til aktuelle begivenheder, ny forskning, produktinformation og andre emner, hvor informationen ændrer sig hyppigt.

I praksis kunne API-anmodningen se sådan ud:

json
{ "query": "latest US inflation news", "max_results": 1, "language": "en", "country": "US" }

De returnerede oplysninger vil omfatte kilden og uddraget:

json
{ "query": "latest US inflation news", "results": [ { "title": "US inflation rises slightly in latest report", "url": "https://example.com/us-inflation-report", "snippet": "Consumer prices increased in the latest monthly data, with housing and energy contributing to the rise.", "published_date": "2026-11-05" } ] }

Personlige AI-assistenter

Personlige assistenter bruger RAG til at oprette forbindelse til informationskilder i et personligt eller delt virksomhedsmiljø. Eksempler på informationskilder omfatter brugerens e-mails, filer, kalender og databaser.

Fordi information kan lagres på forskellige måder, forstås personlige assistenter bedst som fuldt agentiske RAG-systemer. De kan bruge API-kald, søgeordssøgning, tæt vektorhentning eller gennemgang af vidensgrafer afhængigt af prompten.

I stigende grad vil RAG-systemer i virksomheder indkode viden i vektordatabaser, så den let kan hentes af personlige assistenter på tværs af virksomheden, og mange AI-produkter til virksomheder er designet med dette for øje.

Kodeassistenter er også værd at nævne, fordi de udgør endnu et vigtigt anvendelsesområde. En kodeassistent som GitHub Copilot kan forbinde til et repository og projektspecifik dokumentation for at hente relevante filer, funktioner, symboler, vejledning, API’er og commit-historik.

Kundeservice

Kundeservice er et andet vigtigt anvendelsesområde for RAG, og brugen af AI-chatbots er steget hurtigt i de senere år. I sin rapport State of AI Customer Support fandt Crisp, at 40 % af samtalerne løses uden behov for et menneske, hvilket viser en høj grad af effektivitet.

Når en bruger stiller en kundeservicebot et spørgsmål, søger orkestratoren som regel i virksomhedens interne vidensbase. For at sikre nøjagtigheden bruges der også ofte korrigerende RAG og self-RAG, og samtalen overdrages til en menneskelig medarbejder, når det er relevant.

Vidensbaser i virksomheder

Udrulningen af AI-arbejdsgange og generative AI-værktøjer i mellemstore og store virksomheder er sket sideløbende med opbygningen af interne vidensbaser. Det giver assistenter på tværs af virksomheden adgang til interne data, samtidig med at privatlivet bevares, uanset om det drejer sig om følsomme kundeoplysninger, private virksomhedsdata eller specialiseret domæneviden.

Disse systemer er som regel bygget op omkring vektordatabaser, men der bruges også andre RAG-metoder. Microsoft 365 Copilot har for eksempel et API-lag, der eksponerer forskellige informationskilder, herunder vektordatabaser, vidensgrafer og semantiske indekser, for at give bred adgang til virksomhedens data.

Disse RAG-systemer er typisk også indbygget i virksomhedspakkerne til agentiske værktøjer til generelle formål. Perplexity Enterprise giver for eksempel brugerne mulighed for at uploade store mængder dokumentation til sikker intern brug.

Brugerne kan også uploade deres egne filer i selvstændige projekter og dermed i bund og grund oprette mini-RAG-systemer. Søgninger kan kombineres med andre former for RAG, såsom websøgninger, for at opnå hybrid berigelse.

Hvad er forskellen på RAG og en LLM?

En stor sprogmodel (LLM) kan kun generere output ud fra information, der er repræsenteret i dens parametre. Den tildeler sandsynligheder til et internt ordforråd for at forudsige det næste ord, eller token, i en sekvens. Derfor kan den ikke give præcise svar, hvis dens parametre ikke er blevet trænet på relevant information.

I en AI-platform til generel eller specialiseret brug fungerer RAG-pipelines side om side med en LLM eller en gruppe af LLM’er. De forbinder til eksterne informationskilder for at supplere den inputkontekst, som sprogmodellen får, og det er den centrale forskel på RAG og LLM’er.

Beslutningen om, hvorvidt der skal hentes yderligere information, eller om der udelukkende skal bruges parametrisk viden, kan træffes enten på orkestratorniveau, typisk ved hjælp af regelbaseret logik, eller endda af LLM’en selv.

Hvad er forskellen på RAG og MCP?

RAG og model context protocol (MCP) forstås bedst som komplementære teknologier. MCP er en åben standard for at opbygge en arkitektur, der giver AI-værktøjer adgang til ekstern funktionalitet, ressourcer og prompts via ét enkelt endpoint.

Når et AI-værktøj forbinder til en MCP-server, eksponerer serveren alle de primitiver (MCP-værktøjer, ressourcer og prompts), som klienten har tilladelse til at tilgå. Klienten er den komponent, der etablerer forbindelsen mellem orkestratoren på klientsiden og serveren. Nogle gange kan det indebære, at databaser og informationskilder eksponeres, og i så fald fungerer MCP som mellemled i hentningslaget i en RAG-pipeline.

Hvad er forskellen på RAG og en API?

En API er en defineret grænseflade, som to applikationer kan bruge til at sende anmodninger til hinanden. RAG er den proces, hvorved LLM’er kan få adgang til ekstern information for at forbedre og udvide deres output.

RAG bruger ofte API-kald til at hente information. Ved informationshentning via websøgning formulerer orkestratoren for eksempel en API-anmodning til den relevante søgemaskine på baggrund af brugerens prompt.

Hvorfor RAG er vigtigt, og hvordan det fortsat vil udvikle sig

RAG er vigtigt, fordi LLM’er i sagens natur er begrænset af deres træningsdata. Der findes store mængder information, fra aktuelle begivenheder til intern virksomhedsviden, som de ikke har adgang til. RAG løser dette problem uden at kræve uoverkommeligt mange ressourcer.

Informationshentning alene er dog ikke nok, og derfor vil RAG fortsætte med at udvikle sig. RAG udgør en stor del af den aktuelle AI-forskning og fokuserer på at forbedre systemerne, så de returnerer den rigtige information på tværs af en lang række formater og vurderer og prioriterer den effektivt.

I takt med at RAG bliver mere kraftfuldt, øges også nytten af AI-systemer i vigtige anvendelser for forbrugere og virksomheder. Det gælder blandt andet kundeservice, websøgning, kodning, personlige assistenter, specialiseret forskning og meget mere.