9 RAG-dæmi byggð á raunverulegum notkunartilvikum og arkitektúr

RAG er mikið notað bæði í neytenda- og fyrirtækjasamhengis. Raunveruleg, daglega dæmi um RAG eru vefleit, þjónustuver og innkaup studd af gervigreind. Aðgangur að innri þekkingargrunni og aðstoð við forritun eru meðal helstu dæma í viðskiptalífinu.

RAG-arkitektúr getur einnig verið breytilegur eftir notkunartilvikum. Tvær af algengustu útfærslunum eru tvinn-RAG (hybrid RAG), sem sameinar hefðbundna leitarorðaleit og vigur- eða þekkingarnetsleit, og umboðs-RAG (agentic RAG), þar sem stór málmódel (LLM) stýra sækiferlinu.

Hvað er sækjueigin (retrieval-augmented generation eða RAG)?

RAG, eða sækjueigin (retrieval-augmented generation), gerir gervigreindarforritum kleift að nálgast upplýsingar sem vistaðar eru í ytri kerfum til að styðja við svör sem búin eru til af stórum málmódelum (LLM).

Þetta er öflug tækni vegna þess að hún leysir þrjú stór vandamál í tengslum við skapandi gervigreind: ranghugmyndir (hallucinations), útrunnar upplýsingar og skort á aðgangi að gögnum sem eru ekki í inntakssamhenginu.

Svona lítur grundvallar RAG-ferlið út:

1. Notandinn slær inn fyrirspurn á náttúrulegu máli.
2. Gervigreindarforritið ákveður hvort staðfesting sé nauðsynleg, stundum með aðkomu LLM.
3. Beiðni er send í ytri upplýsingagjafa, svo sem gagnagrunn.
4. Sóttu upplýsingarnar er bætt við inntakssamhengi LLM.
5. LLM býr til svar byggt á stækkuðu fyrirspurninni.

Þótt þau geti verið breytileg í nákvæmri útfærslu tákna þessi skref dæmigert RAG-verkflæði. Mismunur á hinum ýmsu gerðum arkitektúrs snýst venjulega um hvernig beiðnir eru meðhöndlaðar af biðlaraforritinu og eðli þeirra upplýsinga sem sóttar eru.

Yfirlit yfir RAG-arkitektúr

Hugtakið „retrieval-augmented generation“ birtist fyrst í grein frá 2020 sem ber heitið Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, sem rannsakendur hjá Meta AI (þá Facebook AI Research) og samstarfsaðilar frá University College London og New York University gáfu út.

Snemmbúnar sækja-svo-búa-til nálganir, sem stundum eru látnar heita „naive RAG“, hafa síðan þróast í margskonar mismunandi arkitektúrgerðir, sem margar hverjar skarast.

Naive RAG

Naive RAG notar einfalda sækja-og-búa-til leiðslur, sem hentar enn fyrir mörg einföld beiðni. Algengasta dæmið um naive RAG er umbreyting fyrirspurnar í raðaðan lista af tölum sem kallast vigurinntak (vector embedding), eða einfaldlega vigur. Fyrirspurnarvigrinum er síðan jafnað við aðra vigra sem tákna bút, hluta af efni í gagnagrunni eða vísis (sem kallast semantískur vísir).

Ítarleg RAG (Advanced RAG)

Ítarleg RAG fínpússar stigin fyrir og eftir leit. Tækni felur í sér stækkun fyrirspurnar, lýsigagnasíun og samhengisþjöppun. Þetta bætir í grundvallaratriðum viðeigandi upplýsinga sem sóttar eru og hvernig þær eru breyttar áður en þeim er bætt við inntakssamhengi LLM.

Gervigreindarfulltrúa-RAG (Agentic RAG)

Gervigreindarfulltrúa-RAG er framkvæmd RAG-ferla af hálfu gervigreindarfulltrúa sem byggir á LLM. Fulltrúinn „ákveður“ hvaða verkfæri hentar best fyrir gefna fyrirspurn og stýrir leit, stundum í lykkju, til að búa til viðeigandi svar.

Graf-RAG (Graph RAG)

Graf-RAG sækir upplýsingar úr þekkingarriti sem táknar einingar (svo sem hluti, hugtök og atburði) og tengsl þeirra á milli. Þetta er gagnlegt þegar svar við fyrirspurn krefst þess að LLM sameini upplýsingar um ólíkar einingar.

Fjölbreytt RAG (Multimodal RAG)

Fjölbreytt RAG breiðir úr leit til efnis eins og myndum og hljóði bæði við fyrirspurn og leit. Þessar RAG-leiðslur nota sérstaka kóðara til að breyta texta, myndum eða hljóði í vigra.

Tvinn-RAG (Hybrid RAG)

Tvinn-RAG sameinar leitarorðaleit, eða orðasækni, við vigurleit eða þekkingarrit og sameinar niðurstöðurnar. Þetta er gagnlegt vegna þess að leitarorðasamsvörun getur verið mjög nákvæm (meira en aðrar aðferðir) í ákveðnu samhengi.

Leiðréttingar-RAG (Corrective RAG)

Leiðréttingar-RAG metur skilaðar upplýsingar eða gögn með tilliti til viðeigandi við fyrirspurninni. Það getur fínstillt eða bætt við sóttu textabútana eða skipt þeim út að fullu með því að framkvæma aðra beiðni.

RAG-dæmi eftir notkunartilviki og atvinnugrein

Það eru til mörg dæmi um RAG bæði á neytenda- og viðskiptasviðinu. Þetta er að stórum hluta tilkomið vegna þess að RAG-ferlar hafa verið samþættir í flest öll helstu verkfæri. Að auki bjóða margir söluaðilar upp á tilbúnar samþættingar, eins og fyrir spjallmenni í þjónustuverum, sem hefur auðveldað upptöku.

1. Vefleit

Vefleit er eitt af útbreiddustu dæmunum um RAG. Daglega nota milljónir manna gervigreindartæki til að búa til svör sem byggja á upplýsingum sem sóttar eru af vefnum.

Hvernig þetta virkar: Gervigreindarforritið leitar í vefvísis, eins og Google Search vísis, með því að nota leitarorðatengda og semantíska leit. Viðeigandi efni síðna er tekið með ásamt spurningu notandans í inntaki LLM. LLM býr svo til svar, venjulega með tilvísunum í heimildir.

Raunverulegt dæmi: Ef notandi slær inn einfalda fyrirspurn í spjallviðmót Perplexity, eins og „Hvernig er veðrið í Chicago?“, mun LLM framkvæma vefleit til að finna nýjustu upplýsingar. Perplexity notar einkaleyfisvísis á vefnum ásamt leitarforritsviðmótum samstarfsaðila.

Stækka

2. Þjónustuver

Spjallmenni í forritum og á vefsvæðum hafa komið fram sem stórt notkunartilvik fyrirtækja fyrir RAG. Þessi kerfi tengjast venjulega við hefðbundnar leiðunarleiðir, sem dregur úr þörf fyrir aðkomu þjónustufulltrúa.

Hvernig þetta virkar: Þegar viðskiptavinur spyr spurningar leitar forritið í þekkingargrunni fyrirtækisins, oft með því að nota tvinnleiðslu. Sóttu textabútarnir eru látnir í té við LLM, sem býr til svar. Það eru einnig venjulega leiðréttingar- og yfirfærsluferlar til staðar til að staðfesta svarið og, ef þörf krefur, beina því til fulltrúa.

Raunverulegt dæmi: Ýmsir þjónustuvettvangar, þar á meðal Zendesk (sýnt hér að neðan) og Intercom, bjóða upp á tilbúin þjónustuverspjallmenni sem samþættast við núverandi skjöl og þjónustuver.

Stækka

3. Persónulegir aðstoðarmenn

Persónulegir aðstoðarmenn nota gervigreindarfulltrúa-RAG til að fá aðgang að tölvupósti, skrám og dagatali notandans. Þessir aðstoðarmenn geta venjulega framkvæmt margar RAG-leiðslur.

Hvernig þetta virkar: Þar sem persónulegir aðstoðarmenn krefjast oft aðgangs að mörgum upplýsingagjöfum, nota þeir blöndu af forritsviðmótum, leitarorðaleit, vigurleit og þekkingarritum. Forritið sendir mismunandi lýsingar á verkfærum til LLM, sem velur þá þau sem eiga best við.

Raunverulegt dæmi: Google Gemini þjónar sem gott dæmi um forrit sem getur virkað sem almennur og persónulegur gervigreindaraðstoðarmaður (eins og raunin er með flesta aðstoðarmenn nú á dögum). Það samþættist vistkerfi verkfæra eins og Gmail, Docs, Photos og Calendar.

Stækka

4. Þekkingarstjórnun fyrirtækja (Enterprise knowledge management)

Þekkingarstjórnun fyrirtækja gerir starfsmönnum kleift að spyrja spurninga um breitt úrval fyrirtækjagagna, þar á meðal stefnur, skýrslur, verkefnisskjöl, lagatexta og jafnvel innri umræður.

Hvernig þetta virkar: Forritið sækir viðeigandi efni með því að nota vigurvísis sem er uppfærður þegar upprunaskjöl breytast. Vísirinn inniheldur vigurinntök sem tákna skjalabúta, með tenglum á texta þeirra og tilheyrandi lýsigögnum.

Raunverulegt dæmi: Microsoft 365 Copilot fær aðgang að skipulagsheildarupplýsingum í gegnum Microsoft Graph, sem býður upp á ýmis forritsviðmót fyrir gagnagjafa, og notar orða- og semantíska vísa til að sækja viðeigandi efni.

Stækka

5. Forritunaraðstoðarmenn

Forritunaraðstoðarmenn nota RAG á kóðagrunn. Þó að undirliggjandi RAG-ferli sé hið sama (venjulega gervigreindarfulltrúa-RAG), er munurinn sá að þeir fást sérstaklega við kóðasamhengi.

Hvernig þetta virkar: Forritunaraðstoðarmenn setja upp vísis fyrir staðbundin verkefnisskrá og framkvæma margar leitarlotur til að finna viðeigandi kóðabúta þegar beðið er um það. Þessir aðstoðarmenn hafa einnig venjulega sérstakar tengingar til að auka aðgang, svo sem að þekkingargrunnum fyrirtækja.

Raunverulegt dæmi: GitHub Copilot er þekkt dæmi um forritunaraðstoðarmann sem samþættist beint við þróunarverkefni. Hann getur einnig vísað í opinberar GitHub-geymslur til að auka nákvæmni svars.

Stækka

6. Tæknileg úrræðaleit

Tæknileg úrræðaleit samþættir RAG-leiðslu fyrir þekkingarstjórnun við greiningarlykkju. Gervigreindarfulltrúi getur metið niðurstöður til að fínstilla tillögur um úrræðaleit eftir þörfum.

Hvernig þetta virkar: Forrit safnar einkennum tæknilegs vandamáls frá notanda eða tekur á móti sjálfvirkum vöktunarviðvörunum. Það ræsir leit í villuskilaboðum, tæknilegum skrám og árangursmælingum til að bera saman einkennin. Það sækir síðan viðeigandi upplýsingar úr innri þekkingargrunni til að senda áfram til LLM. Greiningarlykkjan verður til þegar niðurstöður úr reyndri lagfæringu fara aftur inn í LLM, annað hvort frá notanda eða greiningartæki.

Raunverulegt dæmi: Fylgnivettvangurinn Datadog (sýnt hér að neðan) safnar gögnum úr öllum lögum kerfis og merkir öll vandamál þegar þau koma upp. Þau eru síðan send inn í sérhæfðan gervigreindarfulltrúa sem kallast Bits AI til að leita að hugsanlegum lagfæringum.

Stækka

7. Viðskipti knúin gervigreindarfulltrúum (Agentic commerce)

Viðskipti knúin gervigreindarfulltrúum eru víðtækara notkunartilvik sem felur venjulega í sér RAG. Innkaupafulltrúi sækir smáatriði eins og vörulýsingar, umsagnir, verð og framboð til að bera saman valkosti og útskýra tillögur. Hann getur síðan sjálfkrafa framkvæmt kaupin án þess að notandinn yfirgefi viðmótið.

Hvernig þetta virkar: Viðskipti knúin gervigreindarfulltrúum eru sönn gervigreindarfulltrúa-RAG vegna þess að tilteknar fyrirspurnir krefjast oft mismunandi forma leitar, sem líkanið stýrir. Fulltrúi gæti sótt eingöngu textavörusölu í gegnum forritsviðmót söluaðila, eða hann gæti notað fjölbreytt RAG til að passa vörur í semantískum vísi á grundvelli ljósmyndar frá notanda.

Raunverulegt dæmi: Almennur gervigreindarfulltrúi eins og Perplexity getur sótt margar myndir og ítarlegar vörulýsingar á grundvelli fyrirspurnar. Skyndikaupahnappurinn (Instant Buy checkout feature) gerir notandanum kleift að ljúka kaupunum eftir að hafa valið vöru.

Stækka

8. Sérhæfð þekkingarsvið

Gervigreindartæki sem sækja sérhæfða þekkingarsvið þurfa að fást við flókin efnissnið. Að auki er lágmörkun ranghugmynda og upplýsingabila oft í fyrirrúmi.

Hvernig þetta virkar: Helsti munurinn á milli almennra og sérhæfðra RAG-arkitektúra tengist upprunaefni og leitastillingum. Venjulega verður aðeins leitað í mjög áreiðanlegum vísi og beiðnin verður stillt þannig að hún innihaldi sértæka hugtakanotkun til að þrengja leit.

Raunverulegt dæmi: Fræðilega rannsóknartækið Scite fær aðgang að stórum vísi yfir fræðigreinar og tilvitnunargögn sem hefur verið byggður upp í gegnum samninga við útgefendur og opna aðgangsheimildir. Það beitir einnig athugunum eftir leit, svo sem staðfestingu á heimildum, áður en fullt svar er búið til.

Stækka

9. Gagnagreining

RAG fyrir gagnagreiningu hefur orðið sérstaklega öflugt notkunartilvik fyrirtækja vegna þess að það gerir fjölbreyttum hópi fagfólks, sérstaklega þeim sem hafa ekki þjálfun í gagnavísindum, kleift að spyrja gagnasöfn spurninga á náttúrulegu máli. Þetta gerir það auðveldara að búa til skýrslur og spyrja mjög sértækra spurninga.

Hvernig þetta virkar: Fyrir spurningu eins og „Hvers vegna drógust söluútkomur saman á síðasta fjórðungi?“, gæti forritið leitað í sölu skrám og sótt athugasemdir um birgðaskort eða verðbreytingar. LLM velur viðeigandi útreikning (sem er venjulega falinn öðru útreikningstæki) fyrir sóttu gögnin áður en greining er búin til.

Raunverulegt dæmi: Google Analytics býður upp á gervigreindarspjallmennið „Ask Advisor“ sem hefur aðgang að vefgagnagrunni og getur svarað mjög sértækum og blæbrigðaríkum spurningum frá notendum. Það er eitt besta raunverulega dæmið um RAG í lokuðu kerfi á fyrirtækjastigi.

Stækka

Hvað er framundan í þróun RAG?

RAG var mikilvæg þróun þegar það var fyrst kynnt til sögunnar. Það hjálpaði til við að leysa mörg vandamál sem fylgja sjálfstæðum LLM-líkönum.

Hins vegar er þetta fjarri því að vera stöðun tækni. Núverandi rannsóknir beinast að dýpri fjölbreyttri leit og strangari úrvinnslu á sóttu samhengi með tilliti til nákvæmni og réttmæti. Að auki erum við líkleg til að sjá meiri samþættingu á RAG í fjölverkfæra gervigreindarfulltrúum.

Jafnvel með afar stórum inntakssvæðum (context windows), eru mikilvæg notkunartilvik fyrir RAG bæði í persónulegu og faglegu samhengi og margar nýjungar enn ókomnar.