RAG á móti LLM: Tæknilegt yfirlit (skilgreiningar, munur, notkunartilfelli)

LLM búa til svör með stikum sem hafa lært af mynstrum í þjálfunargögnum þeirra. Þar sem þessir stikar endurspegla ekki endilega nýlegar eða fullkomnar upplýsingar bætir RAG, sem stendur fyrir retrieval-augmented generation, ferlið með því að bæta gögnum frá utanaðkomandi heimildum við inntakssamhengi LLM. Gervigreindartól sækir upplýsingar utan frá til að auka myndunarferli LLM.

Í raun og veru stendur valið ekki á milli RAG eða LLM. Það stendur á milli samsettrar nálgunar og þeirrar sem notar aðeins LLM.

RAG er nauðsynlegt þegar LLM þarf aðgang að fyrirtækjaskjölum, gagnagrunnum eða upplýsingum sem breytast hratt. Einungis LLM-aðferð hentar fyrir ákveðin stjórnsýslu-, gagnavinnslu- og efnissköpunarverkefni þar sem öll inntök geta komið frá notandanum.

RAG á móti LLM: Hver eru helstu munurinn?

• RAG og LLM eru samverkandi kerfi. Þú getur notað gervigreindarlíkan án RAG (þar sem það reiðir sig eingöngu á núverandi stika sína), en þú getur ekki notað RAG-kerfi án líkans.
• RAG var kynnt til að vinna bug á þremur lykilvandamálum LLM: úreltum upplýsingum, tilbúnum svörum og skorti á staðfestingu gagnvart heimildum þriðja aðila.
• RAG gerir gervigreind miklu áhrifaríkari í raunverulegum viðskiptasamhengjum vegna þess að það tengir LLM við staðfest innri skjöl, gagnagrunna og API-endapunkta.
• Helstu notkunartilfelli RAG eru meðal annars spjallmenni þjónustuvera, fyrirspurnir byggðar á hratt breytilegum gögnum (eins og fréttum í greininni) og sérhæfð svið, eins og læknisfræði og lögfræði, þar sem nákvæmni og staðfesting staðreynda frá heimildum skipta máli.
• Til eru þrjár megingerðir RAG: einföld RAG, einingabundin RAG og þróuð RAG. Einföld RAG má best skilja sem beina upplýsingaheimt, en einingabundin og þróuð RAG bæta við aukinni virkni eins og endurritun fyrirspurna og hagræðingu klumpa.

Hvað er stórt tungumálalíkan (LLM)?

LLM, eða stórt tungumálalíkan, er kerfi sem býr til efni með fínstilltum stikum. Þessir stikar ákvarða líkurnar sem eru úthlutaðar öllum táknum í orðaforða LLM og gefa til kynna hvaða tákn er líklegast til að koma næst í tiltekinni röð.

Til að skilja betur hvernig RAG virkar (og hvernig það frábrugðið er) LLM er gagnlegt að skoða hvernig skapandi gervigreind virkar á grunnstigi:

1. Táknun: Leiðbeiningaskjal notanda er skipt í tákn, sem geta verið orð, orðhlutar eða stök tákn.
2. Innfelling: Tákn eru umbreytt í innfellingar, tölulegar framsetningar (talnarunur) sem kallast vigrar og tauganetið, sem felur í sér afkóðara, getur unnið úr.
3. Afkóðun: Lög afkóðarans (sem mynda stóran hluta tauganets LLM) vinna með þessa vigra og nota ferli sem kallast athygli til að fanga merkingu. Þetta ferli ákvarðar hversu sterkt hvert tákn ætti að tengjast öðrum táknum í röðinni.
4. Stigagjöf: Líkanið úthlutar samræmislíkindum fyrir hvert tákn í fyrirliggjandi orðaforða sínum og velur líklegt næsta tákn í röðina.

Mikilvægi punkturinn er að LLM getur aðeins búið til úttak út frá fyrirliggjandi stikum og táknunum í samhengi sínu. Á þjálfunartíma er LLM beðið um að klára hluta ófullnægjandi texta milljarða sinnum, og stikum þess er breytt þar til það úthlutar táknum líkum á áreiðanlegan hátt (og klárar því textann).

Segjum til dæmis að þú spyrðir gervigreindarlíkan spurningarinnar: „Hvað segir endurgreiðslustefna fyrirtækisins okkar fyrir 2026?“ LLM getur aðeins spáð fyrir um næstu tákn út frá fyrirliggjandi stikum sínum, sem hafa ekki verið fínstilltar með stuðningsgögnum þínum. Ef þú spyrð það þessarar spurningar án nokkurs viðbótarsamhengis mun það einfaldlega ekki geta svarað á merkingarbæran hátt eða mun búa til ranga villuhugmynd.

Hvað er úttaksmyndun með endurheimt (RAG)?

RAG (úttaksmyndun með endurheimt) er ferlið þar sem upplýsingar frá utanaðkomandi kerfum eru teknar með í LLM-leiðbeiningaskjal.

Undirliggjandi LLM-ferlið, sem felur í sér innfellingu og líkindalega táknavalsleit, helst óbreytt. RAG bætir við forfasa þar sem leiðbeiningaskjali notandans er útvíkkað með viðbótargögnum.

Hér er yfirlit yfir hvernig RAG virkar:

1. Undirbúningur þekkingar: Þekkingarheimild er undirbúin. Þetta getur verið safn skjala, vigurgagnagrunnur, þekkingargraf eða lifandi vísitölusafn (eins og fyrir AI-leit).
2. Leiðbeiningar: Notandi slær inn leiðbeiningaskjal, til dæmis: „Ætti ég að fara í göngutúr í London í dag?“
3. Upplýsingaöflun: Upplýsingagjafi utan kerfis er spurður fyrir milligöngu leitarþáttar gervigreindartólsins. Það getur fellt inn leiðbeiningaskjalið, umbreytt því í vigur og síðan spurt vigurgagnagrunn. Að öðrum kosti getur það notað aðra aðferð, svo sem API-kall, leitarorðasamsvörun eða ferð yfir þekkingarritgraf.
4. Innsetning: Þessum upplýsingum er bætt við upprunalegt leiðbeiningaskjal notandans. Í dæminu með spurninguna um göngutúr í London gæti þetta falið í sér veðurupplýsingar í London og núverandi aðgengi vinsælla gönguleiða.
5. Svörun: LLM býr til svar á hefðbundinn hátt með því að nota útvíkkað leiðbeiningaskjal.

Á bak við tjöldin er sótti textinn settur inn í inntakssamhengið, gerður að táknum og felldur inn. Módelið vinnur síðan úr því viðbótarsamhengi í gegnum afkóðara sinn, sem breytir líkum úttakstákna.

Í grófum dráttum má skipta RAG í þrjár undirgerðir. Einföld RAG fylgir grunnferli RAG, sækir upplýsingar og setur þær inn í leiðbeiningaskjalið. Þróuð RAG bætir við auknum aðgerðum eins og endurritun fyrirspurna og mörgum fyrirspurnarumferðum. Einingabundin RAG vísar til gerðar arkitektúrs þar sem ólíkar þróaðar virkniþættir geta verið meðhöndlaðir sem einingar og sameinaðir eftir þörfum.

RAG á móti LLM: Yfirlit yfir notkunartilfelli

RAG veitir notendum aðgang að nýjustu gögnum. Það leiðir til LLM-úttaks þar sem ólíklegra er að villuhugmyndir og upplýsingabilanir komi fyrir. Ef þú þarft að sjá heimildirnar að upplýsingum sem notaðar eru í úttaki, er RAG einnig nauðsynlegt, þar sem ósnortin LLM-svör koma ekki með tilvísunum.

Stækka

Notkunartilfelli RAG

• Beiðnir um tímanæmar upplýsingar: Allar fyrirspurnir um upplýsingar sem verða fljótt úreltar, hvort sem það er eitthvað eins einfalt og veðurspá eða eins flókið og ítarleg greining á nýrri frétt, þurfa að byggjast á staðfestum heimildum þriðja aðila.
• Fyrirtækjaskjöl: Innri eða viðskiptavinaandlitin gervigreindarspjallmenni þar sem notendur spyrja spurninga tengdra fyrirtækja- eða vöruskjölum ættu að vera með RAG, sérstaklega ef skjöl eru oft uppfærð.
• Þjónustuver: Spjallmenni þjónustuvera þurfa aðgang að uppfærðum, ítarlegum stuðningsgögnum til að geta veitt nákvæm svör.
• Sérhæfð svið (lækningar, lögfræði, fjármál o.s.frv.): LLM sem hafa ekki verið þjálfuð á sérhæfðum gagnasöfnum lénsins (sérstaklega almenn módel) eiga yfirleitt erfitt með blæbrigði sérhæfðra fyrirspurna.

Notkunartilfelli LLM

• Stjórnsýsluverkefni: LLM geta klárað einföld verkefni með lágmarks töf. RAG er óþarft fyrir einfalda ritun og stjórnsýsluverkefni, eins og stafsetningarleiðréttingu eða samantekt, þar sem ekki er þörf á utanaðkomandi upplýsingum.
• Skapandi verkefni: Sum skapandi verkefni, eins og að búa til smásögu eða mynd, þurfa aðeins upplýsingarnar sem eru veittar í upprunalegu leiðbeiningaskjalinu.
• Rök- og gagnadrifin verkefni: Greiningar- og rökverkflæði sem vísa aðeins í þau gögn sem eru í leiðbeiningaskjali þurfa ekki RAG-getu.
• Almenn forritun: Þó að forritunarverkflæði kunni að krefjast aðgangs að lokuðum kóðagrunni eða skjölum, eru LLM mjög fær í að framkvæma almenn forritunarverkefni, eins og að laga villur og búa til föll, án þess að grípa til utanaðkomandi heimilda.

RAG á móti LLM með löngu samhengi, gervigreind með fulltrúum og jarðtenging

Til eru þrjú tengd hugtök sem skipta máli fyrir greinarmuninn á RAG og LLM. Þetta eru LLM með löngu samhengi, gervigreind með fulltrúum og jarðtenging.

LLM með löngu samhengi geta stundum komið í stað RAG-virkra kerfa, en gervigreind með fulltrúum og jarðtenging eru annaðhvort samheiti eða vinna samhliða þeim.

LLM með löngu samhengi

Þetta eru líkön með stórum samhengi, þar sem sum víða aðgengileg viðskiptalíkön geta unnið með allt að eina milljón tákna.

Ef viðeigandi efni kemst fyrir í samhengi líkansins og er tiltækt á textasniði eru ákveðnir kostir í því að nota einungis LLM-aðferð. Hún getur dregið úr líkum á sóknarvillum, veitt ítarlegra samhengi og útilokað þörfina á umfangsmikilli uppsetningu RAG-arkitektúrs.

Gervigreindarfulltrúi

Fulltrúi er kerfi sem nýtir mörg verkfæri, þar á meðal RAG-getu, til að framkvæma flókin verkefni. RAG er einn þáttur í gervigreind með fulltrúum, og fulltrúi mun oft nota mismunandi gerðir sóknaraðferða (t.d. vefleit vs. vigursókn) eftir efni leiðbeiningaskjals.

Jarðtenging

Jarðtenging vísar til víðtækara ferlisins við að nota sönnunargögn eða gögn til að bæta nákvæmni LLM-svarsins eða jarðtengja það. RAG er ein tegund jarðtengingar, en að bæta tækniskjali við samhengi tæki myndi einnig teljast jarðtenging.

RAG á móti LLM: Raunveruleg dæmi

Til að skilja betur hvernig RAG virkar samanborið við LLM-notkun án RAG getum við skoðað einfalt raunverulegt dæmi með Perplexity og tilgátu um fyrirtækjatilfelli þar sem lagt er upp í vigurgagnagrunn.

RAG á móti LLM með einföldu leiðbeiningaskjali

Hér er úttakið (takmarkað við tvær setningar) þegar Perplexity er spurt: „Ætti ég að fara í göngutúr í London í dag?“ með AI-vefleit (tegund RAG) slökkt á:

Já — ef veðrið er sæmilega þurrt og þú hefur tíma, gæti göngutúr í London í dag verið hressandi tilbreyting. Veldu leið meðfram South Bank, Regent’s Canal eða í gegnum Hyde Park, og taktu með þér létt vatnsþolið yfirhöfn ef ske kynni.

Berðu þetta saman við leiðbeiningaskjalið þegar LLM getur skoðað utanaðkomandi heimildir:

Já, þetta er góður dagur til að fara í göngutúr í London: spáin gerir ráð fyrir mildum hita, um 19–21°C, með sólglimur og aðeins mjög litlum líkum á rigningu. Með hálfskýjuðum himni og léttum andvara eru aðstæður þægilegar til að kanna garða eða leiðir meðfram ánni eins og South Bank.

Líkindi eru á milli þessara tveggja, þar sem LLM notar sama undirliggjandi ferli stigagjafar tákna. Hins vegar inniheldur annað dæmið ítarlegar veðrunarupplýsingar, sem gerir það miklu gagnlegra.

RAG á móti LLM með fyrirtækisvigurgagnagrunni

Ímyndaðu þér að notandi spyrji spjallmenni í forriti fyrir banka eftirfarandi spurningar: „Hvar get ég hlaðið niður nýjustu bankayfirlitinu mínu?“

Bankinn sem rekur appið hefur búið til gagnagrunn sem inniheldur innfellingar af uppfærðum vöruskjölum sínum og tengt hann við RAG-verkferil spjallmennisins. Skjölin samanstanda af um 1.000 upprunaskjölum, sem eru skipt niður í smærri klumpa og hafa verið umbreytt í vigra til sóknar.

Fyrirspurn notandans er send í innfellingarlíkan og forritið sendir þann vigur í gagnagrunninn, sem skilar viðeigandi klumpum.

Innbyggingarlíkanið myndi fá beiðni á þessa leið:

Innbyggingarlíkanið skilar eftirfarandi vigurinnfellingu:

Vigurgagnagrunnurinn fær síðan beiðni á þessa leið:

Í þessu (mjög einfölduðu) dæmi skilar gagnagrunnurinn þeim fimm klumpum sem eiga best við fyrirspurn notandans, og þeir eru sendir til forritsins og settir inn í LLM-leiðbeiningaskjalið.

Hvenær á að velja RAG fram yfir LLM, og hvenær á að sameina þau

LLM og RAG eru samverkandi kerfi. Því er spurningin „Hvenær ætti ég að velja LLM og hvenær RAG?“ röng sett fram. Frekar ættir þú að spyrja: „Hvenær nægir LLM og hvenær er RAG ákjósanlegt?“

Hvenær á að nota LLM án virkjaðs RAG

• Valda gervigreindarlíkanið þitt hefur stórt samhengi: Ef auðveldara er að setja allar upplýsingar eða gögn sem þarf til nákvæms svars inn í leiðbeiningaskjalið þitt, til dæmis með því að hlaða upp skjali, getur það dregið úr töf og komið í veg fyrir vandamál tengd sókn.
• Rök- og gagnaúrvinnsluverkflæði: Greiningar- og rökverkflæði sem vísa aðeins í gögnin sem eru í leiðbeiningaskjali þurfa ekki RAG-getu.
• Kóðagerð: RAG er yfirleitt ekki nauðsynlegt fyrir almenna forritun, þó það sé oft notað fyrir verkbundin verkefni, til dæmis til að sækja fyrri lagfæringar eða skráargögn og skjöl frá birgjum.

Hvenær á að nota LLM með RAG virkjað

• Þú þarft aðgang að uppfærðum upplýsingum: Ef gervigreindarforrit þarf aðgang að utanaðkomandi heimildum með uppfærðum upplýsingum til að búa til nákvæmt svar, tryggðu alltaf að RAG-geta sé virk.
• Þú vinnur á sérhæfðu sviði: Fyrir lén eins og læknisfræði, lögfræði, menntun og svo framvegis, þar sem nákvæmni, smáatriði og upprunaprófun skipta máli, nægir LLM-only notkun oft ekki.
• Úttök ættu að vísa í innri fyrirtækjaskrár: Ef þú notar gervigreind, annaðhvort innanhúss eða í viðskiptavinaforriti, til að búa til efni byggt á innri fyrirtækjaskjölum, hvort sem það eru gögn, vörumerkjagagnasett, skjöl eða skrár, veitir RAG aðgang að þeim upplýsingum.

RAG og LLM eru samverkandi, þróandi tækni

RAG markaði mikla nýjung í þróun gervigreindar. Hún leysir úr þremur stórum vandamálum: úreltum upplýsingum, takmörkuðu minni líkans og upplýsingabilunum vegna skorts á viðeigandi þjálfunargögnum, sem leiddu oft til villuhugmynda. Auðvitað hafa LLM ekki yfirstigið þetta með öllu, en tíðnin hefur minnkað verulega með tilkomu RAG.

RAG er ekki stöðug tækni. Gert er ráð fyrir að hún batni á mörgum sviðum, þar á meðal endurforgangsröðun, töf við sókn og táknanotkun, öryggisvörn gegn hættulegum gagnaheimildum, samþættingu sóttra gagna úr mörgum heimildum og fleira. Eftir því sem LLM og gervigreind með fulltrúum halda áfram að þróast munu RAG-kerfin sem styðja þau einnig þróast.