9 RAG piemēri, kas balstīti uz reālās pasaules lietošanas gadījumiem un arhitektūrām

RAG tiek plaši izmantots gan patērētāju, gan uzņēmumu vidē. Reāli ikdienas piemēri RAG izmantošanai ir tīmekļa meklēšana, klientu atbalsts un ar AI iespējota iepirkšanās. Iekšējo zināšanu pieejamība un palīdzība programmēšanā ir starp ievērojamākajiem biznesa piemēriem.

RAG arhitektūra var atšķirties arī atkarībā no lietošanas gadījuma. Divas no visizplatītākajām ieviešanas metodēm ir hibrīda RAG, kas apvieno tradicionālo atslēgvārdu sakritību ar vektoru vai zināšanu grafa meklēšanu, un aģenta RAG, kurā LLM vadīšanai izmanto izguves procesu.

Kas ir izguves papildināta ģenerēšana (RAG)?

RAG jeb izguves papildināta ģenerēšana ļauj AI lietotnēm piekļūt informācijai, kas glabājas ārējās sistēmās, lai papildinātu LLM ģenerētās atbildes.

Tā ir jaudīga tehnoloģija, jo tārisina trīs galvenās ģeneratīvā AI problēmas: halucinācijas, novecojušu informāciju un piekļuves trūkumu datiem, kas naviekļauti ievades kontekstā.

Lūk, kā izskatās pamata RAG process:

1. Lietotājs ievada uzvedni dabiskajā valodā.
2. AI lietotne nosaka, vai ir nepieciešama pamatotība, dažkārt iesaistot LLM.
3. Pieprasījums tiek nosūtīts uz ārēju informācijas avotu, piemēram, datu bāzi.
4. Izgūtā informācija tiek pievienota LLM konteksta ievadei.
5. LLM ģenerē atbildi, pamatojoties uz papildināto uzvedni.

Lai gan konkrētajā ieviešanā tās var atšķirties, šīs darbības atspoguļo tipisku RAG darbplūsmu. Atšķirības starp dažāda veida arhitektūrām parasti koncentrējas ap to, kā klientu lietotne apstrādā pieprasījumus un kāda ir izgūstamās informācijas daba.

RAG arhitektūras pārskats

Termins "izguves papildināta ģenerēšana" pirmo reizi parādījās 2020. gada pētījumā Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, ko publicēja Meta AI (agrāk Facebook AI Research) pētnieki kopā ar sadarbības partneriem no Londonas Universitātes koledžas un Ņujorkas Universitātes.

Agrīnas meklēšanas un ģenerēšanas (retrieve-then-generate) pieejas, ko nosacīti dēvē par "vienkāršo RAG" (naive RAG), kopš tā laika ir attīstījušās dažādos arhitektūras veidos, no kuriem daudzi pārklājas.

Vienkāršais RAG

Vienkāršais RAG izmanto vienkāršu izgūšanas un ģenerēšanas konveijeru, kas joprojām ir piemērots daudziem pamata pieprasījumiem. Visbiežāk sastopamais vienkāršā RAG piemērs ir vaicājuma konvertēšana sakārtotā skaitļu sarakstā, ko sauc par vektora iegulšanu (vector embedding) jeb vienkārši vektoru. Pēc tam vaicājuma iegulšana tiek saskaņota ar citiem vektoriem, kas attēlo fragmentus – satura daļas datubāzē vai indeksā (ko sauc par semantisko indeksu).

Uzlabotais RAG

Uzlabotais RAG optimizē posmus pirms un pēc informācijas izgūšanas. Paņēmieni ietver vaicājumu paplašināšanu, metadatu filtrēšanu un konteksta saspiešanu. Tie būtiski uzlabo izgūtās informācijas atbilstību un to, kā tā tiek modificēta pirms pievienošanas LLM ievades kontekstam.

Aģenta RAG

Aģenta RAG ir RAG konveijeru izpilde, ko veic uz LLM balstīts aģents. Aģents "izlemj", kuri rīki ir vispiemērotākie konkrētam uzvednei, un vada izgūšanu, dažreiz ciklā, lai ģenerētu atbilstošu atbildi.

Grafu RAG

Grafu RAG izgūst informāciju no zināšanu grafa, kas attēlo vienības (piemēram, objektus, jēdzienus un notikumus) un attiecības starp tām. Tas ir noderīgi, ja atbildei uz uzvedni ir nepieciešams, lai LLM apvienotu informāciju par dažādām vienībām.

Multimodālais RAG

Multimodālais RAG paplašina izgūšanu līdz tādam saturam kā attēli un audio gan vaicājuma, gan izgūšanas laikā. Šajos RAG konveijeros tiek izmantoti īpaši kodētāji, lai tekstu, attēlus vai audio pārvērstu iegulšanās.

Hibrīda RAG

Hibrīda RAG apvieno atslēgvārdu meklēšanu jeb leksisko izgūšanu ar vektoru izgūšanu vai zināšanu grafiem un apvieno rezultātus. Tas ir noderīgi, jo atslēgvārdu saskaņošana noteiktos kontekstos var būt ļoti precīza (vairāk nekā citas metodes).

Koriģējošais RAG

Koriģējošais RAG izvērtē atgriezto informāciju vai datus attiecībā uz to atbilstību vaicājumam. Tas var precizēt vai papildināt izgūtos fragmentus vai pilnībā tos aizstāt, izpildot citu pieprasījumu.

RAG piemēri pēc lietošanas gadījuma un nozares pielietojuma

Pastāv vairāki RAG piemēri gan patērētāju, gan uzņēmumu jomā. Tas lielā mērā ir saistīts ar to, ka RAG konveijeri ir integrēti lielākajā daļā galveno rīku. Turklāt daudzi pārdevēji piedāvā gatavas integrācijas, piemēram, klientu apkalpošanas tērzēšanas robotiem, kas ir veicinājis ieviešanu.

1. Tīmekļa meklēšana

Tīmekļa meklēšana ir viens no visuresošākajiem RAG piemēriem. Katru dienu miljoniem cilvēku izmanto AI rīkus, lai ģenerētu atbildes, kas balstītas uz informāciju, kura izgūta no tīmekļa.

Kā tas darbojas: AI lietotne meklē tīmekļa indeksā, piemēram, Google Search indeksā, izmantojot uz atslēgvārdiem balstītu un semantisku izgūšanu. Attiecīgais lapas saturs tiek iekļauts kopā ar lietotāja jautājumu LLM ievadē. Pēc tam LLM ģenerē atbildi, parasti ar avotu atsaucēm.

Reāla pasaule piemērs: Ja lietotājs Perplexity tērzēšanas saskarnē ievada vienkāršu vaicājumu, piemēram, “Kāds ir laiks Čikāgā?”, LLM veiks tīmekļa meklēšanu, lai atrastu jaunāko informāciju. Perplexity izmanto patentētu tīmekļa indeksu kopā ar partneru meklēšanas API.

Izvērst

2. Klientu atbalsts

Lietotnēs un vietnēs izvietotie tērzēšanas roboti ir kļuvuši par nozīmīgu RAG lietošanas gadījumu uzņēmumos. Šīs sistēmas parasti tiek savienotas ar tradicionālajiem maršrutēšanas ceļiem, samazinot vajadzību pēc klientu pārstāvju iesaistes.

Kā tas darbojas: Kad klientam uzdod jautājumu, lietotne meklē uzņēmuma zināšanu bāzē, bieži vien izmantojot hibrīda konveijeru. Izgūtie fragmenti tiek nodoti LLM, kas ģenerē atbildi. Parasti ir iesaistīti arī koriģējoši un nodošanas procesi, lai apstiprinātu atbildi un vajadzības gadījumā novirzītu to pie pārstāvja.

Reāla pasaule piemērs: Dažādas klientu apkalpošanas platformas, tostarp Zendesk (skatīt zemāk) un Intercom, piedāvā gatavus klientu atbalsta tērzēšanas robotus, kas integrējas ar esošo dokumentāciju un klientu atbalsta bāzēm.

Izvērst

3. Personīgie asistenti

Personīgie asistenti izmanto aģenta RAG, lai piekļūtu lietotāja e-pastiem, failiem un kalendāram. Šie asistenti parasti var izpildīt vairākus RAG konveijerus.

Kā tas darbojas: Tā kā personīgajiem asistentiem bieži ir nepieciešama piekļuve vairākiem informācijas avotiem, tie izmanto API, atslēgvārdu meklēšanas, vektoru meklēšanas un zināšanu grafu kombināciju. Dažādus rīku aprakstus lietotne nosūta LLM, kas pēc tam izvēlas vispiemērotākos.

Reāla pasaule piemērs: Google Gemini kalpo kā labs piemērs lietotnei, kas var darboties kā vispārējas nozīmes un personīgais AI asistents (kā tas mūsdienās ir ar lielāko daļu asistentu). Tas integrējas ar rīku ekosistēmu, piemēram, Gmail, Docs, Photos un Calendar.

Izvērst

4. Uzņēmuma zināšanu pārvaldība

Uzņēmuma zināšanu pārvaldība ļauj darbiniekiem uzdot jautājumus par plašu uzņēmuma informācijas kopumu, tostarp politikas nostādnēm, ziņojumiem, projekta dokumentiem, juridiskiem tekstiem un pat iekšējām diskusijām.

Kā tas darbojas: Lietotne izgūst attiecīgo saturu, izmantojot vektoru indeksu, kas tiek atjaunināts, mainoties avota dokumentiem. Indeksā ir ieguljumi, kas attēlo dokumentu fragmentus, ar saitēm uz to tekstu un saistītajiem metadatiem.

Reāla pasaule piemērs: Microsoft 365 Copilot piekļūst organizācijas informācijai, izmantojot Microsoft Graph, kas nodrošina dažādas API datu avotiem, un izmanto leksiskos un semantiskos indeksus, lai izgūtu attiecīgo saturu.

Izvērst

5. Kodēšanas asistenti

Kodēšanas asistenti piemēro RAG koda bāzei. Lai gan pamatā esošais RAG process ir vienāds (parasti aģenta RAG), atšķirība ir tā, ka tie darbojas specifiski ar koda kontekstu.

Kā tas darbojas: Kodēšanas asistenti indeksē vietējā projekta failus un veic vairākas meklēšanas kārtas, lai, saņemot uzvedni, atrastu attiecīgos koda fragmentus. Šiem asistentiem parasti ir arī īpaši savienotāji piekļuves paplašināšanai, piemēram, korporatīvajām zināšanu bāzēm.

Reāla pasaule piemērs: GitHub Copilot ir labi pazīstams kodēšanas asistenta piemērs, kas integrējas tieši ar izstrādes projektiem. Tas var arī atsaukties uz publiskajām GitHub krātuvēm, lai palielinātu atbilžu precizitāti.

Izvērst

6. Tehniskā problēmu novēršana

Tehniskā problēmu novēršana integrē zināšanu pārvaldības RAG konveijeru ar diagnostikas cilpu. Aģents var izvērtēt rezultātus, lai pēc nepieciešamības vēl vairāk precizētu problēmu novēršanas ieteikumus.

Kā tas darbojas: Lietotne apkopo tehniskās problēmas simptomus no lietotāja vai saņem automatizētus uzraudzības brīdinājumus. Tā aktivizē kļūdu ziņojumu, tehnisko žurnālu un veiktspējas metriku meklēšanu, lai savstarpēji pārbaudītu simptomus. Pēc tam tā izgūst attiecīgo informāciju no iekšējās zināšanu bāzes, lai nodotu to tālāk LLM. Diagnostikas cilpa notiek, kad mēģināto labojumu rezultāti tiek padoti atpakaļ LLM, ko dara lietotājs vai diagnostikas rīks.

Reāla pasaule piemērs: Novērojamības platforma Datadog (skatīt zemāk) apkopo datus no visiem sistēmas slāņiem, ziņojot par jebkādām problēmām, tiklīdz tās rodas. Pēc tam tie tiek padoti specializētam AI aģentam ar nosaukumu Bits AI, lai novērstu iespējamos labojumus.

Izvērst

7. Aģenta tirdzniecība

Aģenta tirdzniecība ir plašāks lietošanas gadījums, kas parasti ietver RAG. Iepirkšanās aģents izgūst tādu informāciju kā produkta specifikācijas, atsauksmes, cenas un pieejamību, lai salīdzinātu opcijas un izskaidrotu ieteikumus. Pēc tam tas var automātiski veikt pirkumu, lietotājam neatstājot saskarni.

Kā tas darbojas: Aģenta tirdzniecība ir patess aģenta RAG piemērs, jo konkrētiem vaicājumiem bieži ir nepieciešamas dažādas izgūšanas formas, ko modelis vada. Aģents var izgūts tikai teksta produkta datus, izmantojot mazumtirgotāja API, vai arī tas var izmantot multimodālo RAG, lai semantiskajā indeksā atrastu produktus, pamatojoties uz lietotāja fotoattēlu.

Reāla pasaule piemērs: Vispārējas nozīmes aģents, piemēram, Perplexity, var izgūt vairākus attēlus un detalizētas produkta specifikācijas, pamatojoties uz uzvedni. Instant Buy norēķinu funkcija ļauj lietotājam pabeigt pirkumu pēc produkta izvēles.

Izvērst

8. Specializētās zināšanu jomas

AI rīkiem, kas izgūst specializētu domēna zināšanu, ir jātiek galā ar sarežģītiem satura formātiem. Turklāt halucināciju un informācijas robu samazināšana bieži vien ir prioritāte.

Kā tas darbojas: Galvenā atšķirība starp vispārējas nozīmes un specializētajām RAG arhitektūrām attiecas uz avota materiālu un izgūšanas konfigurāciju. Parasti tiks vaicāts tikai augsti autoritatīvs indekss, un pieprasījums tiks konfigurēts tā, lai iekļautu specifisku terminoloģiju meklēšanas sašaurināšanai.

Reāla pasaule piemērs: Akadēmiskās izpētes rīks Scite piekļūst lielam akadēmisko rakstu un citātu datu indeksam, kas izveidots, izmantojot izdevēju līgumus un atvērtās piekļuves avotus. Pirms pilnas atbildes ģenerēšanas tas piemēro arī pārbaudes pēc izgūšanas, piemēram, avota verifikāciju.

Izvērst

9. Datu analīze

RAG datu analīzei ir kļuvis par īpaši spēcīgu uzņēmuma lietošanas gadījumu, jo tas ļauj plašam profesionāļu lokam, jo īpaši tiem, kuriem nav apmācības datu zinātnē, vaicāt datu kopas, izmantojot dabisko valodu. Tas atvieglo ziņojumu ģenerēšanu un ļoti specifisku jautājumu uzdošanu.

Kā tas darbojas: Uz jautājumu, piemēram, “Kāpēc iepriekšējā ceturksnīkritās pārdošanas apjomi?”, lietotne var vaicāt pārdošanas ierakstus un izgūt piezīmes par krājumu trūkumu vai cenu izmaiņām. LLM izvēlas atbilstošo aprēķinu (kas parasti tiek deleģēts aprēķinu rīkam) izgūtajiem datiem pirms analīzes ģenerēšanas.

Reāla pasaule piemērs: Google Analytics piedāvā AI “Ask Advisor” tērzēšanas robotu, kas var piekļūt tīmekļa analītikas datiem un atbildēt uz lietotāju ļoti specifiskiem, niansētiem jautājumiem. Tas ir viens no labākajiem reālās pasaules piemēriem uzņēmuma klases slēgtās sistēmas RAG.

Izvērst

Kas sagaidāms RAG evolūcijā?

RAG bija nozīmīgs sasniegums, kad tas pirmo reizi tika ieviests. Tas palīdzēja risināt daudzas problēmas, kas raksturīgas atsevišķiem LLM.

Tomēr tā nebūt nav statiska tehnoloģija. Pašreizējā izpēte ir vērsta uz dziļāku multimodālo izgūšanu un stingrāku izgūtā konteksta apstrādi precizitātes un pareizības nodrošināšanai. Turklāt mēs, visticamāk, redzēsim lielāku RAG integrāciju vairāku rīku aģentos.

Pat ar ārkārtīgi lieliem konteksta logiem pastāv svarīgi RAG lietošanas gadījumi gan personīgajā, gan profesionālajā kontekstā, un priekšā ir daudz jaunu inovāciju.