9 RAG-példa valós felhasználási esetek és architektúrák alapján

A RAG széles körben használatos lakossági és vállalati környezetben egyaránt. A RAG valós világabeli, mindennapi példái közé tartozik az webes keresés, az ügyfélszolgálat és az MI-alapú vásárlás. A legjelentősebb üzleti példák közé tartozik a belső tudás elérése és a kódolási segítség.

A RAG architektúra a felhasználási esetek függvényében is változhat. A két leggyakoribb megvalósítás a hibrid RAG, amely egyesíti a hagyományos kulcsszó-alapú egyeztetést a vektoros vagy tudásgráfos kereséssel, valamint az ügynökalapú RAG (agentic RAG), amelyben egy nagy nyelvi modell (LLM) irányítja a visszakeresési folyamatot.

Mi az a visszakereséssel kiegészített generálás (RAG)?

A RAG (retrieval-augmented generation) lehetővé teszi az MI-alkalmazások számára, hogy külső rendszerekben tárolt információkat érjenek el a nagy nyelvi modellek által generált válaszok kiegészítésére.

Ez egy hatékony technológia, mivel a generatív mesterséges intelligencia három fő problémáját oldja meg: a hallucinációkat, az elavult információkat, valamint a bemeneti kontextusban nem szereplő adatok elérésének hiányát.

Így néz ki egy alapvető RAG-folyamat:

1. A felhasználó természetes nyelven ad meg egy promptot.
2. Az MI-alkalmazás meghatározza, hogy szükséges-e megalapozottság, néha nagy nyelvi modell bevonásával.
3. Kérés érkezik egy külső információforráshoz, például egy adatbázishoz.
4. A visszakeresett információ hozzáadódik a nagy nyelvi modell bemeneti kontextusához.
5. A nagy nyelvi modell a kiegészített prompt alapján választ generál.

Bár a konkrét megvalósításban eltérhetnek, ezek a lépések egy tipikus RAG munkafolyamatot képviselnek. A különböző architektúratípusok közötti különbségek általában arra összpontosítanak, hogy a kliensalkalmazás hogyan kezeli a kéréseket, illetve milyen jellegű információt kérnek le.

Áttekintés a RAG architektúráról

A „visszakereséssel kiegészített generálás” kifejezés először a Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks című, 2020-as tanulmányban jelent meg, amelyet a Meta AI (akkori nevén Facebook AI Research) kutatói publikáltak a University College London és a New York University munkatársaival közösen.

A korai, lekérdezés-majd-generálás megközelítések, amelyeket laza elnevezéssel „naiv RAG-nak” is neveznek, azóta a különböző architektúratípusok sokaságává fejlődtek, amelyek közül sok átfedésben van egymással.

Naiv RAG

A naiv RAG egy egyszerű visszakeresési és generálási folyamatot használ, amely számos alapvető kérés esetén továbbra is megfelelő. A naiv RAG leggyakoribb példája egy lekérdezés átalakítása számok rendezett listájává, amelyet vektorembeeddingnek vagy egyszerűen vektornak neveznek. A lekérdezés embeddingjét ezután összehasonlítják más vektorokkal, amelyek adatbázisban vagy indexben (ún. semantikus indexben) található tartalomdarabokat (chunkokat) képviselnek.

Speciális (Advanced) RAG

A speciális RAG optimalizálja a visszakeresés előtti és utáni szakaszokat. A technikák közé tartozik a lekérdezésbővítés, a metaadat-szűrés és a kontextustömörítés. Ezek lényegében javítják a visszakeresett információ relevanciáját, valamint azt, hogy hogyan módosítják a nagy nyelvi modell bemeneti kontextusához való hozzáadás előtt.

Ügynökalapú (Agentic) RAG

Az ügynökalapú RAG a RAG-folyamatok végrehajtása egy nagy nyelvi modell alapú ügynök által. Az ügynök „eldönti”, hogy mely eszközök a legmegfelelőbbek egy adott prompthoz, és irányítja a visszakeresést – néha egy ciklusban –, hogy releváns választ generáljon.

Gráf RAG

A gráf RAG információkat kér le egy tudásgráfból, amely entitásokat (például objektumokat, fogalmakat és eseményeket) valamint az ezek közötti kapcsolatokat reprezentál. Ez akkor hasznos, ha egy prompthoz adott válasz megköveteli, hogy a nagy nyelvi modell különböző entitásokra vonatkozó információkat kombináljon.

Multimodális RAG

A multimodális RAG a lekérdezés és a visszakeresés során is kiterjeszti a visszakeresést olyan tartalmakra, mint a képek és a hangok. Ezek a RAG-folyamatok speciális kódolókat használnak a szövegek, képek vagy hangok embeddingekké történő átalakítására.

Hibrid RAG

A hibrid RAG egyesíti a kulcsszóalapú keresést (vagyis a lexikális visszakeresést) a vektoros visszakereséssel vagy a tudásgráfokkal, és egyesíti az eredményeket. Ez azért hasznos, mert a kulcsszó-egyeztetés bizonyos contextosban rendkívül pontos lehet (nagyobb mértékben, mint más módszerek).

Korrektív RAG

A korrektív RAG értékeli a visszatért információk vagy adatok relevanciáját a lekérdezéshez képest. Finomíthatja vagy kiegészítheti a visszakeresett részeket, vagy egy újabb kérés végrehajtásával teljesen lecserélheti azokat.

RAG-példák felhasználási esetek és iparági alkalmazások szerint

A RAG-ra számos példa létezik a lakossági és az üzleti szférában egyaránt. Ez nagy részben annak köszönhető, hogy a RAG-folyamatokat beépítették a legtöbb mainstream eszközbe. Ezenkívül számos gyártó kínál használatra kész integrációkat – például az ügyfélszolgálati csevegőrobotokhoz –, ami megkönnyítette az elterjedést.

1. Webes keresés

A webes keresés a RAG egyik legelterjedtebb példája. Emberek milliói használják nap mint nap az MI-eszközöket olyan válaszok generálására, amelyek a webről lekérdezett információkon alapulnak.

Hogyan működik: Az MI-alkalmazás kulcsszó-alapú és szemantikus visszakeresés használatával kutat át egy webes indexet, például a Google Search indexét. A releváns oldal tartalma a felhasználó kérdésével együtt bekerül a nagy nyelvi modell bemenetébe. A nagy nyelvi modell ezután választ generál, általában forráshivatkozásokkal együtt.

Valós példa: Ha egy felhasználó beír egy egyszerű lekérdezést a Perplexity csevegőfelületébe, például: „Milyen az időjárás Chicagóban?”, a nagy nyelvi modell webes keresést végez a naprakész információk megtalálása érdekében. A Perplexity saját fejlesztésű webes indexet használ a partner keresési API-kkal együtt.

Nagyítás

2. Ügyfélszolgálat

Az alkalmazáson belüli és webhelyen található csevegőrobotok a RAG jelentős vállalati felhasználási esetévé váltak. Ezek a rendszerek általában a hagyományos útválasztási útvonalakkal párosulnak, csökkentve az ügyfélszolgálati munkatársak bevonásának szükségességét.

Hogyan működik: Amikor egy ügyfél kérdést tesz fel, az alkalmazás – gyakran hibrid folyamatot használva – átkutatja a vállalat tudásbázisát. A visszakeresett részeket továbbítják a nagy nyelvi modellnek, amely választ generál. Általában korrektív és átadási folyamatok is szerepet játszanak a válasz érvényesítésében, és szükség esetén az ügyfélszolgálati munkatárshoz történő átirányításban.

Valós példa: Különféle ügyfélszolgálati platformok, beleértve a Zendesk-et (alább látható) és az Intercomot, kész ügyfélszolgálati csevegőrobotokat kínálnak, amelyek integrálhatók a meglévő dokumentációval és ügyfélszolgálati bázisokkal.

Nagyítás

3. Személyi asszisztensek

A személyi asszisztensek ügynökalapú RAG-ot használnak a felhasználó e-mailjeinek, fájljainak és naptárának eléréséhez. Ezek az asszisztensek jellemzően több RAG-folyamatot is képesek végrehajtani.

Hogyan működik: Mivel a személyi asszisztensek gyakran több információforráshoz való hozzáférést igényelnek, az API-k, a kulcsszavas keresés, a vektoros keresés és a tudásgráfok keverékét használják. Az alkalmazás különböző eszközleírásokat küld a nagy nyelvi modellnek, amely ezután kiválasztja a legmegfelelőbbeket.

Valós példa: A Google Gemini jó példája egy olyan alkalmazásnak, amely általános célú és személyes MI-asszisztensként is képes működni (ahogyan ez manapság a legtöbb asszisztens esetében van). Integrálódik az eszközök ökoszisztémájával, például a Gmaillel, a Docs-szal, a Fotókkal és a Naptárral.

Nagyítás

4. Vállalati tudáskezelés

A vállalati tudáskezelés lehetővé teszi az alkalmazottak számára, hogy kérdéseket tegyenek fel a vállalati információk széles körében, beleértve a szabályzatokat, jelentéseket, projekt-dokumentumokat, jogi szövegeket és akár a belső megbeszéléseket is.

Hogyan működik: Az alkalmazás olyan vektorindex segítségével kéri le a releváns tartalmat, amely a forrásdokumentumok változásával együtt frissül. Az index a dokumentumdarabokat reprezentáló embeddingeket tartalmazza, amelyek a szövegre és a kapcsolódó metaadatokra mutató hivatkozásokkal rendelkeznek.

Valós példa: A Microsoft 365 Copilot a Microsoft Graphon keresztül éri el a szervezeti információkat, amely különféle API-kat biztosít az adatforrásokhoz, és lexikális, valamint szemantikus indexeket használ a releváns tartalom lekéréséhez.

Nagyítás

5. Kódolási asszisztensek

A kódolási asszisztensek RAG-ot alkalmaznak egy kódbázison. Bár a mögöttes RAG-folyamat ugyanaz (általában ügynökalapú RAG), a különbség abban áll, hogy kifejezetten a kódkontextussal foglalkoznak.

Hogyan működik: A kódolási asszisztensek indexelik a helyi projektfájlokat, és felszólításra többkereséses meneteket hajtanak végre a releváns kódrészletek megtalálásához. Ezek az asszisztensek jellemzően dedikált csatlakozókkal is rendelkeznek a hozzáférés kiterjesztéséhez, például a vállalati tudásbázisokhoz.

Valós példa: A GitHub Copilot egy jól ismert példa a fejlesztési projektekkel közvetlenül integrálódó kódolási asszisztensre. A válaszok pontosságának növelése érdekében nyilvános GitHub-tárolókra is hivatkozhat.

Nagyítás

6. Műszaki hibaelhárítás

A műszaki hibaelhárítás egy tudáskezelési RAG-folyamatot integrál egy diagnosztikai ciklussal. Egy ügynök kiértékelheti az eredményeket, hogy szükség szerint tovább finomítsa a hibaelhárítási javaslatokat.

Hogyan működik: Az alkalmazás összegyűjti egy műszaki probléma tüneteit a felhasználótól, vagy automatizált figyelmeztető értesítéseket kap. Aktiválja a hibaüzenetek, a műszaki naplók és a teljesítménymutatók keresését a tünetek keresztellenőrzése érdekében. Ezután releváns információkat kér le egy belső tudásbázisból, hogy továbbítsa azokat a nagy nyelvi modellnek. A diagnosztikai ciklus akkor következik be, amikor a megkísérelt javítás eredményei visszacsatolódnak a nagy nyelvi modellbe, akár a felhasználótól, akár egy diagnosztikai eszköztől.

Valós példa: A Datadog megfigyelhetőségi platform (alább látható) adatokat gyűjt egy rendszer minden rétegéből, és jelzi a felmerülő problémákat. Ezeket ezután betáplálják egy Bits AI nevű speciális MI-ügynökbe a lehetséges javítások hibaelhárításához.

Nagyítás

7. Ügynökalapú kereskedelem

Az ügynökalapú kereskedelem egy szélesebb körű felhasználási eset, amely általában magában foglalja a RAG-ot. Egy vásárlási ügynök olyan részleteket kér le, mint a termékspecifikációk, értékelések, árak és a rendelkezésre állás, hogy összehasonlítsa a lehetőségeket és megmagyarázza az ajánlásokat. Ezután anélkül képes automatikusan végrehajtani a vásárlást, hogy a felhasználó elhagyná a felületet.

Hogyan működik: Az ügynökalapú kereskedelem valódi ügynökalapú RAG, mivel a különleges lekérdezések gyakran a visszakeresés különböző formáit igénylik, amelyeket a modell irányít. Előfordulhat, hogy egy ügynök egy kiskereskedő API-ján keresztül kér le kizárólag szöveges termékadatokat, vagy multimodális RAG-ot használ a termékek felhasználói fotó alapján történő egyeztetésére egy semantikus indexben.

Valós példa: Egy általános célú ügynök, például a Perplexity, képes több képet és részletes termékspecifikációt lekérni egy prompt alapján. Az azonnali vásárlás (Instant Buy) fizetési funkció lehetővé teszi a felhasználó számára, hogy a termék kiválasztása után befejezze a vásárlást.

Nagyítás

8. Specializált szakterületek

Azoknak az MI-eszközöknek, amelyek specializált szakterületi ismereteket kérnek le, összetett tartalomformátumokkal kell megküzdeniük. Emellett a hallucinációk és az információs hiányosságok minimalizálása gyakran kiemelt prioritás.

Hogyan működik: Az általános célú és a specializált RAG-architektúrák közötti kulcsfontosságú különbség a forrásanyagra és a visszakeresési konfigurációra vonatkozik. Jellemzően csak egy kifejezetten hiteles indexet kérdeznek le, és a kérést úgy konfigurálják, hogy az a keresések szűkítése érdekében tartalmazza a specifikus terminológiát.

Valós példa: A Scite akadémiai kutatóeszköz egy nagy akadémiai cikkeket és hivatkozási adatokat tartalmazó indexet ér el, amelyet kiadói megállapodások és nyílt hozzáférésű források révén építettek fel. A teljes válasz generálása előtt visszakeresés utáni ellenőrzéseket is alkalmaz, például a források hitelesítését.

Nagyítás

9. Adatelemzés

Az adatelemzéshez használt RAG különösen hatékony vállalati felhasználási esetté vált, mivel lehetővé teszi a szakemberek széles köre számára – különösen azoknak, akik nem rendelkeznek adatelemzési képzéssel –, hogy természetes nyelven kérdezzenek le adatkészleteket. Ez megkönnyíti a jelentések készítését és a rendkívül specifikus kérdések feltételét.

Hogyan működik: Egy olyan kérdés esetén, mint „Miért estek az eladások az elmúlt negyedévben?”, az alkalmazás lekérdezheti az eladási nyilvántartásokat, és jegyzeteket kérhet le a készlethiányokról vagy az árak változásairól. Az elemzés generálása előtt a nagy nyelvi modell kiválasztja a megfelelő számítást (amelyet általában egy számítási eszközre delegálnak) a visszakeresett adatokhoz.

Valós példa: A Google Analytics egy olyan MI „Ask Advisor” csevegőrobotot kínál, amely képes hozzáférni a webanalitikai adatokhoz, és válaszolni a felhasználók rendkívül specifikus, árnyalt kérdéseire. Ez a vállalati szintű, zárt rendszerű RAG egyik legjobb valós példája.

Nagyítás

Mi várható a RAG fejlődésében?

A RAG jelentős fejlesztés volt, amikor először bevezették. Segített kezelni az önálló nagy nyelvi modellekbe kódolt számos problémát.

Ez azonban messze nem egy statikus technológia. A jelenlegi kutatás a mélyebb multimodális visszakeresésre, valamint a visszakeresett kontextus szigorúbb feldolgozására összpontosít a pontosság és a helyesség érdekében. Ezenkívül valószínűleg a RAG nagyobbfokú integrációját fogjuk látni a többeszközös ügynökökben.

Még a rendkívül nagy kontextusablakok mellett is léteznek fontos felhasználási esetek a RAG számára a lakossági és a professzionális környezetben egyaránt, és még számos innováció van hátra.