RAG आर्किटेक्चर क्या है? विस्तृत व्यावहारिक उदाहरणों के साथ पूरी परिभाषा

RAG आर्किटेक्चर उन कंपोनेंट का समूह है जो बाहरी जानकारी को संग्रहीत करते हैं, पुनः प्राप्त करते हैं और LLM तक पहुँचाते हैं; यह गाइड बेसिक और हाइब्रिड RAG से लेकर एजेंटिक RAG और GraphRAG तक, 10 प्रकारों के बारे में बताती है और दो चरण-दर-चरण उदाहरण देती है।

Diagram of the types of RAG architecture branching from a central hub: basic, hybrid, adaptive, corrective (CRAG), self-RAG, multimodal, agentic, GraphRAG, HyDE, and branched.

RAG, जिसका पूरा नाम retrieval augmented generation है, एक ऐसी प्रक्रिया है जिसमें LLM अपने आउटपुट को विस्तृत और बेहतर बनाने के लिए बाहरी जानकारी का उपयोग करते हैं। RAG आर्किटेक्चर उन कंपोनेंट और कनेक्शन का समूह है जो RAG को संभव बनाते हैं।

RAG की कई अलग-अलग श्रेणियाँ हैं, और हर एक अपने विशिष्ट आर्किटेक्चर पर चलती है। मूल रूप से, किसी RAG सिस्टम का आर्किटेक्चर यह तय करता है कि जानकारी को किस विशिष्ट तरीके से संग्रहीत किया जाता है, पुनः प्राप्त किया जाता है और LLM तक पहुँचाया जाता है।

RAG आर्किटेक्चर क्या है?

RAG आर्किटेक्चर, कंपोनेंट (और उनसे जुड़ी क्षमताओं) का वह बुनियादी विन्यास है जो किसी RAG सिस्टम को संचालित करता है। ये सभी आर्किटेक्चर एक बुनियादी टेम्पलेट पर आधारित होते हैं, जिसे अक्सर “सरल” या “नाइव” (naive) RAG कहा जाता है।

बुनियादी RAG आर्किटेक्चर का एक उच्च-स्तरीय अवलोकन यहाँ दिया गया है:

  • जानकारी का स्रोत: यहीं पर बाहरी जानकारी संग्रहीत होती है। यह कोई सर्च इंडेक्स, बड़ी मात्रा में जानकारी को दर्शाने वाला वेक्टर डेटाबेस, या कच्चे दस्तावेज़ों का रिपॉज़िटरी हो सकता है।
  • रिट्रीवल कंपोनेंट: यह वह तंत्र है जिसके ज़रिए जानकारी के स्रोत से क्वेरी की जाती है। उदाहरण के लिए, कोई RAG सिस्टम टेक्स्ट के प्रासंगिक चंक खोजने के लिए साधारण कीवर्ड सर्च का, या सिमिलैरिटी सर्च करने के लिए अधिक जटिल वेक्टर क्वेरी का उपयोग कर सकता है।
  • ऑर्केस्ट्रेशन कंपोनेंट: यह लेयर LLM-आधारित एप्लिकेशन का वह हिस्सा है जो किसी यूज़र प्रॉम्प्ट के लिए RAG पाइपलाइन शुरू करता है, या तो LLM के साथ मिलकर या स्वतंत्र रूप से। यह पुनः प्राप्त जानकारी को एक विस्तारित प्रॉम्प्ट में संकलित भी करता है।

RAG आर्किटेक्चर के कंपोनेंट आमतौर पर दो पाथ में व्यवस्थित होते हैं। इंजेशन पाथ डेटा लेता है और उसे जानकारी के एक खोजने योग्य स्रोत में व्यवस्थित करता है। वेक्टर डेटाबेस, जिनमें बड़ी मात्रा में टेक्स्ट को वेक्टर एम्बेडिंग के खोजने योग्य रिपॉज़िटरी में बदला जाता है, सबसे व्यापक रूप से उपयोग किए जाने वाले एप्लिकेशन में से एक हैं।

रिट्रीवल पाथ यूज़र का प्रॉम्प्ट लेता है और एक क्वेरी बनाता है, जिससे जानकारी के स्रोत में खोज की जाती है। इसके बाद ऑर्केस्ट्रेटर पुनः प्राप्त जानकारी को LLM के कॉन्टेक्स्ट इनपुट में जोड़ देता है। एजेंटिक और हाइब्रिड RAG आर्किटेक्चर में कई रिट्रीवल पाथ हो सकते हैं।

RAG आर्किटेक्चर के प्रकार

RAG को पूरी तरह अलग-अलग आर्किटेक्चर के रूप में देखना भ्रामक है। ज़्यादातर इंजीनियर मॉड्यूलर तरीका अपनाते हैं और विशिष्ट उपयोग के मामलों के अनुसार अलग-अलग कंपोनेंट लागू करते हैं। हालाँकि मोटे तौर पर सीमाएँ खींची जा सकती हैं, फिर भी यह ध्यान रखना ज़रूरी है कि आर्किटेक्चर मॉडलों के बीच काफ़ी ओवरलैप है।

1. बेसिक RAG

बेसिक RAG, जिसे “नाइव” (naive) या “सरल” RAG भी कहा जाता है, अन्य प्रकार के RAG का आर्किटेक्चरल टेम्पलेट है।

इसकी मूल प्रक्रिया अपेक्षाकृत सीधी है: यूज़र एक प्रॉम्प्ट दर्ज करता है, ऑर्केस्ट्रेटर तय करता है कि बाहरी जानकारी की ज़रूरत है या नहीं (या तो स्वतंत्र रूप से या LLM के साथ मिलकर), और उसी के अनुसार एक रिट्रीवल क्वेरी तैयार करके भेजता है।

बाहरी जानकारी का स्रोत आमतौर पर एक वेक्टर डेटाबेस होता है, लेकिन यह कोई SQL डेटाबेस, वेब API, नॉलेज ग्राफ़, या यहाँ तक कि “कच्चे” दस्तावेज़ों का रिपॉज़िटरी भी हो सकता है। फिर यह अतिरिक्त जानकारी LLM के इनपुट कॉन्टेक्स्ट में जोड़ दी जाती है।

SQL क्वेरी और API के अलावा, रिट्रीवल के तरीके मोटे तौर पर दो प्रकार के होते हैं:

  • लेक्सिकल सर्च (कीवर्ड सर्च): यह RAG का एक सरल रूप है, जिसमें यूज़र की क्वेरी से कीवर्ड निकाले जाते हैं और उन्हें ऐसे टेक्स्ट अंशों से मिलाया जाता है जिनमें वे कीवर्ड मौजूद हों। आधुनिक पाइपलाइन में, ऑर्केस्ट्रेटर इसके लिए स्पार्स वेक्टर क्वेरी कहलाने वाली क्वेरी कर सकता है, जो अर्थ को नहीं पकड़ती।
  • डेंस वेक्टर सर्च (सिमैंटिक सर्च): डेंस वेक्टर एम्बेडिंग अर्थ को पकड़ती हैं। ऑर्केस्ट्रेटर किसी डेंस वेक्टर डेटाबेस से इस तरह क्वेरी कर सकता है कि यूज़र प्रॉम्प्ट और स्रोत जानकारी, दोनों का अर्थ पकड़ा जा सके।

मेमोरी का उपयोग भी RAG आर्किटेक्चर का एक अहम हिस्सा है। इसका मतलब है कि LLM रिट्रीवल क्वेरी बनाने के लिए पिछली चैट के कॉन्टेक्स्ट का उपयोग कैसे करता है, जिससे वह क्वेरी किसी चर्चा (या कई चर्चाओं) के व्यापक संदर्भ पर आधारित होती है। ज़्यादातर चैटबॉट के लिए कन्वर्सेशनल RAG सामान्य है, हालाँकि सपोर्ट टिकट के जवाब जैसे कुछ उपयोग के मामलों में सिंगल-क्वेश्चन RAG का इस्तेमाल हो सकता है।

2. हाइब्रिड

हाइब्रिड RAG दो अलग-अलग प्रकार के रिट्रीवल को जोड़ता है, आमतौर पर कीवर्ड और सिमैंटिक रिट्रीवल को। कीवर्ड सर्च मेल खाने वाले शब्द खोजता है, और वेक्टर-आधारित सर्च संबंधित अर्थ वाले अंश खोजता है।

रिट्रीवल के अन्य रूप, जैसे नॉलेज ग्राफ़ ट्रैवर्सल या SQL डेटाबेस क्वेरी, भी इस्तेमाल किए जा सकते हैं। यह प्रक्रिया अक्सर रूटिंग लॉजिक से निर्देशित होती है, जो या तो प्रोग्राम किए गए नियमों के रूप में होता है या मॉडल द्वारा प्रश्न के वर्गीकरण के रूप में (हालाँकि कई पाइपलाइन एक साथ भी चल सकती हैं)।

ऑर्केस्ट्रेटर परिणामों को मर्ज करता है और LLM तक भेजने से पहले उन्हें रीरैंक कर सकता है। रीरैंकिंग, पुनः प्राप्त चंक को प्रासंगिकता स्कोर देने की प्रक्रिया है, ताकि LLM सबसे उपयुक्त जानकारी को प्राथमिकता दे।

3. एडैप्टिव RAG

एडैप्टिव RAG में, एक रूटिंग कंपोनेंट यूज़र प्रॉम्प्ट की ज़रूरतों के आधार पर रिट्रीवल रणनीति चुनता है, और फिर ऑर्केस्ट्रेटर चुने गए वर्कफ़्लो को निष्पादित करता है।

मूल फ़्रेमवर्क (Adaptive-RAG) में, एक छोटा मॉडल क्लासिफ़ायर की भूमिका निभाता था और कोई रिट्रीवल नहीं, सिंगल-स्टेप रिट्रीवल, या मल्टी-स्टेप रिट्रीवल में से चुनाव करता था। कुछ आर्किटेक्चर अब इसकी जगह जनरेटिव मॉडल या नियम-आधारित ह्यूरिस्टिक का उपयोग करते हैं।

यह एक लोकप्रिय आर्किटेक्चर है, क्योंकि यह प्रॉम्प्ट की जटिलता और ज़रूरतों के आधार पर प्रोसेसिंग पावर आवंटित करता है, जिससे सरल प्रॉम्प्ट के लिए अनावश्यक रिट्रीवल चरण कम हो जाते हैं। यह उन असिस्टेंट में आम है जो कई तरह के प्रश्नों को संभालते हैं।

4. करेक्टिव RAG (CRAG)

करेक्टिव RAG पुनः प्राप्त जानकारी को LLM के कॉन्टेक्स्ट इनपुट में जोड़ने से पहले उसका मूल्यांकन करता है। एक रिट्रीवल इवैल्युएटर यह आकलन करता है कि पुनः प्राप्त जानकारी प्रासंगिक और उपयोगी है या नहीं। इसकी विशिष्ट आर्किटेक्चरल विशेषता उत्तर जनरेट करने से पहले का स्पष्ट मूल्यांकन-और-सुधार चरण है।

अगर जानकारी अधूरी पाई जाती है या प्रॉम्प्ट पर लागू नहीं होती, तो अतिरिक्त अनुरोध ट्रिगर किए जाते हैं। इनमें मूल अनुरोध के लिए इस्तेमाल किए गए तरीकों से अलग रिट्रीवल तरीके शामिल हो सकते हैं, जैसे वेब सर्च या नॉलेज ग्राफ़ ट्रैवर्सल।

करेक्टिव RAG उन क्षेत्रों में आम है जहाँ सटीकता महत्वपूर्ण होती है, जैसे चिकित्सा और कानून। हालाँकि, इसके लिए जानकारी के एक अतिरिक्त स्रोत की ज़रूरत होती है, जो शुरुआत में पुनः प्राप्त किए गए अंशों की कमी को पूरा कर सके।

5. सेल्फ़-RAG

सेल्फ़-RAG में, शुरुआती कॉन्टेक्स्ट इनपुट मिलने के बाद मॉडल खुद अनुरोध शुरू कर सकता है। जनरेट किए गए उत्तरों का मूल्यांकन रिफ़्लेक्शन टोकन की मदद से पुनः प्राप्त साक्ष्यों के आधार पर किया जाता है, और ज़रूरत के अनुसार ऑर्केस्ट्रेटर के ज़रिए आगे के अनुरोध भेजे जाते हैं। इसके विपरीत, LLM यह भी तय कर सकता है कि किसी रिट्रीवल की ज़रूरत ही नहीं है।

यह करेक्टिव RAG से इस मायने में अलग है कि इसमें LLM अपने आउटपुट को खुद परखता है, यह तय करता है कि रिट्रीवल की ज़रूरत है या नहीं और पुनः प्राप्त टेक्स्ट उपयोगी है या नहीं, और अपने उत्तरों की निगरानी करते हुए ज़रूरत के अनुसार उनमें बदलाव करता है। वहीं करेक्टिव RAG, जनरेशन से पहले पुनः प्राप्त जानकारी की गुणवत्ता का मूल्यांकन करता है।

यह आर्किटेक्चर जटिल, गहन शोध जैसे प्रॉम्प्ट के लिए ख़ास तौर पर उपयोगी है। चूँकि यह (पुनः प्राप्त जानकारी की) प्रासंगिकता के आकलन को उत्तर जनरेशन में शामिल करता है, इसलिए यह उन प्रॉम्प्ट के लिए एक अच्छा विकल्प है जिनके लिए साक्ष्य-आधारित जवाब चाहिए।

6. एजेंटिक RAG

एजेंटिक RAG से मतलब RAG के किसी भी ऐसे रूप से है जो किसी एजेंटिक प्लेटफ़ॉर्म के संदर्भ में निष्पादित होता है। मॉडल अपनी रीज़निंग क्षमताओं का उपयोग करके यह तय करता है कि किस प्रकार की जानकारी चाहिए और उपलब्ध रिट्रीवल विकल्पों में से चुनाव करता है।

ज़रूरत के अनुसार रिट्रीवल को कई बार ट्रिगर किया जा सकता है, और अधिक जटिल क्वेरी के लिए मॉडल के पास एजेंट नियुक्त करने का विकल्प होता है। उदाहरण के लिए, कोई LLM किसी सप्लायर की पहचान के लिए डेटाबेस लुकअप का अनुरोध कर सकता है, प्रासंगिक अनुबंध खोजने के लिए दस्तावेज़ सर्च ट्रिगर कर सकता है, और अंत में सार्वजनिक स्रोतों की मदद से संपर्क विवरण सत्यापित करने के लिए वेब सर्च कर सकता है।

एजेंटिक RAG, Perplexity, ChatGPT, Claude आदि जैसे मुख्यधारा के चैटबॉट में इस्तेमाल होने वाला मुख्य आर्किटेक्चर है। चूँकि ये प्लेटफ़ॉर्म कोर मॉडल को कई टूल और RAG पाइपलाइन तक पहुँच देते हैं, इसलिए वह चुन सकता है कि किसी प्रॉम्प्ट के लिए रिट्रीवल का कौन-सा रूप सबसे उपयुक्त है।

7. मल्टीमॉडल RAG

मल्टीमॉडल RAG अलग-अलग प्रकार के मीडिया से कॉन्टेक्स्ट पुनः प्राप्त करता है। यह RAG का एक महत्वपूर्ण रूप है, क्योंकि यह चार्ट और ऑडियो रिकॉर्डिंग जैसी जानकारी LLM के लिए उपलब्ध कराता है, जो अन्यथा उनकी पहुँच से बाहर रहती।

इसका मूल आर्किटेक्चर किसी भी अन्य सिस्टम जैसा ही है। उदाहरण के लिए, कोई इंडेक्सिंग पाइपलाइन इमेज को सीधे एम्बेडिंग में बदलकर उन्हें सर्च के लिए तैयार कर सकती है। इसके बाद कोई एजेंटिक RAG सिस्टम इन इमेज को सिमैंटिक रूप से प्रासंगिक टेक्स्ट के साथ पुनः प्राप्त कर सकता है और दोहरी प्रोसेसिंग के लिए उन्हें किसी विज़न-लैंग्वेज मॉडल को दे सकता है।

8. GraphRAG

GraphRAG, एंटिटी के बारे में जानकारी पुनः प्राप्त करने के लिए वेक्टर सर्च के साथ-साथ नॉलेज ग्राफ़ का उपयोग करता है। आमतौर पर, ऑर्केस्ट्रेटर कीवर्ड एक्सट्रैक्शन या कभी-कभी शुरुआती वेक्टर सर्च के ज़रिए प्रासंगिक शुरुआती एंटिटी खोजता है, जिन्हें नोड भी कहा जाता है। एक ग्राफ़ रिट्रीवर व्यापक कॉन्टेक्स्ट बनाने के लिए नॉलेज ग्राफ़ को ट्रैवर्स करता है।

उदाहरण के लिए, किसी प्रोडक्ट कैटेगरी के विस्तृत ब्रेकडाउन के अनुरोध के जवाब में, LLM विशिष्ट एंटिटी (प्रोडक्ट) की पहचान करने के लिए वेक्टर सर्च ट्रिगर कर सकता है। इसके बाद ऑर्केस्ट्रेटर संबंधित एंटिटी, जैसे सप्लायर, रिटेल लोकेशन, समीक्षाएँ आदि, खोजने के लिए नॉलेज ग्राफ़ सर्च ट्रिगर करेगा।

9. ब्रांच्ड RAG

जहाँ हाइब्रिड RAG आर्किटेक्चर में अलग-अलग रिट्रीवल तरीकों का उपयोग करने की क्षमता होती है, वहीं ब्रांच्ड RAG का मतलब एक ही समय में कई क्वेरी चलाने की प्रक्रिया से है, जिन्हें ब्रांच कहा जाता है। हर ब्रांच जानकारी के किसी अलग स्रोत से क्वेरी कर सकती है, या कई ब्रांच अलग-अलग क्वेरी या फ़िल्टर के साथ एक ही स्रोत से साथ-साथ क्वेरी कर सकती हैं। एजेंटिक RAG आर्किटेक्चर में अक्सर ब्रांच्ड RAG का उपयोग होता है।

10. HyDE (Hypothetical Document Embeddings)

HyDE, RAG का एक नवोन्मेषी रूप है, जिसमें LLM एक काल्पनिक टेक्स्ट दस्तावेज़ बनाता है, जो दर्शाता है कि कोई आदर्श उत्तर कैसा दिख सकता है। फिर इस “काल्पनिक दस्तावेज़” का उपयोग अधिक सटीक रिट्रीवल के लिए क्वेरी बनाने में किया जाता है। भले ही प्रासंगिक ज्ञान LLM के पैरामीटर में मौजूद न हो, इसके पीछे तर्क यह है कि उत्तर जैसा अंश किसी छोटे प्रश्न या अस्पष्ट प्रॉम्प्ट की तुलना में प्रासंगिक दस्तावेज़ों से बेहतर मेल खा सकता है।

सरल RAG आर्किटेक्चर का उदाहरण: वेक्टर डेटाबेस

बेसिक RAG अधिक जटिल प्रकार के आर्किटेक्चर की नींव का काम करता है। वेक्टर डेटाबेस का उपयोग करने वाले किसी सरल RAG सिस्टम में, स्रोत दस्तावेज़ों को छोटे हिस्सों (चंक) में बाँटकर डेंस एम्बेडिंग में बदला जाता है। जब यूज़र कोई प्रॉम्प्ट दर्ज करता है, तो ऑर्केस्ट्रेटर एक क्वेरी बनाता है, उसे एनकोड करता है, और प्रासंगिक अंश खोजने के लिए डेटाबेस से क्वेरी करता है।

इस प्रक्रिया का चरण-दर-चरण विवरण यहाँ दिया गया है:

  1. एक स्वचालित इंजेशन पाइपलाइन और BERT जैसे एम्बेडिंग मॉडल का उपयोग करके बड़ी मात्रा में टेक्स्ट को वेक्टर में बदला जाता है।
  2. डेटाबेस एप्लिकेशन तेज़ खोज के लिए वेक्टर को व्यवस्थित, इंडेक्स और संग्रहीत करता है।
  3. यूज़र किसी चैटबॉट (जैसे Perplexity) में प्रॉम्प्ट दर्ज करता है।
  4. एप्लिकेशन ऑर्केस्ट्रेटर वेक्टर डेटाबेस से प्रासंगिक जानकारी पुनः प्राप्त करने के लिए (एम्बेडिंग मॉडल का उपयोग करके) प्रॉम्प्ट को एनकोड करता है।
  5. वेक्टर डेटाबेस प्रासंगिक चंक लौटाता है, और ऑर्केस्ट्रेटर इन्हें इनपुट कॉन्टेक्स्ट (“लार्ज प्रॉम्प्ट”) में जोड़कर LLM को देता है।
  6. LLM अतिरिक्त कॉन्टेक्स्ट और अपने आंतरिक ज्ञान (जो उसके पैरामीट्रिक वेट में संग्रहीत होता है) का उपयोग करके उत्तर जनरेट करता है।

एडवांस्ड RAG आर्किटेक्चर का उदाहरण: एजेंटिक RAG

एजेंटिक RAG से मतलब किसी एजेंटिक प्लेटफ़ॉर्म के भीतर RAG सिस्टम के मूल आर्किटेक्चर से है। एजेंटिक RAG फ़्लो अक्सर जटिल होते हैं, क्योंकि AI एजेंट प्रॉम्प्ट की प्रकृति के आधार पर अलग-अलग टूल और पाइपलाइन का उपयोग कर सकते हैं और ज़रूरत पड़ने पर कई एजेंट तैनात कर सकते हैं।

इस प्रक्रिया का एक व्यावहारिक उदाहरण यहाँ दिया गया है:

  1. यूज़र एक जटिल प्रश्न दर्ज करता है, जिसके लिए किसी विषय पर गहन शोध की ज़रूरत है। इस उदाहरण के लिए, मान लीजिए प्रॉम्प्ट है: “प्रमुख भू-राजनीतिक गतिविधियों को ध्यान में रखते हुए अगले छह महीनों के लिए कंपनी की आय का पूर्वानुमान दें।”
  2. LLM इस निष्कर्ष पर पहुँचता है कि अलग-अलग कॉन्टेंट प्रकारों में RAG क्वेरी के मिश्रण की ज़रूरत होगी।
  3. (a) वेक्टर सर्च, (b) वेब ग्राउंडिंग, और (c) इमेज (मल्टीमॉडल) सर्च के लिए तीन अलग-अलग एजेंट तैनात किए जाते हैं।
  4. एजेंट उपलब्ध रिट्रीवल टूल का उपयोग करते हुए ऑर्केस्ट्रेटर के ज़रिए समाचार और आंतरिक वित्तीय डेटा जैसी प्रासंगिक जानकारी खोजते हैं।
  5. LLM पुनः प्राप्त परिणामों की तुलना हर एजेंट के शोध प्रश्न से करता है और उन्हें प्रासंगिकता के अनुसार रैंक करता है।
  6. LLM जानकारी का मूल्यांकन करता है और जहाँ जानकारी की कमी है, वहाँ अलग-अलग एजेंट के ज़रिए अतिरिक्त खोज ट्रिगर करता है।
  7. पर्याप्त जानकारी पुनः प्राप्त होने के बाद, LLM मौजूदा वित्तीय आँकड़ों (आंतरिक दस्तावेज़ों से प्राप्त) के आधार पर परिदृश्य पूर्वानुमान तैयार करता है और हर परिदृश्य के लिए आय का अनुमान लगाने के लिए कैलकुलेटर टूल का उपयोग करता है।
  8. LLM पुनः प्राप्त जानकारी और गणनाओं का उपयोग करके अंतिम उत्तर जनरेट करता है और ज़रूरत के अनुसार स्रोतों का हवाला देता है।

RAG का भविष्य क्या है?

मौजूदा नवाचार, वर्तमान RAG आर्किटेक्चर में गहराई और गति लाने, मल्टीमीडिया रिट्रीवल की सटीकता बढ़ाने, और पल-पल की ताज़ा जानकारी को संभालने के लिए डिज़ाइन किए गए सिस्टम बनाने पर केंद्रित हैं।

ये तीन रुझान फ़िलहाल शोध की दिशा तय कर रहे हैं:

  • कई स्रोतों में गहन शोध: यह ऐसा RAG आर्किटेक्चर है जो सर्च की योजना बना सकता है, अलग-अलग स्रोतों में कई ब्रांच चला सकता है, पुनः प्राप्त साक्ष्यों का मूल्यांकन कर सकता है, और जनरेट किए गए उत्तरों को खुद ऑप्टिमाइज़ कर सकता है। इन सभी कार्यों को निष्पादित करने में सक्षम एजेंटिक RAG लगातार तेज़ और अधिक किफ़ायती होता जा रहा है।
  • मल्टीमॉडल एप्लिकेशन: रिट्रीवल पाइपलाइन इमेज और वीडियो के साथ काम करने में बेहतर होती जा रही हैं। वे जटिल मल्टीमॉडल डेटा, जैसे लंबे वीडियो और उन्नत डायग्राम, में विशिष्ट प्रकार की जानकारी को अधिकाधिक सटीकता से पहचान पा रही हैं।
  • लगातार बदलती जानकारी पर उत्तरों को आधारित करना: LLM-आधारित एप्लिकेशन इनपुट कॉन्टेक्स्ट देने के लिए लाइव जानकारी स्रोतों (जैसे वीडियो फ़ीड और सेंसर) का उपयोग कर सकते हैं। इस डेटा की व्याख्या करने के लिए सिस्टम, GraphRAG की तरह, जानकारी के बहुआयामी जाल भी तैयार कर सकते हैं।

RAG, LLM-आधारित एप्लिकेशन के काम करने के तरीके की बुनियाद है। यह रोज़मर्रा के उपभोक्ताओं से लेकर विशेष क्षेत्रों में काम करने वाले एंटरप्राइज़ तक, कई तरह के यूज़र को हैलुसिनेशन, अधूरे ट्रेनिंग डेटा, और विशेष आंतरिक जानकारी तक पहुँच की कमी से जुड़ी समस्याओं से पार पाने में मदद करता है।

यही वजह है कि RAG सिस्टम और उनका मूल आर्किटेक्चर, AI शोध के सबसे तेज़ी से आगे बढ़ते और सबसे रोमांचक क्षेत्रों में से एक हैं।