RAG आर्किटेक्चर म्हणजे काय? सविस्तर व्यावहारिक उदाहरणांसह संपूर्ण व्याख्या

RAG, म्हणजेच रिट्रिव्हल ऑगमेंटेड जनरेशन (retrieval augmented generation), ही एक प्रक्रिया आहे ज्यामध्ये LLM त्यांच्या आउटपुटचा विस्तार करण्यासाठी आणि ते सुधारण्यासाठी बाह्य माहितीचा वापर करतात. RAG आर्किटेक्चर म्हणजे RAG शक्य करणाऱ्या घटकांचा आणि जोडण्यांचा संच.

RAG चे अनेक वेगवेगळे प्रकार आहेत आणि प्रत्येक प्रकार स्वतःच्या विशिष्ट आर्किटेक्चरवर चालतो. थोडक्यात सांगायचे तर, माहिती कशी साठवली जाते, पुनर्प्राप्त केली जाते आणि LLM ला पुरवली जाते याची विशिष्ट पद्धत RAG सिस्टमचे आर्किटेक्चर ठरवते.

RAG आर्किटेक्चर म्हणजे काय?

RAG आर्किटेक्चर म्हणजे एखाद्या विशिष्ट RAG सिस्टमला चालना देणारी घटकांची (आणि त्यांच्याशी संबंधित क्षमतांची) मूलभूत रचना. ही सर्व आर्किटेक्चर एका पायाभूत साच्यावर आधारित असतात, ज्याला अनेकदा "साधे" किंवा “नाइव्ह” RAG म्हटले जाते.

मूलभूत RAG आर्किटेक्चरचा एक उच्चस्तरीय आढावा येथे दिला आहे:

• माहितीचा स्रोत: येथे बाह्य माहिती साठवलेली असते. हा स्रोत सर्च इंडेक्स, मोठ्या प्रमाणातील माहिती दर्शवणारा व्हेक्टर डेटाबेस किंवा मूळ (रॉ) दस्तऐवजांचे भांडार असू शकतो.
• पुनर्प्राप्ती घटक: ही अशी यंत्रणा आहे जिच्याद्वारे माहितीच्या स्रोताला क्वेरी केली जाते. उदाहरणार्थ, RAG सिस्टम मजकुराचे संबंधित भाग (चंक्स) शोधण्यासाठी साधा कीवर्ड शोध वापरू शकते किंवा साधर्म्य शोध (similarity search) करण्यासाठी अधिक गुंतागुंतीच्या व्हेक्टर क्वेरी वापरू शकते.
• ऑर्केस्ट्रेशन घटक: हा स्तर LLM-आधारित ॲप्लिकेशनचा तो भाग आहे जो वापरकर्त्याच्या प्रॉम्प्टसाठी LLM सोबत किंवा स्वतंत्रपणे RAG पाइपलाइन सुरू करतो. तो पुनर्प्राप्त केलेली माहिती एकत्र करून विस्तारित प्रॉम्प्टही तयार करतो.

RAG आर्किटेक्चरचे घटक सहसा दोन मार्गांमध्ये संघटित केलेले असतात. इन्जेशन मार्ग डेटा घेऊन तो शोधण्यायोग्य माहिती स्रोतामध्ये संघटित करतो. व्हेक्टर डेटाबेस, ज्यामध्ये मोठ्या प्रमाणातील मजकूर व्हेक्टर एम्बेडिंगच्या शोधण्यायोग्य भांडारात रूपांतरित केला जातो, हा याच्या सर्वाधिक वापरल्या जाणाऱ्या उपयोगांपैकी एक आहे.

पुनर्प्राप्ती मार्ग वापरकर्त्याचा प्रॉम्प्ट घेतो आणि माहिती स्रोतामध्ये शोध घेण्यासाठी एक क्वेरी तयार करतो. त्यानंतर ऑर्केस्ट्रेटर पुनर्प्राप्त केलेली माहिती LLM च्या संदर्भ इनपुटमध्ये जोडतो. एजंटिक आणि हायब्रिड RAG आर्किटेक्चरमध्ये अनेक पुनर्प्राप्ती मार्ग असू शकतात.

RAG आर्किटेक्चरचे प्रकार

RAG चा विचार पूर्णपणे वेगवेगळ्या आर्किटेक्चरच्या स्वरूपात करणे दिशाभूल करणारे आहे. बहुतेक अभियंते मॉड्युलर दृष्टिकोन स्वीकारतात आणि विशिष्ट वापर प्रकरणांनुसार स्वतंत्र घटक अंमलात आणतात. ढोबळ सीमा आखणे शक्य असले तरी, आर्किटेक्चर मॉडेल्समध्ये लक्षणीय प्रमाणात साम्य असते हे लक्षात घेणे महत्त्वाचे आहे.

1. मूलभूत RAG

मूलभूत RAG, ज्याला “नाइव्ह” किंवा “साधे” RAG असेही म्हणतात, हा इतर प्रकारच्या RAG चा आर्किटेक्चरल साचा आहे.

यामागील प्रक्रिया तुलनेने सरळ आहे: वापरकर्ता प्रॉम्प्ट टाकतो, ऑर्केस्ट्रेटर (स्वतंत्रपणे किंवा LLM सोबत) बाह्य माहितीची आवश्यकता आहे का हे ठरवतो आणि त्यानुसार पुनर्प्राप्ती क्वेरी तयार करून पाठवतो.

बाह्य माहितीचा स्रोत सामान्यतः व्हेक्टर डेटाबेस असतो, परंतु तो SQL डेटाबेस, वेब API, नॉलेज ग्राफ किंवा अगदी “रॉ” दस्तऐवज भांडारही असू शकतो. ही अतिरिक्त माहिती नंतर LLM च्या इनपुट संदर्भामध्ये जोडली जाते.

SQL क्वेरी आणि API व्यतिरिक्त, पुनर्प्राप्ती पद्धतींचे दोन व्यापक प्रकार आहेत:

• लेक्सिकल शोध (कीवर्ड शोध): हा RAG चा एक साधा प्रकार आहे ज्यामध्ये वापरकर्त्याच्या क्वेरीमधून कीवर्ड काढले जातात आणि ते कीवर्ड असलेल्या मजकुराच्या उताऱ्यांशी जुळवले जातात. आधुनिक पाइपलाइनमध्ये, हे करण्यासाठी ऑर्केस्ट्रेटर स्पार्स व्हेक्टर क्वेरी नावाची क्वेरी करू शकतो, जी अर्थ टिपत नाही.
• डेन्स व्हेक्टर शोध (सिमँटिक शोध): डेन्स व्हेक्टर एम्बेडिंग अर्थ टिपतात. ऑर्केस्ट्रेटर डेन्स व्हेक्टर डेटाबेसला अशा प्रकारे क्वेरी करू शकतो की वापरकर्त्याचा प्रॉम्प्ट आणि स्रोत माहिती या दोन्हींचा अर्थ टिपला जाईल.

मेमरीचा वापर हादेखील RAG आर्किटेक्चरचा एक महत्त्वाचा भाग आहे. याचा अर्थ, पुनर्प्राप्ती क्वेरी तयार करण्यासाठी LLM मागील चॅट्समधील संदर्भ कसा वापरते, ज्यामुळे ती क्वेरी चर्चेच्या (किंवा अनेक चर्चांच्या) व्यापक संदर्भात रुजते. बहुतेक चॅटबॉट्ससाठी संभाषणात्मक RAG हाच प्रचलित प्रकार आहे, तरीही सपोर्ट तिकिटांना प्रतिसाद देण्यासारख्या काही वापर प्रकरणांमध्ये एकल-प्रश्न RAG वापरले जाऊ शकते.

2. हायब्रिड

हायब्रिड RAG दोन वेगवेगळ्या प्रकारच्या पुनर्प्राप्तीची, सहसा कीवर्ड आणि सिमँटिक पुनर्प्राप्तीची, सांगड घालते. कीवर्ड शोध जुळणारे शब्द शोधतो, तर व्हेक्टर-आधारित शोध संबंधित अर्थ असलेले उतारे शोधतो.

नॉलेज ग्राफ ट्रॅव्हर्सल किंवा SQL डेटाबेस क्वेरी यांसारखे पुनर्प्राप्तीचे इतर प्रकारही वापरले जाऊ शकतात. ही प्रक्रिया अनेकदा राउटिंग लॉजिकद्वारे मार्गदर्शित केली जाते, जे प्रोग्राम केलेल्या नियमांच्या स्वरूपात किंवा मॉडेलने केलेल्या प्रश्नाच्या वर्गीकरणाच्या स्वरूपात असते (जरी अनेक पाइपलाइन एकाच वेळीही चालू शकतात).

ऑर्केस्ट्रेटर निकाल एकत्र करतो आणि LLM कडे पाठवण्यापूर्वी त्यांचे रीरँकिंग करू शकतो. रीरँकिंग म्हणजे पुनर्प्राप्त केलेल्या चंक्सना प्रासंगिकता गुण देण्याची प्रक्रिया, जेणेकरून LLM सर्वाधिक समर्पक माहितीला प्राधान्य देईल.

3. ॲडॅप्टिव्ह RAG

ॲडॅप्टिव्ह RAG मध्ये, राउटिंग घटक वापरकर्त्याच्या प्रॉम्प्टच्या गरजांनुसार पुनर्प्राप्ती धोरण निवडतो आणि त्यानंतर ऑर्केस्ट्रेटर निवडलेला वर्कफ्लो कार्यान्वित करतो.

मूळ फ्रेमवर्कमध्ये (Adaptive-RAG), एक लहान मॉडेल वर्गीकरणकर्ता म्हणून काम करत असे आणि पुनर्प्राप्ती नाही, एक-टप्प्याची पुनर्प्राप्ती किंवा बहु-टप्प्याची पुनर्प्राप्ती यापैकी एकाची निवड करत असे. काही आर्किटेक्चर आता त्याऐवजी जनरेटिव्ह मॉडेल्स किंवा नियम-आधारित ह्युरिस्टिक्स वापरतात.

हे एक लोकप्रिय आर्किटेक्चर आहे, कारण ते प्रॉम्प्टची गुंतागुंत आणि गरजांनुसार प्रोसेसिंग क्षमता वाटून देते, ज्यामुळे सोप्या प्रॉम्प्टसाठी अनावश्यक पुनर्प्राप्ती टप्पे कमी होतात. अनेक प्रकारचे प्रश्न हाताळणाऱ्या असिस्टंट्समध्ये हे सामान्यपणे आढळते.

4. करेक्टिव्ह RAG (CRAG)

करेक्टिव्ह RAG पुनर्प्राप्त केलेली माहिती LLM च्या संदर्भ इनपुटमध्ये जोडण्यापूर्वी तिचे मूल्यमापन करते. पुनर्प्राप्ती मूल्यमापक (retrieval evaluator) पुनर्प्राप्त केलेली माहिती प्रासंगिक आणि उपयुक्त आहे का याचे मूल्यांकन करतो. उत्तर तयार करण्यापूर्वीचा स्पष्ट मूल्यमापन-आणि-सुधारणा टप्पा हे याचे वैशिष्ट्यपूर्ण आर्किटेक्चरल लक्षण आहे.

माहिती अपूर्ण असल्याचे किंवा प्रॉम्प्टला लागू होत नसल्याचे आढळल्यास, अतिरिक्त विनंत्या सुरू केल्या जातात. यामध्ये मूळ विनंतीसाठी वापरलेल्या पद्धतींपेक्षा वेगळ्या पुनर्प्राप्ती पद्धतींचा, जसे की वेब शोध किंवा नॉलेज ग्राफ ट्रॅव्हर्सल, समावेश असू शकतो.

वैद्यकशास्त्र आणि कायदा यांसारख्या, अचूकता महत्त्वाची असलेल्या क्षेत्रांमध्ये करेक्टिव्ह RAG सामान्य आहे. मात्र, यासाठी माहितीचा एक अतिरिक्त स्रोत आवश्यक असतो, जो मूळ पुनर्प्राप्त उताऱ्यांना पूरक ठरू शकेल.

5. सेल्फ-RAG

सेल्फ-RAG मध्ये, सुरुवातीचा संदर्भ इनपुट मिळाल्यानंतर मॉडेल स्वतः विनंत्या सुरू करू शकते. रिफ्लेक्शन टोकन्स वापरून तयार केलेल्या उत्तरांचे पुनर्प्राप्त पुराव्यांच्या आधारे मूल्यमापन केले जाते आणि आवश्यकतेनुसार ऑर्केस्ट्रेटरमार्फत पुढील विनंत्या पाठवल्या जातात. याउलट, कोणत्याही पुनर्प्राप्तीची आवश्यकता नाही, असेही LLM ठरवू शकते.

हे करेक्टिव्ह RAG पेक्षा अशा प्रकारे वेगळे आहे की यात LLM स्वतःच्या आउटपुटचे मूल्यमापन करते, पुनर्प्राप्ती आवश्यक आहे का आणि पुनर्प्राप्त मजकूर उपयुक्त आहे का हे ठरवते, आणि स्वतःच्या उत्तरांवर लक्ष ठेवून आवश्यकतेनुसार त्यांत बदल करते. दुसरीकडे, करेक्टिव्ह RAG उत्तर तयार होण्यापूर्वी पुनर्प्राप्त माहितीच्या गुणवत्तेचे मूल्यमापन करते.

हे आर्किटेक्चर विशेषतः गुंतागुंतीच्या, सखोल संशोधन-शैलीतील प्रॉम्प्टसाठी उपयुक्त आहे. ते (पुनर्प्राप्त माहितीच्या) प्रासंगिकतेचे मूल्यमापन उत्तर निर्मितीमध्येच समाविष्ट करत असल्यामुळे, पुराव्यावर आधारित प्रतिसादांची आवश्यकता असलेल्या प्रॉम्प्टसाठी हा एक चांगला पर्याय आहे.

6. एजंटिक RAG

एजंटिक RAG म्हणजे एजंटिक प्लॅटफॉर्मच्या संदर्भात कार्यान्वित होणारा RAG चा कोणताही प्रकार. आवश्यक माहितीचा प्रकार ठरवण्यासाठी मॉडेल आपल्या कारणमीमांसा क्षमतांचा वापर करते आणि उपलब्ध पुनर्प्राप्ती पर्यायांमधून निवड करते.

आवश्यकतेनुसार पुनर्प्राप्ती अनेक वेळा सुरू केली जाऊ शकते आणि अधिक गुंतागुंतीच्या क्वेरींसाठी एजंट नियुक्त करण्याचा पर्याय मॉडेलकडे असतो. उदाहरणार्थ, LLM पुरवठादार ओळखण्यासाठी डेटाबेस लुकअपची विनंती करू शकते, संबंधित करार शोधण्यासाठी दस्तऐवज शोध सुरू करू शकते आणि शेवटी सार्वजनिक स्रोत वापरून संपर्क तपशील पडताळण्यासाठी वेब शोध घेऊ शकते.

Perplexity, ChatGPT, Claude इत्यादी मुख्य प्रवाहातील चॅटबॉट्समध्ये एजंटिक RAG ही मुख्य आर्किटेक्चर अंमलबजावणी आहे. हे प्लॅटफॉर्म मुख्य मॉडेलला अनेक टूल्स आणि RAG पाइपलाइनचा ॲक्सेस देत असल्यामुळे, प्रॉम्प्टसाठी पुनर्प्राप्तीचा कोणता प्रकार सर्वात योग्य आहे हे मॉडेल निवडू शकते.

7. मल्टीमोडल RAG

मल्टीमोडल RAG विविध प्रकारच्या माध्यमांमधून संदर्भ पुनर्प्राप्त करते. हा RAG चा एक महत्त्वाचा प्रकार आहे, कारण चार्ट आणि ऑडिओ रेकॉर्डिंगसारखी, अन्यथा LLM साठी अप्राप्य राहणारी माहिती तो उपलब्ध करून देतो.

याचे मूलभूत आर्किटेक्चर इतर कोणत्याही सिस्टमप्रमाणेच असते. उदाहरणार्थ, इंडेक्सिंग पाइपलाइन प्रतिमांना थेट एम्बेडिंगमध्ये रूपांतरित करून त्या शोधासाठी तयार करू शकते. त्यानंतर एजंटिक RAG सिस्टम या प्रतिमा अर्थाच्या दृष्टीने संबंधित मजकुरासोबत पुनर्प्राप्त करू शकते आणि दुहेरी प्रोसेसिंगसाठी व्हिजन-लँग्वेज मॉडेलला पुरवू शकते.

8. GraphRAG

GraphRAG एंटिटीजविषयी माहिती पुनर्प्राप्त करण्यासाठी व्हेक्टर शोधासोबत नॉलेज ग्राफ वापरते. सामान्यतः, ऑर्केस्ट्रेटर कीवर्ड एक्स्ट्रॅक्शन किंवा कधीकधी प्राथमिक व्हेक्टर शोध वापरून संबंधित सुरुवातीच्या एंटिटीज शोधतो, ज्यांना नोड्स असेही म्हणतात. व्यापक संदर्भ तयार करण्यासाठी ग्राफ रिट्रिव्हर नॉलेज ग्राफमधून मार्गक्रमण (ट्रॅव्हर्स) करतो.

उदाहरणार्थ, एखाद्या उत्पादन श्रेणीच्या सविस्तर विश्लेषणाच्या विनंतीला प्रतिसाद म्हणून, LLM विशिष्ट एंटिटीज (उत्पादने) ओळखण्यासाठी व्हेक्टर शोध सुरू करू शकते. त्यानंतर पुरवठादार, किरकोळ विक्रीची ठिकाणे, पुनरावलोकने इत्यादी संबंधित एंटिटीज शोधण्यासाठी ऑर्केस्ट्रेटर नॉलेज ग्राफ शोध सुरू करेल.

9. ब्रँच्ड RAG

हायब्रिड RAG आर्किटेक्चरमध्ये वेगवेगळ्या पुनर्प्राप्ती पद्धती वापरण्याची क्षमता असते, तर ब्रँच्ड RAG म्हणजे ब्रँचेस नावाच्या अनेक क्वेरी एकाच वेळी चालवण्याची प्रक्रिया. प्रत्येक ब्रँच स्वतंत्र माहिती स्रोताला क्वेरी करू शकते किंवा ब्रँचेस वेगवेगळ्या क्वेरी किंवा फिल्टर्ससह एकाच स्रोताला एकत्रितपणे क्वेरी करू शकतात. एजंटिक RAG आर्किटेक्चरमध्ये अनेकदा ब्रँच्ड RAG वापरले जाते.

10. HyDE (Hypothetical Document Embeddings – काल्पनिक दस्तऐवज एम्बेडिंग)

HyDE हा RAG चा एक नावीन्यपूर्ण प्रकार आहे, ज्यामध्ये आदर्श उत्तर कसे दिसू शकेल याचा एक काल्पनिक मजकूर दस्तऐवज LLM तयार करते. त्यानंतर अधिक अचूक पुनर्प्राप्तीसाठी क्वेरी तयार करण्यासाठी हा “काल्पनिक दस्तऐवज” वापरला जातो. संबंधित ज्ञान LLM पॅरामीटर्समध्ये दर्शवलेले नसले तरी, यामागील तर्क असा आहे की छोट्या प्रश्नापेक्षा किंवा संदिग्ध प्रॉम्प्टपेक्षा उत्तरासारखा उतारा संबंधित दस्तऐवजांशी अधिक चांगल्या प्रकारे जुळू शकतो.

साध्या RAG आर्किटेक्चरचे उदाहरण: व्हेक्टर डेटाबेस

मूलभूत RAG अधिक गुंतागुंतीच्या आर्किटेक्चर प्रकारांचा पाया म्हणून काम करते. व्हेक्टर डेटाबेस वापरणाऱ्या साध्या RAG सिस्टमच्या बाबतीत, स्रोत दस्तऐवज लहान भागांमध्ये (चंक्स) विभागले जातात आणि डेन्स एम्बेडिंगमध्ये रूपांतरित केले जातात. वापरकर्ता प्रॉम्प्ट टाकतो तेव्हा, ऑर्केस्ट्रेटर क्वेरी तयार करतो, ती एन्कोड करतो आणि संबंधित उतारे शोधण्यासाठी डेटाबेसला क्वेरी करतो.

या प्रक्रियेचे टप्प्याटप्प्याने विश्लेषण येथे दिले आहे:

1. स्वयंचलित इन्जेशन पाइपलाइन आणि BERT सारखे एम्बेडिंग मॉडेल वापरून मोठ्या प्रमाणातील मजकूर व्हेक्टरमध्ये रूपांतरित केला जातो.
2. जलद शोधासाठी डेटाबेस ॲप्लिकेशन व्हेक्टर्स संघटित करते, त्यांचे इंडेक्सिंग करते आणि ते साठवते.
3. वापरकर्ता चॅटबॉटमध्ये (जसे की Perplexity) प्रॉम्प्ट टाकतो.
4. व्हेक्टर डेटाबेसमधून संबंधित माहिती पुनर्प्राप्त करण्यासाठी ॲप्लिकेशन ऑर्केस्ट्रेटर (एम्बेडिंग मॉडेल वापरून) प्रॉम्प्ट एन्कोड करतो.
5. व्हेक्टर डेटाबेस संबंधित चंक्स परत पाठवतो आणि ऑर्केस्ट्रेटर ते इनपुट संदर्भामध्ये (“मोठ्या प्रॉम्प्ट”मध्ये) जोडून LLM ला पुरवतो.
6. LLM अतिरिक्त संदर्भ वापरून आणि आपल्या अंतर्गत ज्ञानाचा (त्याच्या पॅरामेट्रिक वेट्समध्ये साठवलेल्या) आधार घेऊन उत्तर तयार करते.

विस्तृत करा

प्रगत RAG आर्किटेक्चरचे उदाहरण: एजंटिक RAG

एजंटिक RAG म्हणजे एजंटिक प्लॅटफॉर्ममधील RAG सिस्टमचे मूलभूत आर्किटेक्चर. एजंटिक RAG प्रवाह बऱ्याचदा गुंतागुंतीचे असतात, कारण AI एजंट प्रॉम्प्टच्या स्वरूपानुसार वेगवेगळी टूल्स आणि पाइपलाइन वापरू शकतात आणि आवश्यकता असल्यास अनेक एजंट तैनात करू शकतात.

या प्रक्रियेचे एक व्यावहारिक उदाहरण येथे दिले आहे:

1. वापरकर्ता एखाद्या विषयाचे सखोल संशोधन आवश्यक असलेला गुंतागुंतीचा प्रश्न टाकतो. या उदाहरणासाठी, समजा प्रॉम्प्ट असा आहे: “मोठ्या भू-राजकीय घडामोडी लक्षात घेऊन पुढील सहा महिन्यांतील कंपनीच्या कमाईचा अंदाज द्या.”
2. वेगवेगळ्या सामग्री प्रकारांमध्ये RAG क्वेरींचे मिश्रण आवश्यक असेल, असा निष्कर्ष LLM काढते.
3. (अ) व्हेक्टर शोध, (ब) वेब ग्राउंडिंग आणि (क) प्रतिमा (मल्टीमोडल) शोध यांसाठी तीन वेगवेगळे एजंट तैनात केले जातात.
4. एजंट उपलब्ध पुनर्प्राप्ती टूल्स वापरून ऑर्केस्ट्रेटरमार्फत बातम्या आणि अंतर्गत आर्थिक डेटा यांसारखी संबंधित माहिती शोधतात.
5. LLM पुनर्प्राप्त निकालांची प्रत्येक एजंटच्या संशोधन प्रश्नाशी तुलना करते आणि प्रासंगिकतेनुसार त्यांची क्रमवारी लावते.
6. LLM माहितीचे मूल्यमापन करते आणि जिथे माहिती कमी पडते तिथे स्वतंत्र एजंटमार्फत अतिरिक्त शोध सुरू करते.
7. पुरेशी माहिती पुनर्प्राप्त झाल्यानंतर, LLM (अंतर्गत दस्तऐवजांमधून पुनर्प्राप्त केलेल्या) विद्यमान आर्थिक आकडेवारीच्या आधारे परिस्थितीनिहाय अंदाज तयार करते आणि प्रत्येक परिस्थितीसाठी कमाईचा अंदाज काढण्यासाठी कॅल्क्युलेटर टूल वापरते.
8. LLM पुनर्प्राप्त माहिती आणि गणनांचा वापर करून अंतिम उत्तर तयार करते आणि आवश्यकतेनुसार स्रोतांचा उल्लेख करते.

विस्तृत करा

RAG चे भविष्य काय आहे?

सध्याच्या नवकल्पना विद्यमान RAG आर्किटेक्चरमध्ये सखोलता आणि वेग आणणे, मल्टीमीडिया पुनर्प्राप्तीची अचूकता सुधारणे आणि अगदी ताज्या माहितीसह काम करण्यासाठी डिझाइन केलेल्या सिस्टम तयार करणे यांवर केंद्रित आहेत.

सध्या संशोधनाची दिशा ठरवणारे तीन ट्रेंड येथे दिले आहेत:

• अनेक स्रोतांमध्ये सखोल संशोधन: हे असे RAG आर्किटेक्चर आहे जे शोधांचे नियोजन करू शकते, विविध स्रोतांमध्ये अनेक ब्रँचेस चालवू शकते, पुनर्प्राप्त पुराव्यांचे मूल्यमापन करू शकते आणि तयार केलेली उत्तरे स्वतःहून ऑप्टिमाइझ करू शकते. ही सर्व कामे पार पाडू शकणारे एजंटिक RAG सातत्याने अधिक वेगवान आणि किफायतशीर होत आहे.
• मल्टीमोडल ॲप्लिकेशन्स: पुनर्प्राप्ती पाइपलाइन प्रतिमा आणि व्हिडिओंसह काम करण्यात अधिक सक्षम होत आहेत. दीर्घ व्हिडिओ आणि प्रगत आकृत्या यांसारख्या गुंतागुंतीच्या मल्टीमोडल डेटामधील विशिष्ट प्रकारची माहिती त्या अधिकाधिक अचूकपणे शोधू शकतात.
• सतत बदलणाऱ्या माहितीवर आधारित उत्तरे: LLM-आधारित ॲप्लिकेशन्स इनपुट संदर्भ पुरवण्यासाठी थेट माहिती स्रोतांचा (जसे की व्हिडिओ फीड आणि सेन्सर्स) वापर करू शकतात. या डेटाचा अर्थ लावण्यासाठी सिस्टम GraphRAG प्रमाणे माहितीचे बहुआयामी जाळेही तयार करू शकतात.

LLM-आधारित ॲप्लिकेशन्स ज्या प्रकारे काम करतात, त्यासाठी RAG मूलभूत आहे. यामुळे दैनंदिन ग्राहकांपासून विशेष क्षेत्रांत काम करणाऱ्या उद्योगांपर्यंत विविध वापरकर्त्यांना हॅल्युसिनेशन, अपूर्ण प्रशिक्षण डेटा आणि विशेष अंतर्गत ज्ञानाचा ॲक्सेस नसणे यांच्याशी संबंधित समस्यांवर मात करता येते.

म्हणूनच RAG सिस्टम आणि त्यांचे मूलभूत आर्किटेक्चर हे AI संशोधनातील सर्वात वेगाने प्रगती करणाऱ्या आणि सर्वात रोमांचक क्षेत्रांपैकी एक आहे.