എന്താണ് RAG ആർക്കിടെക്ചർ? വിശദമായ പ്രായോഗിക ഉദാഹരണങ്ങളോടുകൂടിയ സമ്പൂർണ്ണ നിർവചനം

റിട്രീവൽ ഓഗ്മെന്റഡ് ജനറേഷൻ (retrieval augmented generation) എന്നതിന്റെ ചുരുക്കരൂപമായ RAG, LLM-കൾ ബാഹ്യ വിവരങ്ങൾ ഉപയോഗിച്ച് തങ്ങളുടെ ഔട്ട്‌പുട്ടുകൾ വിപുലീകരിക്കുകയും മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്ന ഒരു പ്രക്രിയയാണ്. RAG സാധ്യമാക്കുന്ന ഘടകങ്ങളുടെയും കണക്ഷനുകളുടെയും കൂട്ടമാണ് RAG ആർക്കിടെക്ചർ.

RAG-ന് പല വ്യത്യസ്ത വിഭാഗങ്ങളുണ്ട്, ഓരോന്നും അതിന്റേതായ സവിശേഷ ആർക്കിടെക്ചറിലാണ് പ്രവർത്തിക്കുന്നത്. അടിസ്ഥാനപരമായി, വിവരങ്ങൾ എങ്ങനെ സംഭരിക്കുന്നു, വീണ്ടെടുക്കുന്നു, ഒരു LLM-ലേക്ക് നൽകുന്നു എന്നതിന്റെ സവിശേഷ രീതി നിർണ്ണയിക്കുന്നത് ഒരു RAG സിസ്റ്റത്തിന്റെ ആർക്കിടെക്ചറാണ്.

എന്താണ് RAG ആർക്കിടെക്ചർ?

ഒരു നിശ്ചിത RAG സിസ്റ്റത്തിന് കരുത്തേകുന്ന ഘടകങ്ങളുടെ (അവയുമായി ബന്ധപ്പെട്ട കഴിവുകളുടെയും) അടിസ്ഥാന ക്രമീകരണമാണ് RAG ആർക്കിടെക്ചർ. ഈ ആർക്കിടെക്ചറുകളെല്ലാം ഒരു അടിസ്ഥാന ടെംപ്ലേറ്റിനെ ആധാരമാക്കിയാണ് നിർമ്മിച്ചിരിക്കുന്നത്; ഇതിനെ പലപ്പോഴും "സിമ്പിൾ" അല്ലെങ്കിൽ “നൈവ്” RAG എന്ന് വിളിക്കുന്നു.

അടിസ്ഥാന RAG ആർക്കിടെക്ചറിന്റെ ഒരു പൊതു അവലോകനം ഇതാ:

• വിവര സ്രോതസ്സ്: ബാഹ്യ വിവരങ്ങൾ സംഭരിച്ചിരിക്കുന്നത് ഇവിടെയാണ്. ഇതൊരു സെർച്ച് ഇൻഡെക്സോ, വലിയ അളവിലുള്ള വിവരങ്ങളെ പ്രതിനിധീകരിക്കുന്ന ഒരു വെക്ടർ ഡാറ്റാബേസോ, അല്ലെങ്കിൽ ഒരു റോ ഡോക്യുമെന്റ് റിപ്പോസിറ്ററിയോ ആകാം.
• റിട്രീവൽ ഘടകം: വിവര സ്രോതസ്സിൽ ക്വറി ചെയ്യുന്ന സംവിധാനമാണിത്. ഉദാഹരണത്തിന്, പ്രസക്തമായ ടെക്സ്റ്റ് ചങ്കുകൾ കണ്ടെത്താൻ ഒരു RAG സിസ്റ്റം ലളിതമായ കീവേഡ് സെർച്ചോ, സമാനതാ സെർച്ച് നടത്താൻ കൂടുതൽ സങ്കീർണ്ണമായ വെക്ടർ ക്വറികളോ ഉപയോഗിച്ചേക്കാം.
• ഓർക്കസ്ട്രേഷൻ ഘടകം: ഒരു ഉപയോക്തൃ പ്രോംപ്റ്റിനായി, LLM-നൊപ്പം ചേർന്നോ സ്വതന്ത്രമായോ, RAG പൈപ്പ്‌ലൈൻ ആരംഭിക്കുന്ന LLM അധിഷ്ഠിത ആപ്ലിക്കേഷന്റെ ഭാഗമാണ് ഈ ലെയർ. വീണ്ടെടുത്ത വിവരങ്ങൾ ഒരു വിപുലീകൃത പ്രോംപ്റ്റായി സമാഹരിക്കുന്നതും ഇതുതന്നെയാണ്.

RAG ആർക്കിടെക്ചർ ഘടകങ്ങൾ സാധാരണയായി രണ്ട് പാതകളായാണ് ക്രമീകരിക്കുന്നത്. ഇൻജഷൻ പാത ഡാറ്റ സ്വീകരിച്ച് അതിനെ തിരയാൻ കഴിയുന്ന ഒരു വിവര സ്രോതസ്സായി ക്രമീകരിക്കുന്നു. വലിയ അളവിലുള്ള ടെക്സ്റ്റിനെ വെക്ടർ എംബെഡിംഗുകളുടെ തിരയാവുന്ന ഒരു റിപ്പോസിറ്ററിയാക്കി മാറ്റുന്ന വെക്ടർ ഡാറ്റാബേസുകൾ ഏറ്റവും വ്യാപകമായി ഉപയോഗിക്കുന്ന ആപ്ലിക്കേഷനുകളിൽ ഒന്നാണ്.

റിട്രീവൽ പാത ഒരു ഉപയോക്താവിന്റെ പ്രോംപ്റ്റ് സ്വീകരിച്ച്, വിവര സ്രോതസ്സിൽ തിരയാനുള്ള ഒരു ക്വറി സൃഷ്ടിക്കുന്നു. തുടർന്ന് ഓർക്കസ്ട്രേറ്റർ വീണ്ടെടുത്ത വിവരങ്ങൾ LLM-നുള്ള കോൺടെക്സ്റ്റ് ഇൻപുട്ടിലേക്ക് ചേർക്കുന്നു. ഏജന്റിക്, ഹൈബ്രിഡ് RAG ആർക്കിടെക്ചറുകളിൽ ഒന്നിലധികം റിട്രീവൽ പാതകൾ ഉണ്ടായേക്കാം.

RAG ആർക്കിടെക്ചറിന്റെ തരങ്ങൾ

RAG-നെ പൂർണ്ണമായും വേറിട്ട ആർക്കിടെക്ചറുകളായി കാണുന്നത് തെറ്റിദ്ധാരണാജനകമാണ്. മിക്ക എഞ്ചിനീയർമാരും ഒരു മോഡുലാർ സമീപനമാണ് സ്വീകരിക്കുക; നിർദ്ദിഷ്ട ഉപയോഗ സാഹചര്യങ്ങൾക്ക് അനുയോജ്യമായ വിധത്തിൽ അവർ വെവ്വേറെ ഘടകങ്ങൾ നടപ്പിലാക്കുന്നു. ഏകദേശ അതിരുകൾ വരയ്ക്കാൻ സാധിക്കുമെങ്കിലും, ആർക്കിടെക്ചർ മോഡലുകൾക്കിടയിൽ കാര്യമായ ഓവർലാപ്പ് ഉണ്ടെന്നത് ശ്രദ്ധിക്കേണ്ടതാണ്.

1. അടിസ്ഥാന RAG

“നൈവ്” അല്ലെങ്കിൽ “സിമ്പിൾ” RAG എന്നും വിളിക്കപ്പെടുന്ന അടിസ്ഥാന RAG, മറ്റ് തരം RAG-കൾക്കുള്ള ആർക്കിടെക്ചറൽ ടെംപ്ലേറ്റാണ്.

ഇതിന്റെ അടിസ്ഥാന പ്രക്രിയ താരതമ്യേന ലളിതമാണ്: ഒരു ഉപയോക്താവ് പ്രോംപ്റ്റ് നൽകുന്നു, ബാഹ്യ വിവരങ്ങൾ ആവശ്യമുണ്ടോ എന്ന് ഓർക്കസ്ട്രേറ്റർ (സ്വതന്ത്രമായോ LLM-നൊപ്പം ചേർന്നോ) നിർണ്ണയിക്കുന്നു, തുടർന്ന് അതനുസരിച്ച് ഒരു റിട്രീവൽ ക്വറി രൂപപ്പെടുത്തി അയയ്ക്കുന്നു.

ബാഹ്യ വിവര സ്രോതസ്സ് സാധാരണയായി ഒരു വെക്ടർ ഡാറ്റാബേസാണ്, എന്നാൽ അത് ഒരു SQL ഡാറ്റാബേസോ, വെബ് API-യോ, നോളജ് ഗ്രാഫോ, അല്ലെങ്കിൽ ഒരു “റോ” ഡോക്യുമെന്റ് റിപ്പോസിറ്ററി പോലുമോ ആകാം. ഈ അധിക വിവരങ്ങൾ പിന്നീട് LLM-ന്റെ ഇൻപുട്ട് കോൺടെക്സ്റ്റിലേക്ക് ചേർക്കുന്നു.

SQL ക്വറികളും API-കളും ഒഴികെ, റിട്രീവൽ രീതികൾ പ്രധാനമായും രണ്ട് തരത്തിലുണ്ട്:

• ലെക്സിക്കൽ സെർച്ച് (കീവേഡ് സെർച്ച്): ഉപയോക്താവിന്റെ ക്വറിയിൽ നിന്ന് കീവേഡുകൾ വേർതിരിച്ചെടുത്ത്, ആ കീവേഡുകൾ അടങ്ങിയ ടെക്സ്റ്റ് ഭാഗങ്ങളുമായി പൊരുത്തപ്പെടുത്തുന്ന ലളിതമായ ഒരു RAG രൂപമാണിത്. ആധുനിക പൈപ്പ്‌ലൈനുകളിൽ, ഇതിനായി ഓർക്കസ്ട്രേറ്റർ സ്പാർസ് വെക്ടർ ക്വറി എന്നറിയപ്പെടുന്ന ഒന്ന് നടത്തിയേക്കാം; ഇത് അർത്ഥം ഉൾക്കൊള്ളുന്നില്ല.
• ഡെൻസ് വെക്ടർ സെർച്ച് (സെമാന്റിക് സെർച്ച്): ഡെൻസ് വെക്ടർ എംബെഡിംഗുകൾ അർത്ഥം ഉൾക്കൊള്ളുന്നു. ഉപയോക്തൃ പ്രോംപ്റ്റിന്റെയും സ്രോതസ്സ് വിവരങ്ങളുടെയും അർത്ഥം ഒരുപോലെ ഉൾക്കൊള്ളാൻ കഴിയുന്ന വിധത്തിൽ ഒരു ഓർക്കസ്ട്രേറ്ററിന് ഡെൻസ് വെക്ടർ ഡാറ്റാബേസിൽ ക്വറി ചെയ്യാനാകും.

മെമ്മറിയുടെ ഉപയോഗവും RAG ആർക്കിടെക്ചറിന്റെ ഒരു പ്രധാന ഭാഗമാണ്. ഒരു റിട്രീവൽ ക്വറി നിർമ്മിക്കാൻ LLM മുൻ ചാറ്റുകളിൽ നിന്നുള്ള കോൺടെക്സ്റ്റ് എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നതിനെയാണ് ഇത് സൂചിപ്പിക്കുന്നത്; അതുവഴി ക്വറിയെ ഒരു ചർച്ചയുടെ (അല്ലെങ്കിൽ ഒന്നിലധികം ചർച്ചകളുടെ) വിശാലമായ പശ്ചാത്തലത്തിൽ ഉറപ്പിക്കുന്നു. മിക്ക ചാറ്റ്ബോട്ടുകളിലും കോൺവർസേഷണൽ RAG ആണ് സാധാരണ രീതി, എന്നാൽ സപ്പോർട്ട് ടിക്കറ്റ് മറുപടികൾ പോലുള്ള ചില ഉപയോഗ സാഹചര്യങ്ങളിൽ സിംഗിൾ-ക്വസ്റ്റ്യൻ RAG ഉപയോഗിച്ചേക്കാം.

2. ഹൈബ്രിഡ്

ഹൈബ്രിഡ് RAG രണ്ട് വ്യത്യസ്ത തരം റിട്രീവലുകൾ സംയോജിപ്പിക്കുന്നു, സാധാരണയായി കീവേഡ് റിട്രീവലും സെമാന്റിക് റിട്രീവലും. കീവേഡ് സെർച്ച് പൊരുത്തപ്പെടുന്ന പദങ്ങൾ കണ്ടെത്തുന്നു, വെക്ടർ അധിഷ്ഠിത സെർച്ച് ബന്ധപ്പെട്ട അർത്ഥമുള്ള ഭാഗങ്ങൾ കണ്ടെത്തുന്നു.

നോളജ് ഗ്രാഫ് ട്രാവേഴ്സൽ അല്ലെങ്കിൽ SQL ഡാറ്റാബേസ് ക്വറികൾ പോലുള്ള മറ്റ് റിട്രീവൽ രൂപങ്ങളും ഉപയോഗിച്ചേക്കാം. ഈ പ്രക്രിയയെ പലപ്പോഴും നയിക്കുന്നത് റൂട്ടിംഗ് ലോജിക്കാണ്, പ്രോഗ്രാം ചെയ്ത നിയമങ്ങളുടെ രൂപത്തിലോ ചോദ്യത്തെ ഒരു മോഡൽ തരംതിരിക്കുന്നതിന്റെ രൂപത്തിലോ (ഒന്നിലധികം പൈപ്പ്‌ലൈനുകൾ ഒരേസമയം പ്രവർത്തിപ്പിക്കാനും സാധിക്കുമെങ്കിലും).

ഓർക്കസ്ട്രേറ്റർ ഫലങ്ങൾ ലയിപ്പിക്കുകയും LLM-ലേക്ക് കൈമാറുന്നതിന് മുമ്പ് അവ റീറാങ്ക് ചെയ്യുകയും ചെയ്തേക്കാം. ഏറ്റവും അനുയോജ്യമായ വിവരങ്ങൾക്ക് LLM മുൻഗണന നൽകുന്നതിനായി, വീണ്ടെടുത്ത ചങ്കുകൾക്ക് പ്രസക്തി സ്കോറുകൾ നൽകുന്ന പ്രക്രിയയാണ് റീറാങ്കിംഗ്.

3. അഡാപ്റ്റീവ് RAG

അഡാപ്റ്റീവ് RAG-ൽ, ഉപയോക്തൃ പ്രോംപ്റ്റിന്റെ ആവശ്യകതകളെ അടിസ്ഥാനമാക്കി ഒരു റൂട്ടിംഗ് ഘടകം റിട്രീവൽ തന്ത്രം തിരഞ്ഞെടുക്കുന്നു, തുടർന്ന് ഓർക്കസ്ട്രേറ്റർ തിരഞ്ഞെടുത്ത വർക്ക്ഫ്ലോ നടപ്പിലാക്കുന്നു.

യഥാർത്ഥ ഫ്രെയിംവർക്കിൽ (Adaptive-RAG), ഒരു ചെറിയ മോഡൽ ക്ലാസിഫയറായി പ്രവർത്തിച്ച്, റിട്രീവൽ വേണ്ടെന്ന് വയ്ക്കൽ, ഒറ്റ-ഘട്ട റിട്രീവൽ, ബഹു-ഘട്ട റിട്രീവൽ എന്നിവയിൽ നിന്ന് ഒന്ന് തിരഞ്ഞെടുക്കുമായിരുന്നു. ചില ആർക്കിടെക്ചറുകൾ ഇപ്പോൾ ഇതിനുപകരം ജനറേറ്റീവ് മോഡലുകളോ നിയമാധിഷ്ഠിത ഹ്യൂറിസ്റ്റിക്സോ ഉപയോഗിക്കുന്നു.

ഒരു പ്രോംപ്റ്റിന്റെ സങ്കീർണ്ണതയും ആവശ്യകതകളും അനുസരിച്ച് പ്രോസസ്സിംഗ് ശേഷി വിനിയോഗിക്കുകയും ലളിതമായ പ്രോംപ്റ്റുകൾക്ക് അനാവശ്യ റിട്രീവൽ ഘട്ടങ്ങൾ കുറയ്ക്കുകയും ചെയ്യുന്നതിനാൽ ഇതൊരു ജനപ്രിയ ആർക്കിടെക്ചറാണ്. ഒന്നിലധികം തരം ചോദ്യങ്ങൾ കൈകാര്യം ചെയ്യുന്ന അസിസ്റ്റന്റുകളിൽ ഇത് സാധാരണമാണ്.

4. കറക്റ്റീവ് RAG (CRAG)

കറക്റ്റീവ് RAG വീണ്ടെടുത്ത വിവരങ്ങൾ LLM-ന്റെ കോൺടെക്സ്റ്റ് ഇൻപുട്ടിലേക്ക് ചേർക്കുന്നതിന് മുമ്പ് അവയെ വിലയിരുത്തുന്നു. വീണ്ടെടുത്ത വിവരങ്ങൾ പ്രസക്തവും ഉപയോഗപ്രദവുമാണോ എന്ന് ഒരു റിട്രീവൽ ഇവാലുവേറ്റർ വിലയിരുത്തുന്നു. ഉത്തരം സൃഷ്ടിക്കുന്നതിന് മുമ്പുള്ള വ്യക്തമായ വിലയിരുത്തൽ-തിരുത്തൽ ഘട്ടമാണ് ഇതിന്റെ സവിശേഷമായ ആർക്കിടെക്ചറൽ പ്രത്യേകത.

വിവരങ്ങൾ അപൂർണ്ണമാണെന്നോ പ്രോംപ്റ്റിന് ബാധകമല്ലെന്നോ കണ്ടെത്തിയാൽ, അധിക അഭ്യർത്ഥനകൾ ട്രിഗർ ചെയ്യപ്പെടും. യഥാർത്ഥ അഭ്യർത്ഥനയ്ക്ക് ഉപയോഗിച്ചതിൽ നിന്ന് വ്യത്യസ്തമായ, വെബ് സെർച്ച് അല്ലെങ്കിൽ നോളജ് ഗ്രാഫ് ട്രാവേഴ്സൽ പോലുള്ള റിട്രീവൽ രീതികൾ ഇവയിൽ ഉൾപ്പെട്ടേക്കാം.

വൈദ്യശാസ്ത്രം, നിയമം തുടങ്ങിയ കൃത്യത പ്രധാനമായ മേഖലകളിൽ കറക്റ്റീവ് RAG സാധാരണമാണ്. എന്നിരുന്നാലും, ആദ്യം വീണ്ടെടുത്ത ഭാഗങ്ങൾക്ക് അനുബന്ധമായി ഉപയോഗിക്കാവുന്ന ഒരു അധിക വിവര സ്രോതസ്സ് ഇതിന് ആവശ്യമാണ്.

5. സെൽഫ്-RAG

സെൽഫ്-RAG-ൽ, പ്രാരംഭ കോൺടെക്സ്റ്റ് ഇൻപുട്ട് ലഭിച്ചതിന് ശേഷം മോഡലിന് തന്നെ അഭ്യർത്ഥനകൾ ആരംഭിക്കാൻ കഴിയും. സൃഷ്ടിച്ച ഉത്തരങ്ങൾ റിഫ്ലക്ഷൻ ടോക്കണുകൾ ഉപയോഗിച്ച് വീണ്ടെടുത്ത തെളിവുകളുമായി താരതമ്യം ചെയ്ത് വിലയിരുത്തുന്നു, ആവശ്യാനുസരണം ഓർക്കസ്ട്രേറ്റർ വഴി കൂടുതൽ അഭ്യർത്ഥനകൾ അയയ്ക്കുന്നു. മറുവശത്ത്, റിട്രീവൽ ഒട്ടും ആവശ്യമില്ലെന്നും LLM തീരുമാനിച്ചേക്കാം.

LLM സ്വന്തം ഔട്ട്‌പുട്ടുകൾ വിലയിരുത്തുകയും, റിട്രീവൽ ആവശ്യമുണ്ടോ എന്നും വീണ്ടെടുത്ത ടെക്സ്റ്റ് ഉപയോഗപ്രദമാണോ എന്നും നിർണ്ണയിക്കുകയും, സ്വന്തം ഉത്തരങ്ങൾ നിരീക്ഷിച്ച് ആവശ്യാനുസരണം പരിഷ്കരിക്കുകയും ചെയ്യുന്നു എന്നതിലാണ് ഇത് കറക്റ്റീവ് RAG-ൽ നിന്ന് വ്യത്യസ്തമാകുന്നത്. മറുവശത്ത്, കറക്റ്റീവ് RAG ഉത്തരം സൃഷ്ടിക്കുന്നതിന് മുമ്പ് വീണ്ടെടുത്ത വിവരങ്ങളുടെ ഗുണനിലവാരം വിലയിരുത്തുന്നു.

സങ്കീർണ്ണമായ, ഗുരുതരം ശോധനം ശൈലിയിലുള്ള പ്രോംപ്റ്റുകൾക്ക് ഈ ആർക്കിടെക്ചർ പ്രത്യേകിച്ചും ഉപയോഗപ്രദമാണ്. (വീണ്ടെടുത്ത വിവരങ്ങളുടെ) പ്രസക്തി സംബന്ധിച്ച വിലയിരുത്തലുകൾ ഉത്തരം സൃഷ്ടിക്കുന്ന പ്രക്രിയയിൽ സംയോജിപ്പിക്കുന്നതിനാൽ, തെളിവുകളെ അടിസ്ഥാനമാക്കിയുള്ള പ്രതികരണങ്ങൾ ആവശ്യമുള്ള പ്രോംപ്റ്റുകൾക്ക് ഇതൊരു മികച്ച ഓപ്ഷനാണ്.

6. ഏജന്റിക് RAG

ഒരു ഏജന്റിക് പ്ലാറ്റ്‌ഫോമിന്റെ പശ്ചാത്തലത്തിൽ നടപ്പിലാക്കുന്ന ഏത് RAG രൂപത്തെയും ഏജന്റിക് RAG എന്ന് പറയുന്നു. ആവശ്യമായ വിവരങ്ങളുടെ തരം നിർണ്ണയിക്കാൻ മോഡൽ അതിന്റെ റീസണിംഗ് കഴിവുകൾ ഉപയോഗിക്കുകയും ലഭ്യമായ റിട്രീവൽ ഓപ്ഷനുകളിൽ നിന്ന് തിരഞ്ഞെടുക്കുകയും ചെയ്യുന്നു.

ആവശ്യാനുസരണം റിട്രീവൽ ഒന്നിലധികം തവണ ട്രിഗർ ചെയ്യാം; കൂടുതൽ സങ്കീർണ്ണമായ ക്വറികൾക്കായി ഏജന്റുകളെ നിയോഗിക്കാനുള്ള ഓപ്ഷനും മോഡലിനുണ്ട്. ഉദാഹരണത്തിന്, ഒരു വിതരണക്കാരനെ തിരിച്ചറിയാൻ ഒരു ഡാറ്റാബേസ് ലുക്കപ്പ് അഭ്യർത്ഥിക്കാനും, പ്രസക്തമായ കരാറുകൾ കണ്ടെത്താൻ ഒരു ഡോക്യുമെന്റ് സെർച്ച് ട്രിഗർ ചെയ്യാനും, ഒടുവിൽ പൊതു സ്രോതസ്സുകൾ ഉപയോഗിച്ച് ബന്ധപ്പെടാനുള്ള വിശദാംശങ്ങൾ സ്ഥിരീകരിക്കാൻ ഒരു വെബ് സെർച്ച് നടത്താനും ഒരു LLM-ന് കഴിയും.

Perplexity, ChatGPT, Claude തുടങ്ങിയ മുഖ്യധാരാ ചാറ്റ്ബോട്ടുകളിലെ പ്രധാന ആർക്കിടെക്ചർ നിർവ്വഹണം ഏജന്റിക് RAG ആണ്. ഈ പ്ലാറ്റ്‌ഫോമുകൾ കോർ മോഡലിന് ഒന്നിലധികം ടൂളുകളിലേക്കും RAG പൈപ്പ്‌ലൈനുകളിലേക്കും ആക്‌സസ് നൽകുന്നതിനാൽ, ഒരു പ്രോംപ്റ്റിന് ഏറ്റവും അനുയോജ്യമായ റിട്രീവൽ രൂപം ഏതെന്ന് തിരഞ്ഞെടുക്കാൻ മോഡലിന് കഴിയും.

7. മൾട്ടിമോഡൽ RAG

മൾട്ടിമോഡൽ RAG വ്യത്യസ്ത തരം മീഡിയകളിൽ നിന്ന് കോൺടെക്സ്റ്റ് വീണ്ടെടുക്കുന്നു. ചാർട്ടുകൾ, ഓഡിയോ റെക്കോർഡിംഗുകൾ എന്നിങ്ങനെ മറ്റുവിധത്തിൽ ലഭ്യമല്ലാത്ത വിവരങ്ങൾ LLM-കൾക്ക് ലഭ്യമാക്കുന്നതിനാൽ ഇത് RAG-ന്റെ ഒരു പ്രധാന രൂപമാണ്.

അടിസ്ഥാന ആർക്കിടെക്ചർ മറ്റേതൊരു സിസ്റ്റത്തിലേതും പോലെ തന്നെയാണ്. ഉദാഹരണത്തിന്, ഒരു ഇൻഡെക്സിംഗ് പൈപ്പ്‌ലൈൻ ചിത്രങ്ങളെ നേരിട്ടുള്ള എംബെഡിംഗുകളാക്കി മാറ്റി സെർച്ചിനായി തയ്യാറാക്കിയേക്കാം. തുടർന്ന് ഒരു ഏജന്റിക് RAG സിസ്റ്റത്തിന് ഈ ചിത്രങ്ങളെ അർത്ഥപരമായി പ്രസക്തമായ ടെക്സ്റ്റിനൊപ്പം വീണ്ടെടുത്ത്, ഇരട്ട പ്രോസസ്സിംഗിനായി ഒരു വിഷൻ-ലാംഗ്വേജ് മോഡലിലേക്ക് നൽകാൻ കഴിയും.

8. GraphRAG

എന്റിറ്റികളെക്കുറിച്ചുള്ള വിവരങ്ങൾ വീണ്ടെടുക്കാൻ GraphRAG വെക്ടർ സെർച്ചിനൊപ്പം നോളജ് ഗ്രാഫുകളും ഉപയോഗിക്കുന്നു. സാധാരണയായി, കീവേഡ് എക്സ്ട്രാക്ഷൻ ഉപയോഗിച്ചോ ചിലപ്പോൾ ഒരു പ്രാഥമിക വെക്ടർ സെർച്ച് വഴിയോ, നോഡുകൾ എന്നും വിളിക്കപ്പെടുന്ന പ്രസക്തമായ ആരംഭ എന്റിറ്റികളെ ഓർക്കസ്ട്രേറ്റർ കണ്ടെത്തുന്നു. വിശാലമായ കോൺടെക്സ്റ്റ് നിർമ്മിക്കാൻ ഒരു ഗ്രാഫ് റിട്രീവർ നോളജ് ഗ്രാഫിലൂടെ സഞ്ചരിക്കുന്നു.

ഉദാഹരണത്തിന്, ഒരു ഉൽപ്പന്ന വിഭാഗത്തിന്റെ വിശദമായ വിശകലനത്തിനുള്ള അഭ്യർത്ഥനയ്ക്ക് മറുപടിയായി, നിർദ്ദിഷ്ട എന്റിറ്റികളെ (ഉൽപ്പന്നങ്ങൾ) തിരിച്ചറിയാൻ ഒരു LLM വെക്ടർ സെർച്ച് ട്രിഗർ ചെയ്തേക്കാം. തുടർന്ന് വിതരണക്കാർ, റീട്ടെയിൽ ലൊക്കേഷനുകൾ, റിവ്യൂകൾ തുടങ്ങിയ ബന്ധപ്പെട്ട എന്റിറ്റികളെ കണ്ടെത്താൻ ഓർക്കസ്ട്രേറ്റർ ഒരു നോളജ് ഗ്രാഫ് സെർച്ച് ട്രിഗർ ചെയ്യും.

9. ബ്രാഞ്ച്ഡ് RAG

ഒരു ഹൈബ്രിഡ് RAG ആർക്കിടെക്ചറിന് വ്യത്യസ്ത റിട്രീവൽ രീതികൾ ഉപയോഗിക്കാനുള്ള കഴിവാണുള്ളതെങ്കിൽ, ബ്രാഞ്ചുകൾ എന്ന് വിളിക്കപ്പെടുന്ന ഒന്നിലധികം ക്വറികൾ ഒരേസമയം പ്രവർത്തിപ്പിക്കുന്ന പ്രക്രിയയെയാണ് ബ്രാഞ്ച്ഡ് RAG എന്ന് പറയുന്നത്. ഓരോ ബ്രാഞ്ചിനും പ്രത്യേക വിവര സ്രോതസ്സിൽ ക്വറി ചെയ്യാം, അല്ലെങ്കിൽ ബ്രാഞ്ചുകൾക്ക് വ്യത്യസ്ത ക്വറികളോ ഫിൽട്ടറുകളോ ഉപയോഗിച്ച് ഒരേ സ്രോതസ്സിൽ ഒരുമിച്ച് ക്വറി ചെയ്യാം. ഏജന്റിക് RAG ആർക്കിടെക്ചർ പലപ്പോഴും ബ്രാഞ്ച്ഡ് RAG ഉപയോഗിക്കുന്നു.

10. HyDE (ഹൈപ്പോതെറ്റിക്കൽ ഡോക്യുമെന്റ് എംബെഡിംഗ്സ്)

ഒരു മികച്ച ഉത്തരം എങ്ങനെയിരിക്കാം എന്നതിന്റെ സാങ്കൽപ്പിക ടെക്സ്റ്റ് ഡോക്യുമെന്റ് ഒരു LLM സൃഷ്ടിക്കുന്ന നൂതനമായ ഒരു RAG രൂപമാണ് HyDE. തുടർന്ന് കൂടുതൽ കൃത്യമായ റിട്രീവലിനായി ഒരു ക്വറി സൃഷ്ടിക്കാൻ ഈ “സാങ്കൽപ്പിക ഡോക്യുമെന്റ്” ഉപയോഗിക്കുന്നു. പ്രസക്തമായ അറിവ് LLM പാരാമീറ്ററുകളിൽ പ്രതിനിധീകരിക്കപ്പെടുന്നില്ലെങ്കിലും, ഒരു ചെറിയ ചോദ്യത്തെയോ അവ്യക്തമായ പ്രോംപ്റ്റിനെയോ അപേക്ഷിച്ച് ഒരു ഉത്തരം പോലുള്ള ഭാഗം പ്രസക്തമായ ഡോക്യുമെന്റുകളുമായി കൂടുതൽ നന്നായി പൊരുത്തപ്പെട്ടേക്കാം എന്നതാണ് ഇതിന്റെ യുക്തി.

ലളിതമായ RAG ആർക്കിടെക്ചർ ഉദാഹരണം: വെക്ടർ ഡാറ്റാബേസ്

കൂടുതൽ സങ്കീർണ്ണമായ ആർക്കിടെക്ചർ തരങ്ങൾക്ക് അടിത്തറയായി പ്രവർത്തിക്കുന്നത് അടിസ്ഥാന RAG ആണ്. വെക്ടർ ഡാറ്റാബേസ് ഉപയോഗിക്കുന്ന ഒരു ലളിതമായ RAG സിസ്റ്റത്തിൽ, സ്രോതസ്സ് ഡോക്യുമെന്റേഷൻ ചെറിയ കഷണങ്ങളായി (ചങ്കുകൾ) വിഭജിച്ച് ഡെൻസ് എംബെഡിംഗുകളാക്കി മാറ്റുന്നു. ഒരു ഉപയോക്താവ് പ്രോംപ്റ്റ് നൽകുമ്പോൾ, ഓർക്കസ്ട്രേറ്റർ ഒരു ക്വറി സൃഷ്ടിച്ച്, അത് എൻകോഡ് ചെയ്ത്, പ്രസക്തമായ ഭാഗങ്ങൾ കണ്ടെത്താൻ ഡാറ്റാബേസിൽ ക്വറി ചെയ്യുന്നു.

ഈ പ്രക്രിയയുടെ ഘട്ടം ഘട്ടമായുള്ള വിശദീകരണം ഇതാ:

1. ഒരു ഓട്ടോമേറ്റഡ് ഇൻജഷൻ പൈപ്പ്‌ലൈനും BERT പോലുള്ള ഒരു എംബെഡിംഗ് മോഡലും ഉപയോഗിച്ച് വലിയ അളവിലുള്ള ടെക്സ്റ്റ് വെക്ടറുകളാക്കി മാറ്റുന്നു.
2. വേഗത്തിലുള്ള സെർച്ചിനായി ഡാറ്റാബേസ് ആപ്ലിക്കേഷൻ വെക്ടറുകളെ ക്രമീകരിക്കുകയും ഇൻഡെക്സ് ചെയ്യുകയും സംഭരിക്കുകയും ചെയ്യുന്നു.
3. ഉപയോക്താവ് ഒരു ചാറ്റ്ബോട്ടിൽ (Perplexity പോലുള്ളവ) ഒരു പ്രോംപ്റ്റ് നൽകുന്നു.
4. വെക്ടർ ഡാറ്റാബേസിൽ നിന്ന് പ്രസക്തമായ വിവരങ്ങൾ വീണ്ടെടുക്കുന്നതിനായി ആപ്ലിക്കേഷൻ ഓർക്കസ്ട്രേറ്റർ (ഒരു എംബെഡിംഗ് മോഡൽ ഉപയോഗിച്ച്) പ്രോംപ്റ്റ് എൻകോഡ് ചെയ്യുന്നു.
5. വെക്ടർ ഡാറ്റാബേസ് പ്രസക്തമായ ചങ്കുകൾ തിരികെ നൽകുന്നു; ഓർക്കസ്ട്രേറ്റർ അവയെ ഇൻപുട്ട് കോൺടെക്സ്റ്റിലേക്ക് (“വലിയ പ്രോംപ്റ്റ്”) ചേർത്ത് LLM-ലേക്ക് നൽകുന്നു.
6. അധിക കോൺടെക്സ്റ്റും അതിന്റെ ആന്തരിക അറിവും (പാരാമെട്രിക് വെയ്റ്റുകളിൽ സംഭരിച്ചിരിക്കുന്നത്) ഉപയോഗിച്ച് LLM ഒരു ഉത്തരം സൃഷ്ടിക്കുന്നു.

വലുതാക്കുക

അഡ്വാൻസ്ഡ് RAG ആർക്കിടെക്ചർ ഉദാഹരണം: ഏജന്റിക് RAG

ഒരു ഏജന്റിക് പ്ലാറ്റ്‌ഫോമിനുള്ളിലെ RAG സിസ്റ്റങ്ങളുടെ അടിസ്ഥാന ആർക്കിടെക്ചറിനെയാണ് ഏജന്റിക് RAG എന്ന് പറയുന്നത്. ഒരു പ്രോംപ്റ്റിന്റെ സ്വഭാവമനുസരിച്ച് AI ഏജന്റുകൾക്ക് വ്യത്യസ്ത ടൂളുകളും പൈപ്പ്‌ലൈനുകളും പ്രവർത്തിപ്പിക്കാനും ആവശ്യമെങ്കിൽ ഒന്നിലധികം ഏജന്റുകളെ വിന്യസിക്കാനും കഴിയുന്നതിനാൽ ഏജന്റിക് RAG ഫ്ലോകൾ സങ്കീർണ്ണമാകാറുണ്ട്.

ഈ പ്രക്രിയയുടെ ഒരു പ്രായോഗിക ഉദാഹരണം ഇതാ:

1. ഒരു വിഷയത്തിൽ ഗുരുതരം ശോധനം ആവശ്യമുള്ള സങ്കീർണ്ണമായ ഒരു ചോദ്യം ഉപയോക്താവ് നൽകുന്നു. ഈ ഉദാഹരണത്തിനായി, പ്രോംപ്റ്റ് ഇതാണെന്ന് കരുതുക: “പ്രധാന ഭൗമരാഷ്ട്രീയ സംഭവവികാസങ്ങളുടെ പശ്ചാത്തലത്തിൽ അടുത്ത ആറ് മാസത്തേക്കുള്ള കമ്പനി വരുമാനത്തിന്റെ ഒരു പ്രവചനം നൽകുക.”
2. വ്യത്യസ്ത ഉള്ളടക്ക തരങ്ങളിലായി RAG ക്വറികളുടെ ഒരു മിശ്രിതം ആവശ്യമായി വരുമെന്ന് LLM യുക്തിപൂർവ്വം വിലയിരുത്തുന്നു.
3. (a) വെക്ടർ സെർച്ച്, (b) വെബ് ഗ്രൗണ്ടിംഗ്, (c) ഇമേജ് (മൾട്ടിമോഡൽ) സെർച്ച് എന്നിവയ്ക്കായി മൂന്ന് വ്യത്യസ്ത ഏജന്റുകളെ വിന്യസിക്കുന്നു.
4. ലഭ്യമായ റിട്രീവൽ ടൂളുകൾ ഉപയോഗിച്ച്, ഓർക്കസ്ട്രേറ്റർ വഴി ഏജന്റുകൾ വാർത്തകൾ, ആന്തരിക സാമ്പത്തിക ഡാറ്റ തുടങ്ങിയ പ്രസക്തമായ വിവരങ്ങൾക്കായി തിരയുന്നു.
5. LLM വീണ്ടെടുത്ത ഫലങ്ങളെ ഓരോ ഏജന്റിന്റെയും ഗവേഷണ ചോദ്യവുമായി താരതമ്യം ചെയ്ത്, പ്രസക്തി അനുസരിച്ച് അവയെ റാങ്ക് ചെയ്യുന്നു.
6. LLM വിവരങ്ങൾ വിലയിരുത്തുകയും, വിവരങ്ങൾ കുറവുള്ളിടത്ത് അതത് ഏജന്റുകൾ വഴി അധിക സെർച്ചുകൾ ട്രിഗർ ചെയ്യുകയും ചെയ്യുന്നു.
7. ആവശ്യത്തിന് വിവരങ്ങൾ വീണ്ടെടുത്തുകഴിഞ്ഞാൽ, (ആന്തരിക ഡോക്യുമെന്റേഷനിൽ നിന്ന് വീണ്ടെടുത്ത) നിലവിലുള്ള സാമ്പത്തിക കണക്കുകളെ അടിസ്ഥാനമാക്കി LLM സാഹചര്യ പ്രവചനങ്ങൾ സൃഷ്ടിക്കുകയും, ഓരോന്നിനുമുള്ള വരുമാനം കണക്കാക്കാൻ ഒരു കാൽക്കുലേറ്റർ ടൂൾ ഉപയോഗിക്കുകയും ചെയ്യുന്നു.
8. വീണ്ടെടുത്ത വിവരങ്ങളും കണക്കുകൂട്ടലുകളും ഉപയോഗിച്ച്, ആവശ്യാനുസരണം സ്രോതസ്സുകൾ ഉദ്ധരിച്ചുകൊണ്ട് LLM ഒരു അന്തിമ ഉത്തരം സൃഷ്ടിക്കുന്നു.

വലുതാക്കുക

RAG-ന്റെ ഭാവി എന്താണ്?

നിലവിലെ RAG ആർക്കിടെക്ചറുകൾക്ക് ആഴവും വേഗതയും നൽകുക, മൾട്ടിമീഡിയ റിട്രീവലിന്റെ കൃത്യത മെച്ചപ്പെടുത്തുക, ഏറ്റവും പുതിയ വിവരങ്ങൾ കൈകാര്യം ചെയ്യാൻ രൂപകൽപ്പന ചെയ്ത സിസ്റ്റങ്ങൾ നിർമ്മിക്കുക എന്നിവയിലാണ് നിലവിലെ നൂതനാശയങ്ങൾ കേന്ദ്രീകരിക്കുന്നത്.

നിലവിൽ ഗവേഷണത്തിന്റെ ദിശ രൂപപ്പെടുത്തുന്ന മൂന്ന് ട്രെൻഡുകൾ ഇതാ:

• ഒന്നിലധികം സ്രോതസ്സുകളിലായുള്ള ഗുരുതരം ശോധനം: സെർച്ചുകൾ ആസൂത്രണം ചെയ്യാനും, വ്യത്യസ്ത സ്രോതസ്സുകളിലായി ഒന്നിലധികം ബ്രാഞ്ചുകൾ പ്രവർത്തിപ്പിക്കാനും, വീണ്ടെടുത്ത തെളിവുകൾ വിലയിരുത്താനും, സൃഷ്ടിച്ച ഉത്തരങ്ങൾ സ്വയം ഒപ്റ്റിമൈസ് ചെയ്യാനും കഴിവുള്ള RAG ആർക്കിടെക്ചറാണിത്. ഈ ജോലികളെല്ലാം നിർവ്വഹിക്കാൻ കഴിവുള്ള ഏജന്റിക് RAG കൂടുതൽ വേഗതയേറിയതും ചെലവ് കുറഞ്ഞതുമായി മാറിക്കൊണ്ടിരിക്കുന്നു.
• മൾട്ടിമോഡൽ ആപ്ലിക്കേഷനുകൾ: ചിത്രങ്ങളും വീഡിയോയും കൈകാര്യം ചെയ്യുന്നതിൽ റിട്രീവൽ പൈപ്പ്‌ലൈനുകൾ കൂടുതൽ മികവ് നേടുകയാണ്. ദൈർഘ്യമേറിയ വീഡിയോകൾ, സങ്കീർണ്ണമായ ഡയഗ്രങ്ങൾ എന്നിവ പോലുള്ള സങ്കീർണ്ണ മൾട്ടിമോഡൽ ഡാറ്റയിലെ പ്രത്യേക തരം വിവരങ്ങൾ കൃത്യമായി കണ്ടെത്താൻ അവയ്ക്ക് കൂടുതലായി കഴിയുന്നുണ്ട്.
• നിരന്തരം മാറുന്ന വിവരങ്ങളിൽ ഉത്തരങ്ങൾ ഉറപ്പിക്കൽ: ഇൻപുട്ട് കോൺടെക്സ്റ്റ് നൽകുന്നതിനായി LLM അധിഷ്ഠിത ആപ്ലിക്കേഷനുകൾക്ക് തത്സമയ വിവര സ്രോതസ്സുകൾ (വീഡിയോ ഫീഡുകൾ, സെൻസറുകൾ പോലുള്ളവ) പ്രയോജനപ്പെടുത്താനാകും. ഈ ഡാറ്റ വ്യാഖ്യാനിക്കാൻ, GraphRAG-ൽ എന്നതുപോലെ, ബഹുമുഖമായ വിവര ശൃംഖലകൾ സൃഷ്ടിക്കാനും സിസ്റ്റങ്ങൾക്ക് കഴിയും.

LLM അധിഷ്ഠിത ആപ്ലിക്കേഷനുകളുടെ പ്രവർത്തനത്തിന് അടിസ്ഥാനമാണ് RAG. സാധാരണ ഉപഭോക്താക്കൾ മുതൽ പ്രത്യേക മേഖലകളിൽ പ്രവർത്തിക്കുന്ന സ്ഥാപനങ്ങൾ വരെയുള്ള നിരവധി ഉപയോക്താക്കൾക്ക് ഹാലൂസിനേഷനുകൾ, അപൂർണ്ണമായ പരിശീലന ഡാറ്റ, പ്രത്യേക ആന്തരിക അറിവിലേക്കുള്ള ആക്‌സസിന്റെ അഭാവം എന്നിവയുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ മറികടക്കാൻ ഇത് സഹായിക്കുന്നു.

അതുകൊണ്ടാണ് RAG സിസ്റ്റങ്ങളും അവയുടെ അടിസ്ഥാന ആർക്കിടെക്ചറും AI ഗവേഷണത്തിലെ ഏറ്റവും വേഗത്തിൽ മുന്നേറുന്നതും ആവേശകരവുമായ മേഖലകളിൽ ഒന്നായി നിലകൊള്ളുന്നത്.