AI ഏജന്റുകളിലെ കോൺടെക്സ്റ്റ് റോട്ട്: ദൈർഘ്യമേറിയ ടാസ്കുകളിൽ കൃത്യത കുറയുന്നത് എന്തുകൊണ്ട്, അത് എങ്ങനെ തടയാം
ഒരു AI ഏജന്റിന്റെ കോൺടെക്സ്റ്റിൽ എന്തെല്ലാം കുമിഞ്ഞുകൂടുന്നു, അത് കൃത്യതയെ ബാധിക്കുന്നത് എന്തുകൊണ്ട്, വിശ്വസനീയമായി തുടരുന്ന ടാസ്കുകൾ എങ്ങനെ സജ്ജീകരിക്കാം എന്നിവയെക്കുറിച്ചുള്ള ഒരു ഗൈഡ്.

AI ഏജന്റുകൾക്ക് കോൺടെക്സ്റ്റ് റോട്ട് എന്താണ് അർത്ഥമാക്കുന്നത്
ഒരു ദൈർഘ്യമേറിയ ടാസ്കിനിടെ ഏജന്റിന്റെ കോൺടെക്സ്റ്റ് നിറയുന്നതിനനുസരിച്ച് ക്രമേണ സംഭവിക്കുന്ന കൃത്യതാനഷ്ടമാണ് AI ഏജന്റുകളിലെ കോൺടെക്സ്റ്റ് റോട്ട്.
ഒരു ഏജന്റിന്റെ കോൺടെക്സ്റ്റ് എന്നത് അടുത്ത ഘട്ടത്തിനായി മോഡലിന് ലഭ്യമായ വിവരങ്ങളാണ്. നിർദ്ദേശങ്ങൾ, മുൻ സന്ദേശങ്ങൾ, തിരയൽ ഫലങ്ങൾ, വെബ്സൈറ്റുകളിൽ നിന്നോ ഫയലുകളിൽ നിന്നോ ഉള്ള ടെക്സ്റ്റ് എന്നിവ ഇതിൽ ഉൾപ്പെടാം. ഏജന്റ് പ്രവർത്തിക്കുന്നതിനനുസരിച്ച് അത് കൂടുതൽ വിവരങ്ങൾ ചേർത്തേക്കാം.
ഉദാഹരണത്തിന്, രണ്ടാഴ്ചയ്ക്കുള്ളിൽ ഡെലിവറി ചെയ്യുന്ന വിതരണക്കാരെ കണ്ടെത്തുക എന്നതാണ് ഒരു ഏജന്റിന്റെ ടാസ്ക് എന്ന് കരുതുക. തുടക്കത്തിൽ, അതിന്റെ കോൺടെക്സ്റ്റിൽ ആ അഭ്യർത്ഥന മാത്രമേ ഉണ്ടാകൂ. ടാസ്കിന്റെ പാതിവഴിയിൽ, ഡസൻ കണക്കിന് വിതരണക്കാരുടെ വെബ്സൈറ്റുകളിലെ ടെക്സ്റ്റ്, തിരയൽ ഫലങ്ങളുടെ നിരവധി പേജുകൾ, ഏജന്റ് ഇതിനകം പരിശോധിച്ച വിതരണക്കാരെക്കുറിച്ചുള്ള കുറിപ്പുകൾ എന്നിവയും കോൺടെക്സ്റ്റിൽ ഉണ്ടാകും.
ഒരു മോഡലിന് ഉൾക്കൊള്ളാനാകുന്ന കോൺടെക്സ്റ്റിന്റെ അളവിന് ഒരു പരിധിയുണ്ട് (ഇതിനെ കോൺടെക്സ്റ്റ് വിൻഡോ എന്ന് വിളിക്കുന്നു). ഈ വിൻഡോ ടോക്കണുകളിലാണ് അളക്കുന്നത്; ടോക്കണുകൾ ടെക്സ്റ്റിന്റെ ചെറിയ ഭാഗങ്ങളാണ്, സാധാരണയായി ഒരു വാക്കോ വാക്കിന്റെ ഒരു ഭാഗമോ. കോൺടെക്സ്റ്റ് വളരുന്നതിനനുസരിച്ച് കോൺടെക്സ്റ്റ് റോട്ട് വർദ്ധിക്കുന്നു, അതുകൊണ്ടാണ് നിരവധി ഘട്ടങ്ങളുള്ള ദൈർഘ്യമേറിയ ടാസ്കുകളിൽ ഇത് സംഭവിക്കാൻ ഏറ്റവും സാധ്യതയുള്ളത്.
കോൺടെക്സ്റ്റ് റോട്ട് രൂക്ഷമാകുന്നതിനനുസരിച്ച് ഏജന്റിന്റെ കൃത്യത കുറയും. അത് യഥാർത്ഥ നിർദ്ദേശങ്ങൾ അത്ര കൃത്യമായി പാലിക്കാതിരിക്കാം, വിശദാംശങ്ങൾ ശ്രദ്ധിക്കാതെ പോകാം, അല്ലെങ്കിൽ സമാനമായി തോന്നുന്ന വിവരങ്ങളെ തനിക്ക് ആവശ്യമുള്ളതായി തെറ്റിദ്ധരിക്കാം.
ഉദാഹരണത്തിന്, രണ്ടാഴ്ചയ്ക്കുള്ളിൽ ഡെലിവറി ചെയ്യുന്നവരെ കണ്ടെത്താൻ നിർദ്ദേശിച്ചിട്ടും, ആറാഴ്ച എടുക്കുന്ന വിതരണക്കാരെ ഏജന്റ് ഉൾപ്പെടുത്താൻ തുടങ്ങിയേക്കാം. നിർദ്ദേശം ഇപ്പോഴും അതിന്റെ കോൺടെക്സ്റ്റിലുണ്ട്, പക്ഷേ അത് ഇനി ഏജന്റിന്റെ തിരഞ്ഞെടുപ്പുകളെ സ്വാധീനിക്കുന്നില്ല.
കോൺടെക്സ്റ്റ് വിൻഡോയിൽ ഇടം തീർന്നുപോകുന്നതും കോൺടെക്സ്റ്റ് റോട്ടും ഒന്നല്ല. ഒരു ടാസ്കിന്റെ കോൺടെക്സ്റ്റ് വിൻഡോയുടെ പരിധി കടന്നാൽ, ഉള്ളടക്കം മുറിഞ്ഞുപോകുകയോ ടാസ്ക് പരാജയപ്പെടുകയോ ചെയ്യും. എല്ലാം ഇപ്പോഴും വിൻഡോയിൽ ഒതുങ്ങുമ്പോൾ തന്നെ, ആ ഘട്ടത്തിന് വളരെ മുമ്പേ കോൺടെക്സ്റ്റ് റോട്ട് ആരംഭിക്കുന്നു.
ഇത് കോൺടെക്സ്റ്റ് പോയിസണിംഗിൽ നിന്നും (തെറ്റിദ്ധരിപ്പിക്കുന്നതോ ദോഷകരമോ ആയ വിവരങ്ങൾ ഏജന്റിന്റെ കോൺടെക്സ്റ്റിൽ കടന്നുകൂടുന്ന അവസ്ഥ) വ്യത്യസ്തമാണ്. കൃത്യവും പൂർണ്ണവുമായ വിവരങ്ങളുള്ള ഒരു ഏജന്റിനും കോൺടെക്സ്റ്റ് റോട്ട് അനുഭവപ്പെടാം.
കോൺടെക്സ്റ്റ് റോട്ട് സംഭവിക്കുന്നത് എന്തുകൊണ്ട്
കോൺടെക്സ്റ്റ് വിൻഡോയിൽ ആവശ്യത്തിലധികം ഇടമുണ്ടെങ്കിൽപ്പോലും ഒരു മോഡലിന്റെ അറ്റൻഷൻ പരിമിതമായതിനാലാണ് കോൺടെക്സ്റ്റ് റോട്ട് സംഭവിക്കുന്നത്. AI മോഡലുകളിൽ, ഒരു പ്രതികരണത്തിലെ ഓരോ വാക്കും എഴുതുമ്പോൾ ഇൻപുട്ടിന്റെ ഏതെല്ലാം ഭാഗങ്ങളെ ആശ്രയിക്കണമെന്ന് മോഡൽ തീരുമാനിക്കുന്ന രീതിയുടെ സാങ്കേതിക പദമാണ് അറ്റൻഷൻ. കോൺടെക്സ്റ്റിന്റെ ഓരോ ഭാഗവും ആ അറ്റൻഷനുവേണ്ടി മത്സരിക്കുന്നു. ടെക്സ്റ്റ് കൂടുന്തോറും ഓരോ ഭാഗത്തിനും ലഭിക്കുന്ന അറ്റൻഷൻ കുറയുന്നു.
ഉദാഹരണത്തിന്, ഇൻപുട്ടിന്റെ ദൈർഘ്യം AI മോഡലുകളെ എങ്ങനെ ബാധിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഒരു പഠനം Chroma പ്രസിദ്ധീകരിച്ചു. Anthropic, OpenAI, Google, Alibaba എന്നിവയിൽ നിന്നുള്ള 18 മോഡലുകൾ അതിൽ പരീക്ഷിച്ചു. ഒരു പരീക്ഷണത്തിൽ, എഴുത്തിനെക്കുറിച്ചുള്ള ഒരു ഉപദേശം അടങ്ങിയ വാക്യം ഗവേഷകർ ഉപന്യാസങ്ങളുടെ ഒരു വലിയ ശേഖരത്തിനുള്ളിൽ ഒളിപ്പിച്ചു. തുടർന്ന് ആ ഉപദേശം എന്തായിരുന്നുവെന്ന് അവർ മോഡലിനോട് ചോദിച്ചു.
ഓരോ തവണയും കൂടുതൽ ഉപന്യാസ ടെക്സ്റ്റ് ചേർത്തുകൊണ്ട് അവർ പരീക്ഷണം നിരവധി തവണ ആവർത്തിച്ചു. വാക്യവും ചോദ്യവും ഒരിക്കലും മാറിയില്ല. അവയ്ക്ക് ചുറ്റുമുള്ള ടെക്സ്റ്റിന്റെ അളവ് മാത്രമാണ് മാറിയത്.
മോഡലുകൾക്ക് വായിക്കേണ്ട ടെക്സ്റ്റ് കൂടുന്തോറും അവയുടെ പ്രകടനം മോശമായി. റിപ്പോർട്ടിലെ എല്ലാ പരീക്ഷണങ്ങളിലും ഈ കണ്ടെത്തൽ ശരിയായിരുന്നു. മിക്ക ഏജന്റ് ടാസ്കുകളെയും പോലെ നിരവധി ഘട്ടങ്ങൾ ആവശ്യമുള്ള യഥാർത്ഥ ജോലികളിൽ കൃത്യതയിലെ ഇടിവ് ഇതിലും വലുതായിരിക്കുമെന്ന് ഗവേഷകർ പ്രവചിക്കുന്നു.
കോൺടെക്സ്റ്റ് റോട്ട് AI ഏജന്റുകളെ എങ്ങനെ ബാധിക്കാം
കോൺടെക്സ്റ്റ് റോട്ട് സാധാരണയായി ഈ നാല് വിധങ്ങളിൽ ഒന്നിലാണ് പ്രകടമാകുക:
യഥാർത്ഥ നിർദ്ദേശങ്ങൾ കൈവിട്ടുപോകുന്നത്
Chroma-യുടെ ഏറ്റവും ലളിതമായ പരീക്ഷണത്തിൽ, ആവർത്തിക്കുന്ന വാക്കുകളുടെ ഒരു നീണ്ട നിര അതേപടി പകർത്താൻ മോഡലുകളോട് ആവശ്യപ്പെട്ടു; അതിൽ എവിടെയോ വ്യത്യസ്തമായ ഒരു വാക്ക് ചേർത്തിരുന്നു. വ്യക്തമായ നിർദ്ദേശമുള്ള നിസ്സാരമായ ഒരു ടാസ്കായിരുന്നു അത്. എന്നിട്ടും, ടെക്സ്റ്റ് നീളുന്തോറും എല്ലാ മോഡലുകളുടെയും പ്രകടനം കുറഞ്ഞു. ചില മോഡലുകൾ ഇൻപുട്ടിൽ ഒട്ടും ഇല്ലാത്ത വാക്കുകൾ സൃഷ്ടിക്കാൻ തുടങ്ങി.
ഒരു ഏജന്റ് ടാസ്കിൽ, ബജറ്റ് അല്ലെങ്കിൽ ആവശ്യമായ ഫോർമാറ്റ് പോലുള്ള നിശ്ചിത നിബന്ധനകൾ ഉപയോക്താവ് സാധാരണയായി ടാസ്കിന്റെ തുടക്കത്തിൽ തന്നെ വെക്കും. കോൺടെക്സ്റ്റ് വളരുന്നതിനനുസരിച്ച് ഏജന്റ് അവ അത്ര സ്ഥിരതയോടെ പാലിക്കാതിരിക്കാം. ഇതിന് കാരണം കോൺടെക്സ്റ്റിന്റെ മൊത്തം ദൈർഘ്യമാണ്, നിർദ്ദേശം എവിടെയാണ് എന്നതല്ല.
ടാസ്കിന്റെ മധ്യഭാഗത്തുനിന്നുള്ള വിശദാംശങ്ങൾ വിട്ടുപോകുന്നത്
ഒരു 2023-ലെ Stanford പഠനം അനുസരിച്ച്, വിവരങ്ങൾ ഇൻപുട്ടിന്റെ ഏറ്റവും തുടക്കത്തിലോ ഏറ്റവും അവസാനത്തിലോ ആയിരിക്കുമ്പോഴാണ് AI മോഡലുകൾ അവ ഏറ്റവും വിശ്വസനീയമായി ഉപയോഗിക്കുന്നത്. ഒരു പരീക്ഷണത്തിൽ, ഗവേഷകർ മോഡലുകൾക്ക് 20 ഡോക്യുമെന്റുകളുടെ ഒരു സെറ്റ് നൽകി, അവയിൽ ഒന്നിൽ മാത്രം ഉത്തരമുള്ള ഒരു ചോദ്യം ചോദിച്ചു. ആ ഡോക്യുമെന്റ് ആദ്യമോ അവസാനമോ വന്നപ്പോൾ, മോഡലുകൾ സാധാരണയായി ഉത്തരം കണ്ടെത്തി. അത് സെറ്റിന്റെ മധ്യത്തിലായിരുന്നപ്പോൾ, അവയ്ക്ക് ഉത്തരം നഷ്ടമായത് വളരെ കൂടുതൽ തവണയാണ്. ഗവേഷകർ ഇതിനെ പൊസിഷൻ ഇഫക്ട് എന്ന് വിളിക്കുന്നു.
ഇതേ രീതി ഏജന്റുകൾക്കും ബാധകമാണ്. ടാസ്കിൽ നേരത്തെ കണ്ടെത്തിയ വിവരങ്ങൾ ഒരു നീണ്ട സംഭാഷണത്തിന്റെ മധ്യത്തിലായേക്കാം; അവിടെയുള്ള വിവരങ്ങൾ ഉപയോഗിക്കാൻ ചില മോഡലുകൾക്ക് കൂടുതൽ ബുദ്ധിമുട്ടുണ്ട്. വിതരണക്കാരുടെ ഉദാഹരണത്തിൽ, ടാസ്കിന്റെ പാതിവഴിയിൽ ഏജന്റ് പരിശോധിച്ച ഒരു നല്ല വിതരണക്കാരൻ അന്തിമ ലിസ്റ്റിൽ നിന്ന് വിട്ടുപോയേക്കാം.
സമാനമായ വിവരങ്ങൾ തമ്മിൽ മാറിപ്പോകുന്നത്
കോൺടെക്സ്റ്റ് വളരുന്നതിനനുസരിച്ച്, ഏതെല്ലാം വിവരങ്ങളാണ് തങ്ങളുടെ നിർദ്ദേശങ്ങൾക്ക് യോജിക്കുന്നതെന്ന് തിരിച്ചറിയാനുള്ള ഏജന്റുകളുടെ കഴിവ് കുറഞ്ഞേക്കാം. ഉദാഹരണത്തിന്, “രണ്ടാഴ്ചയ്ക്കുള്ളിൽ” ഷിപ്പ് ചെയ്യുന്ന വിതരണക്കാരെ കണ്ടെത്താൻ ഉപയോക്താവ് ഏജന്റിനോട് പറഞ്ഞുവെന്ന് കരുതുക. ഒരു വിതരണക്കാരന്റെ വെബ്സൈറ്റിൽ “ഓർഡർ ചെയ്ത് 14 കലണ്ടർ ദിവസങ്ങൾക്കുള്ളിൽ എത്തും” എന്ന് പറയുന്നു. ഒരു ചെറിയ ടാസ്കിൽ, ഇവ രണ്ടും ഒരേ അർത്ഥമാണെന്ന് ഏജന്റ് മിക്കവാറും തിരിച്ചറിയും. മറ്റ് ഡസൻ കണക്കിന് വിതരണക്കാരുടെ പേജുകൾക്കിടയിൽ മറഞ്ഞിരിക്കുമ്പോൾ, ഈ പൊരുത്തം അതിന് നഷ്ടമാകാനുള്ള സാധ്യത കൂടുതലാണ്.
അല്ലെങ്കിൽ, പ്രസക്തമല്ലാത്ത ഫലങ്ങൾ ഏജന്റ് ഉൾപ്പെടുത്താൻ തുടങ്ങിയേക്കാം. ഏജന്റ് ഓഫീസ് കസേരകളുടെ വിതരണക്കാരെ തിരയുകയാണെന്ന് കരുതുക. ഒരു വിതരണക്കാരന്റെ വെബ്സൈറ്റ് രണ്ടാഴ്ചയ്ക്കുള്ളിൽ ഡെലിവറി വാഗ്ദാനം ചെയ്യുന്നു, പക്ഷേ മേശകൾക്ക് മാത്രം. അവരുടെ കസേരകൾക്ക് ആറാഴ്ച എടുക്കും. വെബ്സൈറ്റ് നിർദ്ദേശത്തിലെ അതേ വാക്കുകൾ ഉപയോഗിക്കുന്നതിനാൽ, ഏജന്റ് എന്തായാലും ആ വിതരണക്കാരനെ ലിസ്റ്റിൽ ചേർത്തേക്കാം. ഗവേഷകർ ഇത്തരം വിവരങ്ങളെ ഡിസ്ട്രാക്ടർ എന്ന് വിളിക്കുന്നു. അത് പ്രസക്തമാണെന്ന് തോന്നുമെങ്കിലും അങ്ങനെയല്ല, അതിനാൽ അത് പ്രധാനപ്പെട്ട വിവരങ്ങളുമായി മത്സരിക്കുന്നു.
ചുറ്റുമുള്ള ടെക്സ്റ്റിന്റെ അളവ് കൂടുന്തോറും ഈ രണ്ട് പ്രശ്നങ്ങളും രൂക്ഷമായെന്ന് Chroma-യുടെ പഠനം കണ്ടെത്തി.
കണ്ടെത്താൻ പ്രയാസമുള്ള പിശകുകൾ
കോൺടെക്സ്റ്റ് റോട്ട് ഒരു പിശക് സന്ദേശവും കാണിക്കുന്നില്ല. ഏജന്റ് പ്രവർത്തനം തുടരുകയും പൂർത്തിയായതായി തോന്നുന്ന ഔട്ട്പുട്ട് തിരികെ നൽകുകയും ചെയ്യുന്നു. അതുകൊണ്ട് അതിന്റെ തെറ്റുകൾ ശ്രദ്ധിക്കാതെ പോകാൻ എളുപ്പമാണ്.
Chroma-യുടെ പരീക്ഷണങ്ങളിൽ, ഈ തെറ്റുകൾ രണ്ട് രൂപങ്ങളിലായിരുന്നു. ചിലപ്പോൾ ഒരു മോഡൽ തെറ്റായ ഉത്തരം ആത്മവിശ്വാസത്തോടെ നൽകി. വിതരണക്കാരെക്കുറിച്ചുള്ള ഗവേഷണ ഉദാഹരണത്തിൽ, ഡെലിവറി നിബന്ധനകൾ തെറ്റായി വായിച്ച ഒരു വിതരണക്കാരനെ ഉൾപ്പെടുത്തിയ, വൃത്തിയായി ഫോർമാറ്റ് ചെയ്ത ഒരു വിതരണക്കാരുടെ ലിസ്റ്റ് ഏജന്റ് നൽകിയേക്കാം.
മറ്റ് ചിലപ്പോൾ, യഥാർത്ഥത്തിൽ ഉണ്ടായിരുന്ന വിവരങ്ങൾ കണ്ടെത്താനായില്ലെന്ന് ഒരു മോഡൽ പറഞ്ഞു. ഉദാഹരണത്തിന്, നിരവധി വിതരണക്കാർ രണ്ടാഴ്ച എന്ന പരിധി പാലിക്കുന്നുണ്ടെങ്കിലും, ഒരു വിതരണക്കാരനും അത് പാലിക്കുന്നില്ലെന്ന് പറയുന്ന ഒരു റിപ്പോർട്ട് ഏജന്റ് നൽകിയേക്കാം.
കോൺടെക്സ്റ്റ് റോട്ട് കുറയ്ക്കാൻ ഏജന്റ് ടാസ്കുകൾ എങ്ങനെ സജ്ജീകരിക്കാം
ടാസ്കുകൾ ശരിയായി സജ്ജീകരിക്കുന്നത് കോൺടെക്സ്റ്റ് റോട്ടിന്റെ ആഘാതം കുറയ്ക്കുകയും ടാസ്കിലുടനീളം ഏജന്റിനെ കഴിയുന്നത്ര കൃത്യതയോടെ നിലനിർത്തുകയും ചെയ്യും. ഇനിപ്പറയുന്ന മികച്ച രീതികൾ സഹായിക്കും.
ടാസ്കിനെ ഒരു അസൈൻമെന്റായി എഴുതുക
വ്യക്തമായ ഒരു അസൈൻമെന്റ് കോൺടെക്സ്റ്റ് ചെറുതായി നിലനിർത്തുന്നു. ജോലി എപ്പോൾ പൂർത്തിയാകുമെന്ന് ഏജന്റിന് അറിയാം, അതിനാൽ ആവശ്യത്തിന് വിവരങ്ങൾ ലഭിച്ചാൽ അത് ശേഖരണം നിർത്തുന്നു. നിശ്ചിത ആവശ്യകതകൾ ഓരോ പേജും പരിശോധിക്കാൻ മൂർത്തമായ ഒരു മാനദണ്ഡവും നൽകുന്നു. ഇത് ശരിയായ വിവരങ്ങൾ കണ്ടെത്തുന്നത് ഏജന്റിന് എളുപ്പമാക്കുന്നു.
ഒരു ടാസ്ക് അയയ്ക്കുന്നതിന് മുമ്പ്, അത് ഈ മൂന്ന് കാര്യങ്ങൾ ഉൾക്കൊള്ളുന്നുണ്ടെന്ന് ഉറപ്പാക്കുക:
- ടാസ്ക്: ഏജന്റ് എന്ത് ചെയ്യണം, എന്ത് നൽകണം എന്നത്; ഉദാഹരണത്തിന് “വിതരണക്കാരെ കണ്ടെത്തി ഒരു ഷോർട്ട്ലിസ്റ്റ് നൽകുക.”
- ആവശ്യകതകൾ: ബജറ്റ്, സമയപരിധി, ഡെലിവറി വിലാസം, ഫലം ആർക്കുവേണ്ടിയാണ് എന്നിങ്ങനെ ഏജന്റിന് ഊഹിക്കാൻ കഴിയാത്ത വസ്തുതകൾ.
- ഔട്ട്പുട്ട്: ഫോർമാറ്റ്, ദൈർഘ്യം, ഘടന; ഉദാഹരണത്തിന് “പേര്, ഒരു കസേരയുടെ വില, ഡെലിവറി സമയം എന്നിവയുള്ള ഒരു പട്ടിക.”
എല്ലാം ചേർത്താൽ, വിതരണക്കാരെ കണ്ടെത്താനുള്ള ടാസ്ക് ക്വറി ഇങ്ങനെയായിരിക്കാം:
“ഞങ്ങളുടെ ഷിക്കാഗോ ഓഫീസിലേക്ക് രണ്ടാഴ്ചയ്ക്കുള്ളിൽ, ഒരു കസേരയ്ക്ക് $250-ൽ താഴെ വിലയ്ക്ക്, 40 ഓഫീസ് കസേരകൾ ഡെലിവർ ചെയ്യാൻ കഴിയുന്ന 10 വിതരണക്കാരെ കണ്ടെത്തുക. വിതരണക്കാരന്റെ പേര്, ഒരു കസേരയുടെ വില, ഡെലിവറി സമയം, ഉൽപ്പന്ന പേജിലേക്കുള്ള ലിങ്ക് എന്നിവയുള്ള ഒരു പട്ടിക നൽകുക. ഓർഡർ നൽകാൻ പോകുന്ന ഞങ്ങളുടെ ഓഫീസ് മാനേജർക്കുവേണ്ടിയാണ് ഈ ലിസ്റ്റ്.”
ഓരോ ടാസ്കും ഒരു ലക്ഷ്യത്തിൽ കേന്ദ്രീകരിക്കുക
ഒരു വ്യക്തമായ ലക്ഷ്യമുള്ള ഒരു ടാസ്ക് കോൺടെക്സ്റ്റ് ചെറുതായി നിലനിർത്തുന്നു. ദൈർഘ്യമേറിയ ടാസ്കുകൾക്ക് ചെലവും കൂടുതലാണ്. ഓരോ ഘട്ടവും ഇതുവരെ ശേഖരിച്ചതെല്ലാം പ്രോസസ്സ് ചെയ്യുന്നതിനാൽ, അമിതമായി വലുതായ കോൺടെക്സ്റ്റ് ഓരോ ഘട്ടത്തിലും കൂടുതൽ ക്രെഡിറ്റുകൾ ഉപയോഗിക്കുന്നു.
നിരവധി ഭാഗങ്ങളുള്ള ഒരു പ്രോജക്റ്റിനെ ഇങ്ങനെ വിഭജിക്കുക:
- വെവ്വേറെ ഡെലിവറബിളുകൾ ലിസ്റ്റ് ചെയ്യുക; ഉദാഹരണത്തിന് വിതരണക്കാർക്കായുള്ള തിരയൽ, ഒരു വില താരതമ്യം, തിരഞ്ഞെടുത്ത വിതരണക്കാരന് ഒരു ഇമെയിൽ.
- ഓരോ ഡെലിവറബിളും പ്രത്യേക ടാസ്കായി റൺ ചെയ്യുക.
- ഒരു ടാസ്കിൽ നിന്ന് അടുത്തതിലേക്ക് പൂർത്തിയായ ഫലം മാത്രം കൈമാറുക. ഉദാഹരണത്തിന്, വിതരണക്കാരുടെ പട്ടിക സൃഷ്ടിച്ച ത്രെഡിൽ തുടരുന്നതിന് പകരം, താരതമ്യ ടാസ്ക് ആരംഭിക്കാൻ ആ പട്ടിക ഒരു ഫയലായി അപ്ലോഡ് ചെയ്യുക.
അപ്പോൾ താരതമ്യ ടാസ്ക് എല്ലാ പേജുകൾക്കും പകരം ഒരൊറ്റ പട്ടികയിൽ നിന്ന് ആരംഭിക്കുന്നു.
ശരിയായ ഉറവിടങ്ങളിലേക്ക് ഏജന്റിനെ നയിക്കുക
ഉപയോഗപ്രദമായ ഭാഗത്തിന് ചുറ്റുമുള്ള മെനുകൾ, പരസ്യങ്ങൾ, ബോയിലർപ്ലേറ്റ് എന്നിവ ഉൾപ്പെടെ, ഏജന്റ് വായിക്കുന്ന ഓരോ പേജും അതിന്റെ കോൺടെക്സ്റ്റിലേക്ക് ചേരുന്നു. ഏജന്റിന് ഉറവിടങ്ങൾ നേരിട്ട് നൽകുന്നത് ആ അനാവശ്യ വിവരങ്ങൾ കുറയ്ക്കുന്നു.
അംഗീകൃത വെണ്ടർമാരുടെ ലിസ്റ്റ് പോലെ, ടാസ്കിന് ആവശ്യമായ ഫയലുകൾ ക്വറിയിൽ അറ്റാച്ച് ചെയ്ത് അപ്ലോഡ് ചെയ്യുക. ഏജന്റിന് വെബിൽ തിരയേണ്ടിവരുമ്പോൾ, വിശ്വസനീയമായ രണ്ട് വിതരണക്കാരുടെ ഡയറക്ടറികൾ പോലെ, തിരയാൻ യോഗ്യമായ വെബ്സൈറ്റുകളുടെ പേര് നൽകുക.
വിവരങ്ങൾ ഉള്ളിടത്തെ ടൂളുകൾ കണക്റ്റ് ചെയ്യുക. ഉദാഹരണത്തിന്, Perplexity Computer-ൽ, സൈഡ്ബാറിലെ കണക്ടറുകൾ തുറന്ന് Google Drive അല്ലെങ്കിൽ Slack പോലെ ടാസ്കിന് ആവശ്യമായ ആപ്പുകൾ പ്രവർത്തനക്ഷമമാക്കുക. തുടർന്ന് ക്വറിയിൽ അവയെ പരാമർശിക്കുക: “ഞങ്ങളുടെ Google Drive-ലെ കസേര സ്പെസിഫിക്കേഷനുകൾ ഉപയോഗിക്കുക.” ഓരോ കണക്ടറും ഏജന്റിന്റെ കോൺടെക്സ്റ്റിന്റെ ഒരു ഭാഗം ഉപയോഗിക്കുന്നതിനാൽ, പ്രസക്തമായ ആപ്പുകൾ മാത്രം കണക്റ്റ് ചെയ്യുക.
വിവരങ്ങൾ ഉള്ള ആപ്പ് കണക്ടറുകളുടെ ലിസ്റ്റിൽ ഇല്ലെങ്കിലും, അത് കണക്റ്റ് ചെയ്യാൻ സാധിച്ചേക്കും. പല ആപ്പുകളും ഒരു MCP (Model Context Protocol) കണക്ടർ നൽകുന്നുണ്ട്; AI ടൂളുകൾക്ക് മറ്റ് സോഫ്റ്റ്വെയറുകളുമായി ബന്ധിപ്പിക്കാനുള്ള ഒരു സ്റ്റാൻഡേർഡ് മാർഗമാണിത്. Computer-ന് അതിന്റെ ബിൽറ്റ്-ഇൻ കണക്ടറുകൾക്കൊപ്പം ഇവയും ഉപയോഗിക്കാം. ഒരു കമ്പനി അക്കൗണ്ടിൽ, ആദ്യം ഒരു അഡ്മിൻ ഇവ പ്രവർത്തനക്ഷമമാക്കേണ്ടി വന്നേക്കാം.
നിർദ്ദേശങ്ങൾക്കനുസരിച്ച് ഒരു അന്തിമ പരിശോധന ആവശ്യപ്പെടുക
ഏറ്റവും പ്രധാനപ്പെട്ട നിബന്ധനകൾ എടുത്തുപറയുന്ന ഒരു അവലോകന ഘട്ടത്തോടെ ക്വറി അവസാനിപ്പിക്കുക:
“പൂർത്തിയാക്കുന്നതിന് മുമ്പ്, ഓരോ വിതരണക്കാരനെയും ഈ ആവശ്യകതകൾക്കനുസരിച്ച് പരിശോധിക്കുക: രണ്ടാഴ്ചയ്ക്കുള്ളിൽ ഡെലിവറി, ഒരു കസേരയ്ക്ക് $250-ൽ താഴെ. ആ ആവശ്യകതകൾ പാലിക്കാത്തവയെ ഒഴിവാക്കുന്നതിന് പകരം ഫ്ലാഗ് ചെയ്യുക.”
നിബന്ധനകൾ ഇപ്പോഴും കോൺടെക്സ്റ്റിന്റെ തുടക്കത്തിൽ തന്നെയാണ്. എല്ലാ ഘട്ടങ്ങളിലും നിർദ്ദേശങ്ങൾ അവയുടെ സ്വാധീനം നിലനിർത്തുമെന്ന് ആശ്രയിക്കുന്നതിന് പകരം, തന്റെ അന്തിമ ഔട്ട്പുട്ട് നിബന്ധനകളുമായി താരതമ്യം ചെയ്യാൻ അവലോകന ഘട്ടം ഏജന്റിന് ഒരു കാരണം നൽകുന്നു.
അതേസമയം, ആ ഫലങ്ങൾ വെറുതെ ഒഴിവാക്കുന്നതിന് പകരം പ്രശ്നങ്ങൾ ഫ്ലാഗ് ചെയ്യാൻ ആവശ്യപ്പെടുന്നത് തെറ്റുകൾ കണ്ടെത്തുന്നത് എളുപ്പമാക്കുന്നു (ഉദാഹരണത്തിന്, 14 കലണ്ടർ ദിവസങ്ങൾക്കുള്ളിൽ എത്തിക്കുമെന്ന് വാഗ്ദാനം ചെയ്യുന്ന ഒരു വിതരണക്കാരനെ “രണ്ടാഴ്ച” എന്ന വാക്കുകൾ ഉപയോഗിക്കാത്തതിനാൽ നിരസിക്കുന്നത്.)
ചെക്ക്പോയിന്റുകളിൽ ജോലി അവലോകനം ചെയ്യുക
ദൈർഘ്യമേറിയ ടാസ്കുകൾക്കായി, ക്വറിയിൽ ഒരു ചെക്ക്പോയിന്റ് ഉൾപ്പെടുത്തുക:
“ആദ്യം സാധ്യതയുള്ള 20 വിതരണക്കാരെ കണ്ടെത്തുക, എന്നിട്ട് നിർത്തുക. നിങ്ങൾ വിലവിവരങ്ങൾ ശേഖരിക്കുന്നതിന് മുമ്പ് ഞാൻ ലിസ്റ്റ് സ്ഥിരീകരിക്കാം.”
യഥാർത്ഥ നിർദ്ദേശങ്ങൾക്കനുസരിച്ച് ഷോർട്ട്ലിസ്റ്റ് പരിശോധിക്കുക. തെറ്റായ എന്തെങ്കിലും ഉണ്ടെങ്കിൽ ഒരു ഫോളോ-അപ്പിലൂടെ തിരുത്തുക, തുടർന്ന് ഏജന്റിനെ തുടരാൻ അനുവദിക്കുക. ഈ ഘട്ടത്തിൽ കണ്ടെത്തുന്ന തെറ്റുകൾ തുടർന്നുള്ള ഓരോ ഘട്ടത്തിലേക്കും കടന്നുപോകില്ല.
ഒരു ടാസ്ക് വഴിതെറ്റുമ്പോൾ പുതിയൊരു ടാസ്ക് ആരംഭിക്കുക
തിരുത്തലുകൾക്ക് ശേഷവും ഏജന്റ് ഒരേ തെറ്റ് ആവർത്തിക്കുകയാണെങ്കിൽ, ഒരു പുതിയ ടാസ്ക് ആരംഭിക്കുക. ഓരോ തിരുത്തലും ഇതിനകം നീണ്ട കോൺടെക്സ്റ്റിലേക്ക് കൂടുതൽ ടെക്സ്റ്റ് ചേർക്കുന്നു. പകരം ഒരു പുതിയ ടാസ്ക് സൃഷ്ടിക്കുക. നിർദ്ദേശങ്ങൾ വീണ്ടും വ്യക്തമാക്കുക, ആദ്യ ശ്രമത്തിൽ നിന്നുള്ള നല്ല ഔട്ട്പുട്ട് അപ്ലോഡ് ചെയ്യുക, വീണ്ടും ആരംഭിക്കുക.
ചില ഏജന്റുകൾ ഇതിന്റെ ഒരു രൂപം സ്വയമേവ ചെയ്യുന്നു; ഈ പ്രക്രിയയെ കോംപാക്ഷൻ എന്ന് വിളിക്കുന്നു. ഒരു ടാസ്ക് നീളുന്നതിനനുസരിച്ച്, തുടക്കത്തിൽ വായിച്ച പേജുകളുടെ പൂർണ്ണ ടെക്സ്റ്റ് പോലുള്ള പഴയ ഉള്ളടക്കം, താൻ കണ്ടെത്തിയതിന്റെ ഒരു ചെറിയ സംഗ്രഹം കൊണ്ട് ഏജന്റ് മാറ്റിസ്ഥാപിക്കുന്നു. Perplexity-യുടെ Portable Computer ഈ രീതിയിൽ അതിന്റെ കോൺടെക്സ്റ്റ് കോംപാക്റ്റ് ചെയ്യുന്നു, അതിനാൽ മോഡലിന് നന്നായി കൈകാര്യം ചെയ്യാനാകുന്ന അളവിനുള്ളിൽ തന്നെ അത് നിലനിൽക്കുന്നു.
ലക്ഷ്യം മാറുകയാണെങ്കിൽ ഒരു പുതിയ ടാസ്ക് ആരംഭിക്കേണ്ടതും പ്രധാനമാണ്. വിതരണക്കാരെ തിരയാനായി ആരംഭിച്ച ഒരു ത്രെഡ് ഒരു കരാർ അവലോകനം കൂടി ആയി മാറരുത്.
ആവർത്തിക്കുന്ന നിർദ്ദേശങ്ങളെ ഒരു നൈപുണ്യമാക്കി മാറ്റുക
ഇഷ്ടപ്പെട്ട പട്ടിക ഫോർമാറ്റ്, ഒഴിവാക്കേണ്ട വെണ്ടർമാരുടെ ലിസ്റ്റ്, അല്ലെങ്കിൽ ഒരു സ്റ്റാൻഡേർഡ് അവലോകന ഘട്ടം പോലെ ചില നിർദ്ദേശങ്ങൾ ഒരു പ്രത്യേക തരത്തിലുള്ള എല്ലാ ടാസ്കുകളിലും ആവർത്തിക്കുന്നു. Computer-ൽ, ഇവ ഒരു നൈപുണ്യം ആയി സേവ് ചെയ്യാം; ഓരോ തവണയും ഏജന്റ് പാലിക്കുന്ന, വീണ്ടും ഉപയോഗിക്കാവുന്ന നിർദ്ദേശങ്ങളുടെ ഒരു കൂട്ടമാണിത്. ഒരു നൈപുണ്യം അത് ഉപയോഗിക്കുന്ന ഓരോ ടാസ്കിലും മറ്റ് മികച്ച രീതികളും ഉൾപ്പെടുത്തുന്നു.
ഒരെണ്ണം സജ്ജീകരിക്കാൻ:
- വിതരണക്കാരെക്കുറിച്ചുള്ള ഗവേഷണം പോലെ, പതിവായി വരുന്ന ഒരു ടാസ്ക് തിരഞ്ഞെടുക്കുക.
- ഓരോ തവണയും നൽകുന്ന നിർദ്ദേശങ്ങൾ എഴുതിവെക്കുക: ഫോർമാറ്റ്, പരിശോധനകൾ, ഉപയോഗിക്കേണ്ടതോ ഒഴിവാക്കേണ്ടതോ ആയ ഉറവിടങ്ങൾ.
- അവയെ ഒരു നൈപുണ്യമായി സേവ് ചെയ്യുക. Markdown-ൽ ഇതിനകം എഴുതിയ നിർദ്ദേശങ്ങൾ നേരിട്ട് ഇമ്പോർട്ട് ചെയ്യാം.
- ഭാവിയിലെ ക്വറികളിൽ നൈപുണ്യത്തിന്റെ പേര് പരാമർശിക്കുക: “ഡെൻവർ ഓഫീസിനായി കസേര വിതരണക്കാരെ കണ്ടെത്താൻ വിതരണക്കാരെക്കുറിച്ചുള്ള ഗവേഷണ നൈപുണ്യം ഉപയോഗിക്കുക.”
ഏജന്റ് ജോലികളിൽ Perplexity കോൺടെക്സ്റ്റിനെ സമീപിക്കുന്നത് എങ്ങനെ
ഓരോ മോഡലിന്റെയും കോൺടെക്സ്റ്റ് ചെറുതും പ്രസക്തവുമായി നിലനിർത്തുന്ന രീതിയിലാണ് Perplexity Computer ദൈർഘ്യമേറിയ ടാസ്കുകൾ കൈകാര്യം ചെയ്യുന്നത്. ഒരു മോഡലിന് ഒരേസമയം എത്രമാത്രം വായിക്കേണ്ടിവരുമെന്നത് അതിന്റെ രൂപകൽപ്പനയിലെ മൂന്ന് ഘടകങ്ങൾ പരിമിതപ്പെടുത്തുന്നു.
സബ്-ഏജന്റുകൾക്കിടയിൽ ജോലി വിഭജിക്കുന്നത്
Computer ഒരു അഭ്യർത്ഥനയെ ടാസ്കുകളും സബ്ടാസ്കുകളുമായി വിഭജിക്കുകയും, അവ നിർവഹിക്കാൻ സബ്-ഏജന്റുകളെ സൃഷ്ടിക്കുകയും ചെയ്യുന്നു. ഓരോ സബ്-ഏജന്റും ജോലിയുടെ ഒരു ഭാഗത്ത് സ്വന്തം കോൺടെക്സ്റ്റിൽ പ്രവർത്തിക്കുന്നു. വിതരണക്കാരെ കണ്ടെത്തുന്ന ടാസ്കിൽ, ഒരു സബ്-ഏജന്റ് വിലനിർണ്ണയം ഗവേഷണം ചെയ്യുമ്പോൾ മറ്റൊന്ന് ഡെലിവറി നിബന്ധനകൾ പരിശോധിച്ചേക്കാം. മറ്റേത് വായിച്ചതെല്ലാം രണ്ടിൽ ഒന്നിനും വായിക്കേണ്ടതില്ല.
ജോലി ഫയലുകളിൽ സൂക്ഷിക്കുന്നത്
ഓരോ Computer ടാസ്കിനും സ്വന്തം ഫയലുകളും വെബ് ബ്രൗസറും ടൂളുകളുമുള്ള ഒരു പ്രത്യേക വർക്ക്സ്പേസ് ലഭിക്കുന്നു. ഏജന്റിന് തന്റെ ജോലി ഒരു ഫയലിലേക്ക് സേവ് ചെയ്യാം, ഉദാഹരണത്തിന് താൻ പരിശോധിച്ച വിതരണക്കാരുടെ, തുടർച്ചയായി പുതുക്കുന്ന ഒരു പട്ടിക. ആവശ്യമുള്ളപ്പോൾ മാത്രമാണ് അത് ആ ഫയൽ വീണ്ടും തുറക്കുന്നത്.
തിരയൽ ഫലങ്ങളിൽ നിന്ന് പ്രസക്തമായ ഭാഗങ്ങൾ തിരഞ്ഞെടുക്കുന്നത്
മെനുകൾ, പരസ്യങ്ങൾ, മെറ്റാഡാറ്റ, മറ്റ് വിഷയങ്ങളെക്കുറിച്ചുള്ള ടെക്സ്റ്റ് എന്നിങ്ങനെ മോഡലിന് ആവശ്യമില്ലാത്ത ഉള്ളടക്കം വെബ് പേജുകളിൽ നിറഞ്ഞിരിക്കുന്നു. ക്വറി-അവെയർ കോൺടെക്സ്റ്റ് കംപ്രഷൻ അവയെ നീക്കം ചെയ്യുന്നു. ഒരു പേജ് മോഡലിലേക്ക് എത്തുന്നതിന് മുമ്പ്, ക്വറിയുമായി ബന്ധപ്പെട്ട വാക്യങ്ങൾ മാത്രം Perplexity നിലനിർത്തുന്നു.
ഈ ഘട്ടങ്ങൾ പ്രാവർത്തികമാക്കാൻ Perplexity Computer-നുള്ള നുറുങ്ങുകൾ, ഗൈഡുകൾ, ഉദാഹരണ ടാസ്കുകൾ പര്യവേക്ഷണം ചെയ്യുക.
പതിവ് ചോദ്യങ്ങൾ
കോൺടെക്സ്റ്റ് റോട്ടും ഹാലൂസിനേഷനും ഒന്നാണോ?
അല്ല, പക്ഷേ അവ തമ്മിൽ ബന്ധമുണ്ട്. തെറ്റായതോ തെളിവില്ലാത്തതോ ആയ എന്തെങ്കിലും പ്രസ്താവിക്കുന്ന ഏതൊരു ഉത്തരവുമാണ് ഹാലൂസിനേഷൻ. അവഗണിക്കപ്പെടുന്ന നിർദ്ദേശങ്ങൾ, വിട്ടുപോകുന്ന വിശദാംശങ്ങൾ തുടങ്ങിയ മറ്റ് തെറ്റുകൾക്കൊപ്പം, ഹാലൂസിനേഷനുകൾക്കുള്ള സാധ്യത വർദ്ധിപ്പിക്കുന്ന സാഹചര്യങ്ങളിൽ ഒന്നാണ് കോൺടെക്സ്റ്റ് റോട്ട്.
മികച്ച ഒരു ക്വറിക്ക് കോൺടെക്സ്റ്റ് റോട്ട് പരിഹരിക്കാനാകുമോ?
വ്യക്തമായ ഒരു ക്വറി ടാസ്കിനെ കേന്ദ്രീകൃതമായി നിലനിർത്തി കോൺടെക്സ്റ്റ് റോട്ട് കുറയ്ക്കുന്നു. എന്നിരുന്നാലും, കോൺടെക്സ്റ്റ് വളരുന്നത് തടയാൻ അതിന് കഴിയില്ല. ആവശ്യത്തിന് ദൈർഘ്യമുള്ള ഒരു ടാസ്കിൽ, ഏജന്റ് നന്നായി ഉപയോഗിക്കാൻ കഴിയുന്നതിലും കൂടുതൽ വിവരങ്ങൾ ശേഖരിക്കും; അതുകൊണ്ടാണ് ക്വറിയോളം തന്നെ ജോലി വിഭജിക്കുന്നതും ഇടയ്ക്കിടെ അത് പരിശോധിക്കുന്നതും പ്രധാനമാകുന്നത്.
കോൺടെക്സ്റ്റ് റോട്ട് ഏജന്റുകളെ മാത്രമല്ല, സാധാരണ AI ചാറ്റുകളെയും ബാധിക്കുമോ?
അതെ. ഒരു ചാറ്റിൽ, കോൺടെക്സ്റ്റ് എന്നത് ഇതുവരെയുള്ള മുഴുവൻ സംഭാഷണമാണ്; ഓരോ സന്ദേശവും അതിലേക്ക് പേസ്റ്റ് ചെയ്തതോ അപ്ലോഡ് ചെയ്തതോ ആയ ഏത് ഡോക്യുമെന്റും ഇതിൽ ഉൾപ്പെടുന്നു. നിരവധി വിഷയങ്ങളിലായി മണിക്കൂറുകളോളം നീണ്ട ഒരു ത്രെഡ്, ദൈർഘ്യമേറിയ ഏജന്റ് ടാസ്കിലേതുപോലുള്ള അതേ തെറ്റുകൾക്ക് കാരണമാകാം. പുതിയ വിഷയത്തിന് പുതിയൊരു ത്രെഡ് ആരംഭിക്കുന്നത് ഓരോ സംഭാഷണവും കേന്ദ്രീകൃതമായി നിലനിർത്തുന്നു.
കോൺടെക്സ്റ്റ് റോട്ട് ആരംഭിക്കുന്നതിന് മുമ്പ് ഒരു ടാസ്ക് എത്ര ദൈർഘ്യമുള്ളതാകാം?
നിശ്ചിതമായ ഒരു പരിധിയില്ല. അത് മോഡലിനെയും ടാസ്കിനെയും ആശ്രയിച്ചിരിക്കുന്നു. ഉദാഹരണത്തിന്, 2,60,000-ടോക്കൺ കോൺടെക്സ്റ്റ് വിൻഡോകളുള്ള ഓൺ-ഡിവൈസ് മോഡലുകൾ ഏകദേശം 1,00,000 ടോക്കണുകൾക്ക് അപ്പുറം ബുദ്ധിമുട്ടാൻ തുടങ്ങുന്നു; അത് അവയുടെ പരിധിയേക്കാൾ വളരെ താഴെയാണ്. ഈ ഇടിവ് പെട്ടെന്നുള്ളതല്ല, ക്രമേണയാണ്.