AI-ആദ്യമായ ഒരു Search API രൂപകൽപ്പന ചെയ്യുകയും വിലയിരുത്തുകയും ചെയ്യുന്നു

വിപുലീകരിക്കാവുന്നതും AI-ആദ്യവുമായ ഒരു Search API നിർമ്മിക്കുന്നത് വിവര വീണ്ടെടുക്കൽ (information retrieval), AI, സിസ്റ്റം ഡിസൈൻ എന്നിവയുടെ സംഗമസ്ഥാനത്ത് സവിശേഷമായ ഗവേഷണ വെല്ലുവിളികൾ ഉയർത്തുന്നു. പരിമിതമായ ഡാറ്റയിൽ പ്രവർത്തിക്കുന്ന പരമ്പരാഗത സേവനങ്ങളിൽ നിന്ന് വ്യത്യസ്തമായി, ഒരു Search API കോടിക്കണക്കിന് രേഖകൾ തുടർച്ചയായി ഇൻഡക്സ് ചെയ്യുകയും, ഭാഷകളിലും ഡൊമെയ്നുകളിലും ഉടനീളമുള്ള ചോദ്യങ്ങളുടെ ഉദ്ദേശ്യം മനസ്സിലാക്കുകയും, മില്ലിസെക്കൻഡുകൾക്കുള്ളിൽ പ്രസക്തമായ ഫലങ്ങൾ നൽകുകയും വേണം. AI ഏജന്റുകളുടെ ലോകത്ത്, ഡെവലപ്പർമാരുടെ മോഡലുകൾ ഒപ്റ്റിമൽ ആയി പ്രവർത്തിക്കുന്നുവെന്നും പരമാവധി കൃത്യമായ വിവരങ്ങൾ ഉൾക്കൊള്ളുന്നുവെന്നും ഉറപ്പാക്കാൻ ഒരു Search API സന്ദർഭം (context) ശ്രദ്ധാപൂർവ്വം ക്യൂറേറ്റ് ചെയ്യേണ്ടതുണ്ട്. ഫലപ്രദമായ സന്ദർഭ എഞ്ചിനീയറിംഗിന് API ഡോക്യുമെന്റ് ലെവൽ പ്രസക്തി പിടിച്ചെടുക്കുക മാത്രമല്ല, രേഖകളുടെ വ്യക്തിഗത വിഭാഗങ്ങളെയും സ്പാനുകളെയും അവരുടേതായ നിലയിൽ പ്രഥമ പരിഗണനയുള്ള യൂണിറ്റുകളായി കണക്കാക്കുകയും വേണം.

ഈ ലേഖനത്തിൽ, Perplexity Search API-യുടെ രൂപകൽപ്പനയും മൂല്യനിർണ്ണയവും ഞങ്ങൾ അവതരിപ്പിക്കുന്നു. പ്രതിദിനം 200 ദശലക്ഷം ചോദ്യങ്ങൾ പ്രോസസ്സ് ചെയ്യുന്ന ഞങ്ങളുടെ പ്രൊഡക്ഷൻ സെർച്ച് ഇൻഫ്രാസ്ട്രക്ചറിന് പിന്നിലെ ആർക്കിടെക്ചറും പ്രധാന സാങ്കേതിക തീരുമാനങ്ങളും ഞങ്ങൾ ആദ്യം പരിശോധിക്കുന്നു. ഞങ്ങളുടെ ആർക്കിടെക്ചർ ഹൈബ്രിഡ് വീണ്ടെടുക്കൽ മെക്കാനിസങ്ങൾ, മൾട്ടി-സ്റ്റേജ് റാങ്കിംഗ് പൈപ്പ്‌ലൈനുകൾ, വിതരണം ചെയ്ത ഇൻഡക്സിംഗ്, സ്വയം മെച്ചപ്പെടുത്തുന്ന ഉള്ളടക്ക ധാരണ മൊഡ്യൂൾ വഴിയുള്ള ഡൈനാമിക് പാഴ്സിംഗ് എന്നിവ സംയോജിപ്പിക്കുന്നു.

പുതിയതായി ഓപ്പൺ സോഴ്‌സ് ചെയ്‌ത മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്കിലൂടെ Search API പ്രകടനത്തെ അനുഭവപരമായി വിലയിരുത്തുന്നതിനുള്ള ഞങ്ങളുടെ സമീപനം ഞങ്ങൾ തുടർന്ന് വിവരിക്കുന്നു. നിലവിലുള്ള വാണിജ്യ API-കൾക്കൊപ്പമുള്ള സമഗ്രമായ ബെഞ്ച്മാർക്കിംഗിലൂടെ, ഗുണനിലവാരത്തിലും ലേറ്റൻസിയിലും ഞങ്ങൾ അത്യാധുനിക പ്രകടനം പ്രകടമാക്കുന്നു. Perplexity Search API ഇന്ന് മുതൽ ലോകമെമ്പാടുമുള്ള ഡെവലപ്പർമാർക്കായി ലഭ്യമാണ്.

[GitHub-ൽ search_evals കണ്ടെത്തുക]

AI മോഡലുകൾക്കായി ഒപ്റ്റിമൈസ് ചെയ്‌ത ഒരു തിരയൽ സിസ്റ്റം നിർമ്മിക്കുന്നു

ഞങ്ങളുടെ സ്ഥാപനം മുതൽ, ഞങ്ങൾ ഷിപ്പ് ചെയ്യാൻ ആഗ്രഹിച്ച വിഭാഗം നിർവചിക്കുന്ന AI ഉൽപ്പന്നങ്ങൾ പ്രാപ്തമാക്കുന്നതിന് ശക്തമായ തിരയൽ കഴിവുകൾ നിർണായകമാണെന്ന് ഞങ്ങൾ മനസ്സിലാക്കി. തുടക്കത്തിൽ, പൊതുവായി ലഭ്യമായ രൂപത്തിൽ ഈ കഴിവുകൾ ഇതിനകം നിലവിലുണ്ടെന്ന് ഞങ്ങൾ പ്രതീക്ഷിച്ചു. 2022 ന്റെ അവസാനത്തിൽ ലഭ്യമായ Search API-കളുടെ പോർട്ട്ഫോളിയോ ഉപയോഗിച്ച് ഞങ്ങൾ പരീക്ഷണം നടത്തി, Perplexity-യുടെ ഉത്തര എഞ്ചിന്റെ വളരെ ആദ്യത്തെ പതിപ്പ് യഥാർത്ഥത്തിൽ ഈ ഓഫറുകളിൽ ചിലത് ഉൾപ്പെടുത്തിയിട്ടുണ്ട്. പ്രത്യേകിച്ചും, ഞങ്ങൾ ഉപയോക്തൃ ചോദ്യങ്ങൾ വിശകലനം ചെയ്യുകയും, ഈ API-ലേക്ക് അഭ്യർത്ഥനകൾ രൂപപ്പെടുത്തുകയും അയക്കുകയും ചെയ്യും, കൂടാതെ ഞങ്ങളുടെ ഡൗൺസ്ട്രീം ജനറേഷൻ പൈപ്പ്‌ലൈനിനായുള്ള സന്ദർഭമായി ഫലങ്ങൾ ശേഖരിക്കുകയും ചെയ്യും.

എങ്കിലും, ഉപയോക്താക്കൾ Perplexity-യിലേക്ക് ഒഴുകിയെത്തുമ്പോൾ, ഈ APIകൾ നമ്മുടെ വളർച്ചയോടൊപ്പം സ്കെയിൽ ചെയ്യാനിടയില്ലെന്ന് ഞങ്ങൾ പെട്ടെന്ന് തിരിച്ചറിഞ്ഞു. ഞങ്ങൾ നേരിട്ട വിലകൾ അത്യന്തം അമിതമായിരുന്നു; ഒരു മുൻനിര API പ്രൊവൈഡർ ഓരോ ആയിരം ക്വറിയ്ക്കും $200 ഈടാക്കി. എന്നാൽ അതിലും കൂടുതൽ നിർണായകമായി, ഈ പാരമ്പര്യ APIകൾ frontier AI സിസ്റ്റങ്ങൾ അവതരിപ്പിച്ച പുതിയ retrieval paradigm-കൾക്കായി രൂപകൽപ്പന ചെയ്തതുതന്നെയായിരുന്നില്ല.

വലുതാക്കുക

ആരംഭത്തിനായി, ഈ പാരമ്പര്യ APIകളുടെ request, response ഫോർമാറ്റുകൾ മനുഷ്യർ മാത്രം search results ഉപയോഗിക്കുന്ന ലോകത്തിനായി രൂപകൽപ്പന ചെയ്തവയായിരുന്നു. അതിന്റെ ഫലമായി, ഈ APIകൾ sub-document യൂണിറ്റുകൾ വെളിപ്പെടുത്തുന്ന കൂടുതൽ സൂക്ഷ്മമായ വിവരങ്ങളെ ഒഴിവാക്കി, document-level ഫലങ്ങൾക്ക് മുൻഗണന നൽകി. ഒരു AI model-ന്റെ വിജയം നൽകിയിരിക്കുന്ന context-ന്റെ ഗുണനിലവാരത്തിലും സംക്ഷിപ്തതയിലുമാണ് ആശ്രയിക്കുന്നത്, കൂടാതെ ലഭിച്ച documents ആകെയുള്ള നിലയിൽ എത്ര relevant ആയി തോന്നിയാലും, അത്യധികം വ്യാപകമായ retrieval എങ്ങനെ AI models-നെ വഴിതെറ്റിക്കാമെന്ന് ഞങ്ങൾ നേരിട്ട് കണ്ടു. imprecise results-ലേക്ക് precision കുത്തിനിറയ്ക്കാനുള്ള ഞങ്ങളുടെ ശ്രമങ്ങൾ പരിമിത വിജയത്തോടെയാണ് നേരിട്ടത്.

പാരമ്പര്യ APIകൾ അത്യധികം പഴകിയതോ അത്യധികം മന്ദഗതിയുള്ളതോ ആയിരുന്നുവെന്നും ഞങ്ങൾ നിരീക്ഷിച്ചു. സ്വതന്ത്രമായി വികസിപ്പിച്ച search APIകൾ അപൂർണ്ണവും വളരെ വിരളമായി അപ്ഡേറ്റ് ചെയ്യപ്പെടുന്നതുമായ indices-ലാണ് ആശ്രയിച്ചത്. Google Search-നുള്ള വിവിധ unofficial SERP APIകൾ പോലുള്ള scraping-based APIകൾ കൂടുതൽ സമഗ്രമായ ഒരു index-ന്റെ പ്രയോജനം ലഭിച്ചതായിരുന്നുവെങ്കിലും, മൂന്നാം കക്ഷി search engine-നെ query ചെയ്യുന്നതിലെ സ്വാഭാവികമായ inefficiency കാരണം അംഗീകരിക്കാനാവാത്തത്ര ഉയർന്ന latency അവർ നൽകുകയായിരുന്നു. ഉയർന്ന latency user-facing applications-നായി APIകളെ അനുയോജ്യമല്ലാത്തതാക്കി, അതേസമയം പഴക്കം result sets-നെ കൃത്യതയും വിശ്വാസ്യതയും ലക്ഷ്യമിടുന്ന ഏതൊരു AI system-ന്റെയും കാര്യത്തിൽ ഉപയോഗശൂന്യമാക്കി.

അവസാനമായി, ലെക്സിക്കൽ തിരയലിനും സെമാന്റിക് തിരയലിനുമിടയിൽ AI ഇക്കോസിസ്റ്റം രണ്ടായി പിളരുന്നത് ഞങ്ങൾ നിരീക്ഷിച്ചു, ഒരു മോഡാലിറ്റിക്ക് മുകളിൽ മറ്റൊന്നിനായി അമിതമായി ഒപ്റ്റിമൈസ് ചെയ്യപ്പെട്ട സിസ്റ്റങ്ങൾ ഉയർന്നുവരുന്നു. ലളിതമായ ബൂോളിയൻ ഫിൽട്ടറുകളെ പോലും പര്യാപ്തമായി പിന്തുണയ്ക്കാൻ കഴിയാത്ത വെക്ടർ ഡാറ്റാബേസുകളുടെ ഉയർച്ച ഞങ്ങൾ കണ്ടു. പരമ്പരാഗത തിരയൽ ബാക്കെൻഡുകൾക്ക് മെച്ചമൊന്നുമില്ലായിരുന്നു, AI അൺലോക്ക് ചെയ്ത സെമാന്റിക് റാങ്കിംഗിനും വീണ്ടെടുക്കൽ അവസരങ്ങൾക്കും പ്രാകൃതമായ പിന്തുണയുണ്ട്.

Perplexity കൂടുതൽ മെച്ചപ്പെടുത്തുന്നതിന് ഞങ്ങളുടെ സ്വന്തം സമർപ്പിത തിരയൽ ഇൻഫ്രാസ്ട്രക്ചർ നിർമ്മിക്കേണ്ടതുണ്ടെന്ന് ഞങ്ങൾ മനസ്സിലാക്കിയപ്പോൾ, ഞങ്ങളുടെ നിരീക്ഷണങ്ങൾ ഞങ്ങൾ മൂന്ന് പ്രധാന മാനദണ്ഡങ്ങളായി ചുരുക്കി:

പൂർണ്ണത, പുതുമ, വേഗത: തിരയൽ സൂചിക സമഗ്രവും നിരന്തരം അപ്‌ഡേറ്റ് ചെയ്യപ്പെടുന്നതും തത്സമയ ലേറ്റൻസിക്കായി എഞ്ചിനീയറിംഗ് ചെയ്തതുമായിരിക്കണം.

സൂക്ഷ്മമായ ഉള്ളടക്ക ധാരണ: AI മോഡൽ പെട്ടെന്ന് തകരുന്ന സ്വഭാവവും പരിമിതമായ സന്ദർഭ വിൻഡോകളും തിരയൽ ഫലങ്ങൾ ഏറ്റവും ഗ്രാനുലാർ തലത്തിൽ അവതരിപ്പിക്കാനും റാങ്ക് ചെയ്യാനും ആവശ്യപ്പെടുന്നു.

ഹൈബ്രിഡ് വീണ്ടെടുക്കലും റാങ്കിംഗും: ഫലങ്ങൾ AI-ക്ക് ഉപയോഗപ്രദമാകുന്നതിന് വീണ്ടെടുക്കലും റാങ്കിംഗ് പൈപ്പ്‌ലൈനുകളും ലെക്സിക്കൽ, സെമാന്റിക് സിഗ്നലുകൾ ഉൾപ്പെടുത്തണം.

വലുതാക്കുക

ക്രാവലിംഗും ഇൻഡക്സിംഗ് ഇൻഫ്രാസ്ട്രക്ചറും

Perplexity സ്കെയിലിൽ പ്രവർത്തിക്കുന്നതിന് വെബിനെ സമഗ്രമായി മാപ്പ് ചെയ്യാനും അതിന്റെ നിരന്തരമായ പരിണത്തോട് പ്രതികരിക്കാനും കഴിയുന്ന ഇൻഫ്രാസ്ട്രക്ചർ ആവശ്യമാണ്. ഞങ്ങളുടെ തിരയൽ സൂചിക 200 ബില്യണിലധികം അദ്വിതീയ URL-കൾ ട്രാക്ക് ചെയ്യുന്നു, കൂടാതെ നൂറുകണക്കിന് ബില്യൺ കൂടുതൽ ട്രാക്ക് ചെയ്യാനുള്ള ശേഷിയുമുണ്ട്.

ഞങ്ങളുടെ സൂചിക ഇന്റർനെറ്റിന്റെ പര്യാപ്തമായ സമഗ്രമായ ഒരു ഭാഗം ഉൾക്കൊള്ളുന്നുവെന്നും ഓരോ രേഖയും ഏറ്റവും പുതിയ അവസ്ഥ പ്രതിഫലിപ്പിക്കുന്നുവെന്നും ഉറപ്പാക്കുന്നത് ഒരു കഠിനമായ കാര്യമാണ്. പൂർണ്ണതയും പുതുമയും തമ്മിൽ അന്തർലീനമായ ഒരു പിരിമുറുക്കമുണ്ട്: ഒരു നിശ്ചിത ഇൻഡക്സിംഗ് ബജറ്റിനായി, നിലവിലുള്ള പേജുകൾക്കായുള്ള പുതുക്കൽ പ്രവർത്തനങ്ങൾ സന്ദർശിക്കാത്ത പുതിയ പേജുകൾക്കായുള്ള ഇൻഡക്സിംഗ് പ്രവർത്തനങ്ങളുമായി മത്സരിക്കണം. സ്കെയിലിംഗ് (ഇൻഡക്സിംഗ് ബജറ്റ് വർദ്ധിപ്പിച്ചുകൊണ്ട് ഒപ്റ്റിമൈസേഷൻ പരിമിതി ലഘൂകരിക്കുന്നു), ML-ഡ്രിവൺ മുൻഗണന (ഓരോ ഇൻഡക്സിംഗ് പ്രവർത്തനവും സൂചികയ്ക്ക് മൊത്തത്തിൽ പരമാവധി മൂല്യമുള്ളതാണെന്ന് ഉറപ്പാക്കുന്നു) എന്നിവയുടെ സംയോജനത്തിലൂടെ ഞങ്ങൾ ഈ പിരിമുറുക്കം സന്തുലിതമാക്കുന്നു.

വളർച്ചയനുസരിച്ച് വലിപ്പത്തിലും ചോദ്യ വോള്യത്തിലും തിരശ്ചീനമായി സ്കെയിൽ ചെയ്യുന്ന ഒരു എക്സാബൈറ്റ്-സ്കെയിൽ സൂചികയും ക്രാവലിംഗ് അപ്പാരറ്റസും ഞങ്ങൾ നിർമ്മിച്ചിട്ടുണ്ട്. Perplexity-യുടെ ക്രാവലറും ഇൻഡക്സിംഗ് ഫ്ലീറ്റുകളും കൂട്ടായി പതിനായിരക്കണക്കിന് CPU-കളും നൂറുകണക്കിന് ടെറാബൈറ്റ് RAM-ഉം ഉൾക്കൊള്ളുന്നു, ഇത് കൂടുതൽ സ്കെയിലിംഗിനായി ഗണ്യമായ ഹെഡ്റൂം നൽകുന്നു. ഞങ്ങൾ ഈ കമ്പ്യൂട്ട് ഇൻഫ്രാസ്ട്രക്ചറിനെ കോൾഡ്, വാം സ്റ്റോറേജ് ബാലൻസുമായി ഇണചേർക്കുന്നു. ഏത് ഡോക്യുമെന്റുകളാണ് ഹോട്ട് ആയി സൂക്ഷിക്കേണ്ടതെന്ന് നിർണ്ണയിക്കാൻ ഞങ്ങൾ പഠിച്ച മോഡലുകളും ട്യൂൺ ചെയ്ത ഹ്യൂറിസ്റ്റിക്സും ഉപയോഗിക്കുന്നു, അധികാര ഡൊമെയ്നുകളിൽ നിന്നുള്ള ഡോക്യുമെന്റുകൾക്ക് മുൻഗണന നൽകുന്നു, കവർ ചെയ്യപ്പെടാത്ത വിഷയങ്ങൾ ഉൾപ്പെടുന്ന ഡോക്യുമെന്റുകൾ, ഞങ്ങളുടെ സൂചികയെ സമ്പന്നമാക്കാൻ വലിയ സാധ്യതയുള്ള മറ്റ് വിഭാഗങ്ങൾ.

ഈ ഇൻഫ്രാസ്ട്രക്ചർ സെക്കൻഡിൽ പതിനായിരക്കണക്കിന് ഇൻഡക്സിംഗ് പ്രവർത്തനങ്ങൾ പ്രോസസ്സ് ചെയ്യാൻ Perplexity-യെ പ്രാപ്തമാക്കുന്നു. എന്നാൽ താരതമ്യേന ഉദാരമായ ഈ ബജറ്റ് ഉണ്ടെങ്കിൽ പോലും, പതിവായി ആവർത്തിച്ചുള്ള അടിസ്ഥാനത്തിൽ എല്ലാ ഒറ്റ URL-ഉം ഇൻഡക്സ് ചെയ്യാൻ ഇന്റർനെറ്റിന്റെ സ്കെയിൽ വളരെ വിശാലമാണ്. ഇവിടെയാണ് ML വരുന്നത്. നൽകിയിരിക്കുന്ന ഏതെങ്കിലും കാൻഡിഡേറ്റ് URL ഇൻഡക്സ് ചെയ്യേണ്ടതുണ്ടോ എന്ന് പ്രവചിക്കാൻ ഞങ്ങൾ ഒരു ML മോഡൽ പരിശീലിപ്പിക്കുന്നു. പ്രത്യേക URL-ന്റെ പ്രാധാന്യവും സാധ്യതയുള്ള അപ്ഡേറ്റ് ആവൃത്തിയും എന്നിവയിലേക്ക് ഞങ്ങളുടെ ഇൻഡക്സിംഗ് തീരുമാനം കാലിബ്രേറ്റ് ചെയ്യുന്നുവെന്ന് ഉറപ്പാക്കാനാണ് പരിശീലന ലക്ഷ്യം രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. ഇൻഡക്സിംഗ് പ്രവർത്തനം കൃത്യമായി എപ്പോഴാണ് ഷെഡ്യൂൾ ചെയ്യേണ്ടതെന്ന് ഞങ്ങളോട് പറയാൻ ഞങ്ങൾ ML-നെ ആശ്രയിക്കുന്നു. പതിവ് പ്രസിദ്ധീകരണവും പുതുക്കൽ കാഡൻസുമുള്ള സൈറ്റുകൾക്കായി, ഏറ്റവും കൂടുതൽ ഉപയോഗപ്രദമാകാൻ സാധ്യതയുള്ള സമയത്തേക്ക് പ്രവർത്തനങ്ങൾ മാറ്റിവെക്കാൻ ഇത് ഞങ്ങളെ അനുവദിക്കുന്നു. ഈ ML മോഡലുകളുടെ നിരന്തരമായ പരിഷ്കരണത്തിലൂടെ, പൂർണ്ണതയിലും പുതുമയിലും അടയാളം കാണുന്ന ഒരു സൂചിക നിലനിർത്താൻ ഞങ്ങൾക്ക് കഴിയുന്നു.

ഞങ്ങളുടെ ക്രാവലിംഗ് ഇൻഫ്രാസ്ട്രക്ചർ തിരശ്ചീനമായി എളുപ്പത്തിൽ സ്കെയിൽ ചെയ്യുമെങ്കിലും, വെബ്‌സൈറ്റ് ഓപ്പറേറ്റർമാർക്ക് വ്യത്യസ്ത സാങ്കേതിക തടസ്സങ്ങൾ നേരിടേണ്ടി വരുന്നുണ്ടെന്ന് ഞങ്ങൾക്കറിയാം. നൽകിയിരിക്കുന്ന ഏത് ഡൊമെയ്‌നിലേക്കും പ്രവചിക്കാവുന്നതും കൈകാര്യം ചെയ്യാവുന്നതുമായ അഭ്യർത്ഥന നിരക്ക് നിലനിർത്താൻ ഞങ്ങൾ ശ്രദ്ധാലുക്കളാണ്. ഞങ്ങളുടെ സെർച്ച് ക്രാവലറായ PerplexityBot, robots.txt ഫയലുകളിലോ ഡൊമെയ്ൻ-വ്യക്തമാക്കിയ പരിധികളുടെ അഭാവത്തിലോ പറഞ്ഞിരിക്കുന്ന വ്യക്തമായ പരിധികൾ പാലിക്കുന്നു, അഭ്യർത്ഥന നിരക്കുകളെ സംബന്ധിച്ച വ്യവസായ-മാനദണ്ഡങ്ങൾ. സൈറ്റ് ലഭ്യമല്ലായ്മ ഞങ്ങൾ കണ്ടെത്തുമ്പോൾ ഞങ്ങളുടെ ക്രാവലിംഗ് പെരുമാറ്റവും ഞങ്ങൾ ക്രമീകരിക്കുന്നു. പതിനായിരക്കണക്കിന് ഒരേസമയം പ്രവർത്തിക്കുന്ന പ്രവർത്തനങ്ങളിൽ പോലും ഈ പരിധികൾ നടപ്പിലാക്കാൻ ഞങ്ങളുടെ വിതരണം ചെയ്ത സിസ്റ്റം ആർക്കിടെക്ചർ ചെയ്തിരിക്കുന്നു.

ഇന്റർനെറ്റ് സ്കെയിലിൽ സ്വയം മെച്ചപ്പെടുത്തുന്ന ഉള്ളടക്ക ധാരണ

ഗ്രഹത്തിലെ ഏറ്റവും വലുതും പുതുപ്പുള്ളതുമായ തിരയൽ സൂചികകളിൽ ഒന്ന് ഉണ്ടായിരുന്നിട്ടും, ഓരോ ചോദ്യത്തിന്റെയും ഫല ഗുണനിലവാരം ഓരോ രേഖയുടെയും ഉള്ളടക്കത്തെക്കുറിച്ചുള്ള ഞങ്ങളുടെ സിസ്റ്റത്തിന്റെ ഗ്രാഹ്യത്തെ ആശ്രയിച്ചിരിക്കുന്നു. ഇവിടെ, ഞങ്ങൾ ഒരു അടിസ്ഥാന വെല്ലുവിളി നേരിടുന്നു: വെബ് അലങ്കോലമായ ഒരു സ്ഥലമാണ്. മുഴുവൻ ഇന്റർനെറ്റിലും കാണപ്പെടുന്ന അനന്തമായ വൈവിധ്യമാർന്ന ലേഔട്ടുകൾ, ഘടനകൾ, ശൈലികൾ എന്നിവ കൈകാര്യം ചെയ്യാൻ ഒരു നിശ്ചിത പാഴ്സിംഗ് നിയമങ്ങൾക്കും കഴിയില്ല.

വെബ്‌സൈറ്റുകൾ പാഴ്‌സ് ചെയ്യുകയും ഡൈനാമിക് റൂൾസെറ്റുകൾ ഉപയോഗിച്ച് സെമാന്റിക്കിന്റെ അർത്ഥവത്തായ ഉള്ളടക്കം എടക്കുകയും ചെയ്യുന്ന ഒരു ഉള്ളടക്ക ധാരണ മൊഡ്യൂൾ വികസിച്ചുകൊണ്ട് ഞങ്ങൾ ഈ വെല്ലുവിളി പരിഹരിച്ചു. ലിസ്റ്റ് അല്ലെങ്കിൽ ടേബിൾ രൂപത്തിലുള്ള നന്നായി ഘടനാപരമായ ഡാറ്റ അടങ്ങിയ ഒരു വെബ്‌സൈറ്റിന് കൂടുതൽ ഫോർമുലേറ്റിക് പാഴ്‌സിംഗ്, എക്‌സ്‌ട്രാക്ഷൻ നിയമങ്ങളിൽ നിന്ന് പ്രയോജനം ലഭിച്ചേക്കാം, അതേസമയം പ്രധാനമായും ഫ്രീഫോം ഉപയോക്തൃ-ഉൽപ്പാദിപ്പിച്ച ഉള്ളടക്കം അവതരിപ്പിക്കുന്ന മറ്റൊരു വെബ്‌സൈറ്റിന് അയഞ്ഞ റൂൾസെറ്റ് ആവശ്യമായി വന്നേക്കാം. ഹ്രസ്വ സമയപരിധിക്കുള്ളിൽ വെബ് മിക്കവാറും സ്റ്റാറ്റിക് ആയതിനാൽ, നൽകിയിരിക്കുന്ന ഒരു നിയമത്തിന്റെ ആയുസ്സ് താരതമ്യേന നീളമുള്ളതാണെന്ന് ഞങ്ങൾ കണ്ടെത്തി. എന്നാൽ സൈറ്റുകൾ കാലക്രമേണ വികസിക്കുന്തോറും വിവരങ്ങൾ വേർതിരിച്ചെടുക്കുന്നതിനുള്ള മികച്ച വഴികളെക്കുറിച്ച് നമ്മൾ കൂടുതൽ പഠിക്കുന്തോറും, നമ്മുടെ റൂൾസെറ്റുകൾക്കും തുടർച്ചയായ പരിപാലനം ആവശ്യമാണ്.

ഈ dynamic adaptation സുഗമമാക്കാൻ, നാം (തീർച്ചയായും) AI-യിലേക്കാണ് തിരിയുന്നത്. Perplexity-യുടെ സ്കെയിലിൽ, മണിക്കൂറിൽ ലക്ഷക്കണക്കിന് user queries സേവിക്കുന്നതിനിടയിൽ, വെബിന്റെ അത്യന്തം സമ്പന്നമായ ഒരു cross-section ഞങ്ങൾ നിരീക്ഷിക്കുന്നു. ഇത് ഒരു iterative self-improvement loop-ന്റെ അടിത്തറയായി മാറുന്നു. നമ്മുടെ query universe മുഴുവൻ നിലവിലെ rulesets-ന്റെ parsing behavior-ഉം extracted outputs-ഉം ഞങ്ങൾ നിരീക്ഷിക്കുന്നു. തുടർന്ന്, രണ്ട് പ്രധാന അളവുകളിൽ പ്രകടനം വിലയിരുത്താൻ frontier LLMs ഉപയോഗിക്കുന്നു:

പൂർണ്ണത: വിവരണാത്മകമല്ലാത്തതോ അസംബന്ധമോ ആയ കാര്യങ്ങൾ അനാവശ്യമായി വേർതിരിച്ചെടുക്കുന്നത് ഒഴിവാക്കിക്കൊണ്ട്, സെമാന്റിക്കിന്റെ അർത്ഥവത്തായ ഉള്ളടക്കം ഞങ്ങളുടെ സൂചികയ്ക്ക് പരമാവധി ലഭിക്കണം.

ഗുണനിലവാരം: ഞങ്ങളുടെ സൂചിക പദാർത്ഥത്തിലും രൂപത്തിലും ഉയർന്ന നിലവാരമുള്ള ഉള്ളടക്കത്തെ ആശ്രയിച്ചിരിക്കുന്നു. യഥാർത്ഥ ഉള്ളടക്ക ഘടനയും ലേഔട്ടും സംരക്ഷിക്കുന്ന രീതിയിൽ വിവരങ്ങൾ ക്യാപ്ചർ ചെയ്യണം.

പൂർണ്ണതയും ഗുണനിലവാരവും മറ്റൊരു അന്തർലീനമായ പിരിമുറുക്കം അവതരിപ്പിക്കുന്നു എന്നത് ശ്രദ്ധിക്കുക: ഗുണനിലവാരത്തിനായി സ്വമേധയാ ഒപ്റ്റിമൈസ് ചെയ്യുന്നത് സാധ്യമാണ്, എന്നാൽ തൽഫലമായുണ്ടാകുന്ന പാഴ്‌സിംഗ് നിയമങ്ങൾ നിർണായകമായ ഉള്ളടക്കം ക്യാപ്ചർ ചെയ്യുന്നതിൽ പരാജയപ്പെട്ടേക്കാം. അതുപോലെ, പച്ചയായ ഉള്ളടക്കത്തിൽ കുറഞ്ഞ ഫിൽട്ടറിംഗ് പ്രയോഗിക്കുന്ന അനുമതി നൽകുന്ന നിയമങ്ങൾ ഞങ്ങൾക്ക് കൈകൊണ്ട് കോഡ് ചെയ്യാമായിരുന്നു, ഇത് പൂർണ്ണത മെച്ചപ്പെടുത്തിയേക്കാം എന്നാൽ ഗുണനിലവാരത്തിന്റെ ചെലവിൽ. അതുകൊണ്ടാണ് ഡൊമെയ്ൻ-അഡാപ്റ്റീവ് രീതിയിൽ ഒരേസമയം രണ്ടിനും ഒപ്റ്റിമൈസ് ചെയ്യാൻ കഴിയുന്ന രീതിയിൽ ഞങ്ങളുടെ റൂൾസെറ്റ് വികസിപ്പിക്കുന്നതിന് ഞങ്ങൾ AI- നയിക്കുന്ന സ്വയം മെച്ചപ്പെടുത്തലിലേക്ക് തിരിയുന്നത്.

വ്യക്തമായി പറഞ്ഞാൽ, പാഴ്‌സിംഗ് പ്രകടനത്തിന്റെ ഓരോ LLM-ഡ്രിവൺ വിലയിരുത്തലിനുശേഷവും, ഏറ്റവും പ്രധാനപ്പെട്ട പിശക് ക്ലാസുകളെ അഭിസംബോധന ചെയ്യാൻ ഞങ്ങളുടെ സിസ്റ്റം നിർദ്ദിഷ്ട റൂൾസെറ്റ് മാറ്റങ്ങളുടെ ഒരു സെറ്റ് രൂപീകരിക്കുന്നു. ഈ റൂൾസെറ്റുകൾ കൂടുതൽ മൂല്യനിർണ്ണയത്തിന് വിധേയമാകുന്നു, അതിനുശേഷം ഞങ്ങൾ പുതിയ പതിപ്പ് ഞങ്ങളുടെ ഇൻഡക്സറിലേക്ക് വിന്യവിക്കുന്നു. പാഴ്‌സിംഗിലെയും എക്‌സ്‌ട്രാക്ഷൻ ലോഗിക്കിലെയും മെച്ചപ്പെടുത്തലുകൾ ഭാവിയിലെ ഇൻഡക്സിംഗ് പ്രവർത്തനങ്ങൾക്ക് മാത്രമേ പ്രയോജനം ചെയ്യൂ എന്നതിനാൽ, ML-ഒപ്റ്റിമൈസ് ചെയ്ത വീണ്ടും ഇൻഡക്സിംഗ് ചെയ്യുന്നതിലെ ഞങ്ങളുടെ നിക്ഷേപങ്ങൾ വളരെ പ്രധാനമാണ്: ഈ ലോഗിക്കിന്റെ ഏറ്റവും പുതിയ പതിപ്പ് ഉപയോഗിച്ച് ഉയർന്ന ട്രാഫിക് ഉള്ള ഡോക്യുമെന്റുകൾ തുടർച്ചയായി പുതുക്കുന്നത് ശക്തമായ സ്വയം മെച്ചപ്പെടുത്തൽ ലൂപ്പ് ഉറപ്പാക്കുന്നു.

ബേസ്‌ലൈൻ പാഴ്‌സിംഗ് പ്രകടനത്തിന് മാത്രമല്ല, ഉപ-ഡോക്യുമെന്റ് യൂണിറ്റുകളിലേക്കുള്ള സെഗ്മെന്റേഷനും ഈ നിയമങ്ങൾ പ്രധാനമാണ്. ഫ്രണ്ടിയർ LLM-കളുടെ കാര്യത്തിൽ, സന്ദർഭത്തിന്റെ ഓരോ ടോക്കണും വിലപ്പെട്ടതാണ്. സന്ദർഭ വലുപ്പത്തിലെ വർദ്ധനവും അപ്രസക്തമായ വിവരങ്ങൾ ഉപയോഗിച്ച് സന്ദർഭത്തിന്റെ മലിനീകരണവും LLM പ്രകടനത്തെ എങ്ങനെ അപചയപ്പെടുത്തുന്നുവെന്ന് മുൻകാല കൃതികളുടെ ഒരു വലിയ ശരീരം രേഖപ്പെടുത്തിയിട്ടുണ്ട്. നന്നായി ഘടനാപരമായ, സമഗ്രമായ പാഴ്‌സിംഗ് ഉള്ളത് ഡോക്യുമെന്റുകളെ സ്വയം അടങ്ങിയിരിക്കുന്ന സ്പാനുകളായി വിഭജിക്കാൻ ഞങ്ങളെ അനുവദിക്കുന്നു, ഇവ ഓരോന്നും ചോദ്യ സമയത്ത് വ്യക്തിഗതമായി വീണ്ടെടുക്കാനും റാങ്ക് ചെയ്യാനും കഴിയും.

വീണ്ടെടുക്കലും റാങ്കിംഗ് പൈപ്പ്‌ലൈനും

ആധുനിക search-ന് കർശനമായ latency budget-ന്റെ പരിധിയ്ക്കുള്ളിൽ completeness ഉം relevance ഉം ഒരുമിച്ച് ഉറപ്പാക്കേണ്ടതാണ്. Perplexity-യുടെ retrieval, ranking pipeline ഇത് നേടുന്നത്, ക്രമേണ കൂടുതൽ സങ്കീർണ്ണമായ modules-ന്റെ ഒരു പരമ്പരയിലൂടെ ഫലങ്ങളെ പുരോഗമനപരമായി refine ചെയ്യുന്ന multi-stage architecture വഴിയാണ്. ഉണ്ടായേക്കാവുന്ന bottlenecks-നെ പരിഹരിക്കാൻ, സാധ്യമായ ഏറ്റവും വലിയ പരിധിവരെ സാധ്യതയുള്ള ഏതൊരു chokepoint-ഉം horizontal scaling ചെയ്ത് ഞങ്ങൾ പ്രവർത്തിക്കുന്നു.

ഞങ്ങളുടെ സൂചികയിൽ നിന്നുള്ള വീണ്ടെടുക്കലോടെ പൈപ്പ്‌ലൈൻ ആരംഭിക്കുന്നു. ലെക്സിക്കൽ, സെമാന്റിക് വീണ്ടെടുക്കൽ എന്നിവയ്ക്കിടയിൽ ഒരു തിരഞ്ഞെടുപ്പ് ഞങ്ങൾ നിർബന്ധിക്കുന്നില്ല. പകരം, ഞങ്ങൾ രണ്ട് മോഡാലിറ്റികളിലൂടെയും തിരയൽ സൂചിക ചോദ്യം ചെയ്യുകയും ഫലങ്ങൾ ഒരു ഹൈബ്രിഡ് കാൻഡിഡേറ്റ് സെറ്റിലേക്ക് ലയിപ്പിക്കുകയും ചെയ്യുന്നു. ഈ ഘട്ടത്തിൽ, മുൻഗണന കൃത്യതയേക്കാൾ സമഗ്രതയ്ക്കാണ് - പൈപ്പ്‌ലൈന്റെ തുടർന്നുള്ള ഘട്ടങ്ങൾ കൃത്യതയ്ക്കായി ഒപ്റ്റിമൈസ് ചെയ്യും.

കാൻഡിഡേറ്റ് സെറ്റിൽ നിന്ന് പ്രതികരിക്കാത്തതോ കാലഹരണപ്പെട്ടതോ ആയ ഉള്ളടക്കം വ്യക്തമായി നീക്കം ചെയ്യാൻ ഞങ്ങൾ അടിസ്ഥാന ഹ്യൂറിസ്റ്റിക്സും ഫസ്റ്റ്-കട്ട് ഫിൽട്ടറുകളും പ്രയോഗിക്കുന്ന പ്രീഫിൽട്ടറിംഗ് ഘട്ടങ്ങളോടെ പൈപ്പ്‌ലൈൻ തുടരുന്നു.

തുടർന്ന് ഞങ്ങൾ പുരോഗമനപരമായി വിപുലമായ റാങ്കിംഗിന്റെ ഒന്നിലധികം ഘട്ടങ്ങൾ ഉപയോഗിക്കുന്നു. വേഗതയ്ക്കായി ഒപ്റ്റിമൈസ് ചെയ്ത ലെക്സിക്കൽ, എംബെഡിംഗ് അടിസ്ഥാനമാക്കിയുള്ള സ്കോററുകളെയാണ് ആദ്യകാല ഘട്ടങ്ങൾ ആശ്രയിക്കുന്നത്. കാൻഡിഡേറ്റ് സെറ്റ് ക്രമേണ ചുരുങ്ങുമ്പോൾ, ഫല സെറ്റിന്റെ അന്തിമ ശില്പകല നിർവഹിക്കാൻ ഞങ്ങൾ കൂടുതൽ ശക്തമായ ക്രോസ്-എൻകോഡർ റീറാങ്കർ മോഡലുകൾ ഉപയോഗിക്കുന്നു. അനുമാന പ്രകടനത്തിലെ ഞങ്ങളുടെ നിരവധി നിക്ഷേപങ്ങൾക്ക് നന്ദി, മൊത്തത്തിലുള്ള റാങ്കിംഗ് ലേറ്റൻസി കുറവായിരിക്കുമ്പോൾ തന്നെ ഈ പിന്നീടുള്ള ഘട്ടങ്ങൾക്കായി അത്യാധുനിക മോഡൽ ആർക്കിടെക്ചറുകൾ പ്രയോജനപ്പെടുത്താൻ ഞങ്ങൾക്ക് കഴിയുന്നു.

ഈ പൈപ്പ്‌ലൈനിലുടനീളം, ഞങ്ങൾ ഡോക്യുമെന്റിലും ഉപ-ഡോക്യുമെന്റ് തലത്തിലും ഫലങ്ങൾ വീണ്ടെടുക്കുകയും സ്കോർ ചെയ്യുകയും ചെയ്യുന്നു. മുകളിൽ ചർച്ച ചെയ്തതുപോലെ, AI-ക്ക് ശ്രദ്ധാപൂർവ്വമായ സന്ദർഭ എഞ്ചിനീയറിംഗ് ആവശ്യമാണ്. ഉറവിട രേഖകളിൽ എവിടെ നിന്നെങ്കിലും അപ്രസക്തമായ സന്ദർഭം വലിച്ചിടാതെ, ഡൗൺസ്ട്രീം ഉപഭോക്താക്കൾക്ക് ആ കൃത്യമായ യൂണിറ്റുകൾ ഉൾപ്പെടുത്താൻ കഴിയുന്ന തരത്തിൽ, ഏറ്റവും ആറ്റോമിക് യൂണിറ്റുകൾ മോഡലിൽ എത്തിക്കാൻ ഞങ്ങളുടെ പൈപ്പ്‌ലൈൻ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു.

ഈ പൈപ്പ്‌ലൈനിന്റെ ഓരോ ഘട്ടത്തിലും ഉയർന്ന ഗുണനിലവാരം ഉറപ്പാക്കുന്നത് Perplexity-യുടെ ഉൽപ്പന്നങ്ങളുടെ പോർട്ട്‌ഫോളിയോയുമായുള്ള കോ-ഡിസൈൻ വഴി മാത്രമാണ് സാധ്യമാകുന്നത്. ദിവസത്തിലെ ഓരോ മണിക്കൂറിലും ഞങ്ങൾ സേവിക്കുന്ന ദശലക്ഷക്കണക്കിന് ഉപയോക്തൃ അഭ്യർത്ഥനകൾ ഉൽപ്പാദിപ്പിക്കുന്ന സമ്പന്നമായ സിഗ്നൽ പ്രയോജനപ്പെടുത്തുന്നതിനാണ് റാങ്കിംഗ് സ്റ്റാക്കിന്റെ എല്ലാ വിശദാംശങ്ങളും രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. ഈ സിഗ്നലിന്റെ ഭൂരിഭാഗവും യാന്ത്രികമാണ്, ഉൽപ്പാദിപ്പിക്കപ്പെടുന്ന ഓരോ Perplexity ഉത്തരവും തത്സമയ ഏജന്റിക് വർക്ക്ഫ്ലോയിൽ ഉപയോഗിക്കുന്ന തിരയൽ ഗുണനിലവാരത്തെക്കുറിച്ചുള്ള അനുഭവപരമായ ഡാറ്റാപോയിന്റ് നൽകുന്നു. മാനുവൽ ആയി നിർമ്മിച്ച ഏതൊരു ഡാറ്റാസെറ്റിനും വാഗ്ദാനം ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ വളരെപ്പുറം ഞങ്ങളുടെ എംബെഡിംഗ്, റാങ്കിംഗ് മോഡലുകൾക്കായുള്ള പരിശീലന ഡാറ്റയെ സമ്പന്നമാക്കാൻ ഞങ്ങൾ AI- നയിക്കുന്ന മൂല്യനിർണ്ണയങ്ങളെ തത്സമയ മനുഷ്യ ഫീഡ്‌ബാക്കുമായി സംയോജിപ്പിക്കുന്നു.

search-ും product-ഉം തമ്മിലുള്ള ഈ synergy Perplexity-ക്കു മാത്രമുള്ളതാണ്. പാരമ്പര്യ search engines blue-link telemetry നൽകുന്ന coarse signal-ലേക്ക് മാത്രമാണ് പരിമിതപ്പെട്ടിരിക്കുന്നത്. പുതിയ search offerings-ൽ ഈ AI-forward concepts ചിലത് നടപ്പാക്കാൻ ശ്രമിച്ചിട്ടുണ്ടെങ്കിലും, search quality സ്ഥിരീകരിക്കുകയും വേഗത്തിലുള്ള improvement loops-ന് ആവശ്യമായ signal richness നൽകുകയും ചെയ്യുന്ന യഥാർത്ഥ ലോക environments അവയ്ക്കില്ല. frontier LLMs-ാൽ ശക്തിപ്പെടുത്തപ്പെടുകയും ലോകമാകെയുള്ള ലക്ഷക്കണക്കിന് കൗതുകമുള്ള ഉപയോക്താക്കൾ നിരന്തരം battle-test ചെയ്യുകയും ചെയ്യുന്ന search quality-ക്കായുള്ള ഒരു live proving ground എന്നില്ലാത്ത ഘടകം നമുക്ക് ലഭിച്ചതിൽ ഞങ്ങൾ ഭാഗ്യവാന്മാരാണ്.

ഗുണനിലവാരത്തിനും പ്രകടനത്തിനുമായി ഒരു പുതിയ അതിർത്തി സ്ഥാപിക്കുന്നു

ലോകമെമ്പാടുമുള്ള ഡെവലപ്പർമാർക്ക് ഞങ്ങളുടെ തിരയൽ ഇൻഫ്രാസ്ട്രക്ചർ ലഭ്യമാക്കുന്നതിന് Perplexity Search API ഉം SDK ഉം നിർമ്മിച്ചതിനുശേഷം, യഥാർത്ഥ ലോക AI ഉപയോഗ കേസുകളിൽ വിവിധ വാണിജ്യ API ഓഫറുകൾ എങ്ങനെ അളക്കുന്നുവെന്ന് മനസ്സിലാക്കാൻ ഞങ്ങൾ ആഗ്രഹിച്ചു. AI മോഡലുകൾ തന്നെ വിലയിരുത്തുന്നത് സാധാരണമായി മാറിയിരിക്കുന്നു, എന്നാൽ ഈ പാറ്റേണിൽ ഞങ്ങൾക്ക് ഒരു ട്വിസ്റ്റ് ആവശ്യമായിരുന്നു: AI മോഡലുകൾ വിളിക്കുമ്പോൾ Search API-കളുടെ ഗുണനിലവാരം വിലയിരുത്താൻ.

മുൻകാല കലകൾ മനസ്സിലാക്കാൻ ഞങ്ങൾ ആദ്യം ഓപ്പൺ സോഴ്‌സ് ഇക്കോസിസ്റ്റത്തിലേക്ക് നോക്കി. കഠിനമായ മൂല്യനിർണ്ണയത്തിനായുള്ള പ്രധാന ചേരുവകളിൽ പലതും ഞങ്ങൾ കണ്ടെത്തി, എന്നാൽ ഈ ചേരുവകളെ ഒരു പ്ലഗ്-ആൻഡ്-പ്ലേ ബെഞ്ച്മാർക്കിംഗ് പരിഹാരത്തിലേക്ക് സംയോജിപ്പിച്ച ഒരു ഫ്രെയിംവർക്കും ഇല്ലായിരുന്നു. അതിനാൽ Perplexity-ക്ക് മാത്രമല്ല, Search API-കൾ ബെഞ്ച്മാർക്ക് ചെയ്യാൻ ശ്രമിക്കുന്ന ഏത് ഗവേഷകനും ഡെവലപ്പർക്കും ഉപയോഗിക്കാവുന്ന ഒരു മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്ക് വികസിപ്പിക്കാൻ ഞങ്ങൾ പുറപ്പെട്ടു.

ഈ മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്ക് ഉപയോഗിച്ച്, മറ്റ് ഓഫറുകൾക്കൊപ്പം Perplexity Search API ഞങ്ങൾ കർശനമായി ബെഞ്ച്മാർക്ക് ചെയ്തു. തിരയൽ പ്രകടനം ഒപ്റ്റിമൈസ് ചെയ്യുന്നത് സങ്കീർണ്ണമാണ്, ഗുണനിലവാരവും വേഗതയും തമ്മിൽ നിരവധി സൂക്ഷ്മമായ ട്രേഡ്ഓഫുകൾ ഉണ്ട്. ഡെവലപ്പർമാർക്കുള്ള ഒരു വിജയത്തിൽ, ഗുണനിലവാരത്തിനും ലേറ്റൻസിനും Perplexity Search API ഒരു പുതിയ അത്യാധുനികത സജ്ജീകരിക്കുന്നുവെന്ന് ഞങ്ങൾ കണ്ടെത്തി. ഡെവലപ്പർമാർക്ക് മിന്നൽ വേഗത്തിലുള്ള ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുന്നതിനും ഉയർന്ന നിലവാരമുള്ള ഫലങ്ങൾ ഉറപ്പാക്കുന്നതിനും መካከል ഇനി തിരഞ്ഞെടുക്കേണ്ടതില്ല: Perplexity ഉപയോഗിച്ച്, അവർക്ക് രണ്ടും ലഭിക്കും.

വലുതാക്കുക

ഏജന്റിക് തിരയൽ വർക്ക്ഫ്ലോകൾക്കായി വിശ്വസനീയമായ മൂല്യനിർണ്ണയങ്ങൾ രൂപകൽപ്പന ചെയ്യുന്നു

ഞങ്ങളുടെ മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്കിനായി മൂന്ന് മാർഗ്ഗനിർദ്ദേശ തത്വങ്ങൾ നിർവചിച്ചുകൊണ്ട് ഞങ്ങൾ ആരംഭിച്ചു:

സങ്കീർണ്ണതയുടെ സ്പെക്ട്രം: മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്ക് നേരായതും സങ്കീർണ്ണവുമായ ഏജന്റിക് AI ഉപയോഗ കേസുകളിലെ പ്രകടനം അളക്കണം.

നിഷ്പക്ഷത: evaluation framework എല്ലാ APIകളെയും സമാന നിലയിൽ വിലയിരുത്തണം.

ലളിതത: ചില ഉപയോഗ കേസുകൾ സങ്കീർണ്ണമായിരിക്കാമെങ്കിലും, ഫ്രെയിംവർക്ക് തന്നെ കഴിയത്ര ലളിതമായിരിക്കണം, അതുവഴി മറ്റുള്ളവർക്ക് അത് മനസ്സിലാക്കാനും ഫലങ്ങൾ പുനർനിർമ്മിക്കാനും കുറഞ്ഞ മടുപ്പോടെ ഫ്രെയിംവർക്ക് നീട്ടാനും കഴിയും.

ഞങ്ങളുടെ ഭാരം കുറഞ്ഞ മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്കായ search_evals, ലളിതമായ മോഡുലാർ ഡിസൈനിലൂടെ ഈ ലക്ഷ്യങ്ങൾ കൈവരിക്കുന്നു. ക്ലാസിക്കൽ സിംഗ്ല്-ഷോട്ട് തിരയൽ ഉപയോഗ കേസുകളും നൂതന ഏജന്റിക് വർക്ക്ഫ്ലോകളും (ഉപഭോക്തൃ വിപണിയിൽ വ്യാപകമായി ലഭ്യമായ വിവിധ "ആഴത്തിലുള്ള ഗവേഷണം" ഉൽപ്പന്നങ്ങളാൽ ഉദാഹരിക്കപ്പെട്ടവ) ക്യാപ്ചർ ചെയ്യാൻ ഞങ്ങൾ രണ്ട് AI ഏജന്റ് ഹാർനെസുകൾ വികസിപ്പിച്ചെടുത്തു. മറഞ്ഞിരിക്കുന്ന നേട്ടത്തിന് ചെറിയ ഇടം നൽകുന്ന ലളിതമായ രീതിയിലാണ് രണ്ട് ഹാർനെസുകളും നടപ്പിലാക്കിയത്.

ഞങ്ങളുടെ മൂല്യനിർണ്ണയങ്ങൾ നടത്തുന്നതിന്, ഞങ്ങൾ നാല് ബെഞ്ച്മാർക്കുകൾ സ്വീകരിച്ചു: ഒറ്റ-ഘട്ട തിരയലിനായി SimpleQA, FRAMES, ഒപ്പം ഗുരുതരം ശോധനത്തിനായി BrowseComp, HLE. കൂട്ടായി, ഈ ബെഞ്ച്മാർക്കുകൾ നോളജ് ഏജന്റുകൾക്കായി നന്നായി സ്വീകരിച്ച യാർഡ്സ്റ്റിക്കുകൾ നൽകുന്നു. സ്ഥാപിത കൺവെൻഷൻ പിന്തുടർന്ന്, യഥാർത്ഥ കൃതിയിൽ ഉപയോഗിച്ച അതേ പ്രോംപ്റ്റഡ് ക്ലാസിഫയർ രീതിശാസ്ത്രം ഉപയോഗിച്ച് ഞങ്ങൾ എല്ലാ ബെഞ്ച്മാർക്കുകളും ഗ്രേഡ് ചെയ്യുന്നു. കൃത്യമായ ബെഞ്ച്മാർക്ക് നടപ്പിലാക്കലുകൾ (ഗ്രേഡർ ലോഗിൻ ഉൾപ്പെടെ) ഞങ്ങളുടെ GitHub ശേഖരത്തിൽ അവലോകനം ചെയ്യാം.

പുനർനിർമ്മാണവും വിപുലീകരണവും മനസ്സിൽ വെച്ചാണ് ഞങ്ങൾ ഫ്രെയിംവർക്ക് രൂപകൽപ്പന ചെയ്തത്. ടാസ്ക്-ലെവൽ സ്കോറുകളും അടിസ്ഥാന ഏജന്റ് ഔട്ട്പുട്ടുകളും ഓരോ റണ്ണിനൊപ്പം സൂക്ഷിക്കപ്പെടുന്നു. അധിക ഹാർനെസുകൾ, ബെഞ്ച്മാർക്കുകൾ, Search API ഓഫറുകൾ എന്നിവ എളുപ്പത്തിൽ സംയോജിപ്പിക്കാൻ കഴിയും. നിങ്ങളുടെ കൃത്യമായ ആവശ്യങ്ങൾ അഭിസംബോധന ചെയ്യാൻ ഫ്രെയിംവർക്ക് വ്യാപിപ്പിക്കുന്നതിനെക്കുറിച്ചുള്ള കൂടുതൽ വിവരങ്ങൾക്ക് ഗവേഷകർക്കും ഡെവലപ്പർമാർക്കും ഞങ്ങളുടെ GitHub ഡോക്യുമെന്റുകൾ വായിക്കാം.

മൂല്യനിർണ്ണയ ഫലങ്ങൾ

ഈ മൂല്യനിർണ്ണയ ഫ്രെയിംവർക്ക് ഉപയോഗിച്ച്, മറ്റ് API ഓഫറുകളുമായി താരതമ്യപ്പെടുത്തി ഞങ്ങളുടെ Search API വിലയിരുത്താൻ ഞങ്ങൾ പുറപ്പെട്ടു. പരീക്ഷിച്ച എല്ലാ ബെഞ്ച്മാർക്കുകളിലും, വിപണിയിലെ ഏറ്റവും വേഗതയേറിയതും ഉയർന്ന നിലവാരമുള്ളതുമായ API ആയി Perplexity നിലകൊള്ളുന്നു.

വലുതാക്കുക

മുകളിൽ വിശദീകരിച്ച index, retrieval, ranking efficiency-ലേക്കുള്ള ഞങ്ങളുടെ നിക്ഷേപങ്ങൾ വൻതോതിൽ ഫലം കണ്ടുവെന്ന് ഞങ്ങൾ കണ്ടെത്തി. Perplexity-യുടെ median latency 358ms ആണ്, രണ്ടാമത്തെ വേഗമേറിയ provider-നെക്കാൾ 150ms-ലധികം മുൻപിൽ. 95th-percentile latency 800ms-ന് താഴെ സുഖകരമായി തുടരുന്നു. ഇന്നത്തെ frontier models-ന്റെ ദീർഘമായ TTFT (time-to-first-token) metrics ഉള്ള സാഹചര്യത്തിൽ, ആനന്ദകരമായ user experiences സൃഷ്ടിക്കുമ്പോൾ ഓരോ millisecond-ഉം പ്രധാനമാണ്. കഴിഞ്ഞ രണ്ട് വർഷമായി ഞങ്ങൾ സ്വന്തം ഉപയോക്താക്കൾക്കായി latency optimize ചെയ്യാൻ ചെലവഴിച്ചു, അതേ നിക്ഷേപങ്ങൾ ഇപ്പോൾ developer community-ക്കും പ്രയോജനപ്പെടുന്നതിൽ ഞങ്ങൾക്ക് സന്തോഷമുണ്ട്.

Search API ലേറ്റൻസി

(AWS us-east-1-ൽ നിന്ന് ആരംഭിച്ച അഭ്യർത്ഥനകൾ)

AWS us-east-1-ൽ നിന്നാരംഭിച്ച അഭ്യർത്ഥനകൾക്കായുള്ള Search API ലാറ്റൻസി ശതമാനങ്ങൾ.

* പല Search API വെണ്ടർമാരും അവരുടെ ഫലങ്ങളുടെ അടിസ്ഥാനമായി SERP സ്ക്രാപ്പിംഗ് ഉപയോഗിക്കുന്നു. അത്തരം സമീപനങ്ങളുടെ പ്രകടനം ക്യാപ്ചർ ചെയ്യാൻ, Tavily വാഗ്ദാനം ചെയ്യുന്ന പ്രതിനിധീകരിക്കുന്ന Google SERP അടിസ്ഥാനമാക്കിയുള്ള API ഞങ്ങൾ ഉപയോഗിക്കുന്നു.

ഈ വേഗത നേട്ടം ഗുണനിലവാരത്തിന്റെ ചെലവിലാണ് വരുന്നത്. ഒറ്റ-ഘട്ട തിരയലിലും ഗുരുതരം ശോധന ക്രമീകരണങ്ങളിലും Perplexity Search API അത്യാധുനിക പ്രകടനം നൽകുന്നു. പരീക്ഷിച്ച ഓരോ ബെഞ്ച്മാർക്കിലും, വ്യത്യസ്ത സങ്കീർണ്ണതയുടെ AI വർക്ക്ഫ്ലോകൾക്ക് ശക്തി പകരാൻ കഴിയുന്ന ഉയർന്ന നിലവാരമുള്ള ഫലങ്ങൾ നൽകുന്നതിൽ Perplexity മുന്നിലാണ്. SimpleQA, HLE എന്നിവയിൽ Perplexity-യും മികച്ച ബദലും തമ്മിലുള്ള വ്യത്യാസം പ്രത്യേകിച്ചും പ്രകടമാണ്, ഈ ഫലങ്ങൾ ടാസ്ക് സങ്കീർണ്ണതയുടെ സ്പെക്ട്രത്തിലുടനീളം കരുത്തുറ്റതാണെന്ന് സൂചിപ്പിക്കുന്നു.

വലുതാക്കുക

ലേറ്റൻസിയിലെന്നപോലെ, തിരയൽ ഗുണനിലവാരത്തിലെ ഞങ്ങളുടെ നേതൃത്വം ആനന്ദകരവും ഉയർന്ന ട്രാഫിക്കുള്ളതുമായ AI ഉൽപ്പന്നങ്ങൾ നിർമ്മിക്കുന്നതിലെ ഞങ്ങളുടെ നേതൃത്വത്തിന്റെ ഡൗൺസ്ട്രീം ഒഴുകുന്നു. ഞങ്ങളുടെ ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കൾ സങ്കൽപ്പിക്കാവുന്ന എല്ലാ വിഷയങ്ങളിലും അവരുടെ ജിജ്ഞാസ തൃപ്തിപ്പെടുത്താൻ Perplexity ഉപയോഗിക്കുന്നു, കൂടാതെ തത്ഫലമായുണ്ടാകുന്ന ഗുണനിലവാരവും പ്രസക്തി സിഗ്നലുകളും ഞങ്ങളുടെ തിരയൽ മോഡലുകളെ കടന്നുപോകുന്ന ഓരോ മണിക്കൂറിലും മെച്ചപ്പെടുത്താൻ അനുവദിക്കുന്നു.

Search API ഗുണനിലവാര ബെഞ്ച്മാർക്കുകൾ

SimpleQA, FRAMES, BrowseComp, HLE എന്നിവയിലെ Search API ഗുണനിലവാര സ്കോറുകൾ.

ഞങ്ങൾ AI- നേറ്റീവ് തിരയൽ എഞ്ചിനുകളുടെ ആദ്യകാലങ്ങളിലാണ്, കൂടാതെ അളവെടുപ്പിന്റെ കലയും ശാസ്ത്രവും നിസ്സംശയമായും വികസിക്കും. AI ഏജന്റുകളുടെ കാലഘട്ടത്തിൽ തിരയൽ എഞ്ചിനുകൾ വിലയിരുത്തുന്നതിന് കർശനവും ക്രിയാത്മകവുമായ രീതികൾ വികസിച്ചുകൊണ്ട് സംഭാവന ചെയ്യാൻ ഞങ്ങൾ കമ്മ്യൂണിറ്റിയെ ക്ഷണിക്കുന്നു.

AI-യുടെ അടുത്ത അധ്യായത്തിനായുള്ള അടിത്തറ

agentic systems-ന്റെയും intelligent assistants-ന്റെയും ഭാവി, ലോകത്തിന്റെ സമാഹൃത അറിവിലേക്കുള്ള സമ്പന്നമായ programmatic interfaces ലഭ്യമാകുന്നതിൽ ആശ്രയിച്ചിരിക്കും. ഇന്നത്തെ പാരമ്പര്യ search engines, പ്രതിദിനം ഏകദേശം 10¹⁰ queries എന്ന ഉപയോഗത്തിൽ saturation-ലെത്തിയിരിക്കുന്നു; ഈ സംഖ്യ അതിന്റെ പരമാവധി എത്തിയിരിക്കാനാണ് സാധ്യത. search, retrieval systems-ന്റെ അടുത്ത തലമുറ, കൃത്യമായ realtime information-നായി നിരന്തരം വികസിച്ചുകൊണ്ടിരിക്കുന്ന AI agent-കളുടെ വിശാലമായ ഒരു universe അവയിൽ ആശ്രയിക്കുന്നതിനാൽ, വലുതായ മറ്റൊരപടി കൂടുതലായ request-കൾക്ക് സേവനം നൽകും.

ഇന്നുവരെയുള്ള ഞങ്ങളുടെ ശ്രമങ്ങൾ API വഴി ആക്സസ് ചെയ്യാവുന്ന ഏറ്റവും വേഗതയേറിയതും ഉയർന്ന പ്രകടനമുള്ളതുമായ തിരയൽ എഞ്ചിനായി ഞങ്ങളെ സ്ഥാനപ്പെടുത്തിയിരിക്കുന്നു. എന്നാൽ AI-യുടെ അടുത്ത അധ്യായത്തിന് ഇന്ധനം നൽകാൻ ഞങ്ങൾക്ക് ഇതിലും വലിയ അഭിലാഷമായ നവീകരണം ആവശ്യമാണ്. എക്കാലത്തെയും വർദ്ധിച്ചുകൊണ്ടിരിക്കുന്ന ഡിമാൻഡിനെ അഭിമുഖീകരിച്ച് ഞങ്ങൾ എങ്ങനെ ഈ സിസ്റ്റങ്ങൾ കാര്യക്ഷമമായി സ്കെയിൽ ചെയ്യും? സന്ദർഭ എഞ്ചിനീയറിംഗിന്റെയും പോസ്റ്റ്-ട്രെയിനിംഗിന്റെയും പുതിയ സമീപനങ്ങളുടെ വെളിച്ചത്തിൽ ഈ തിരയൽ സിസ്റ്റങ്ങൾ എങ്ങനെ ഒപ്റ്റിമൈസ് ചെയ്യാം? പൂർണ്ണത, സമീപകാലത, ലേറ്റൻസി എന്നിവ തമ്മിലുള്ള എക്കാലത്തെയും നിലനിൽക്കുന്ന പിരിമുറുക്കത്തിലൂടെ നമ്മൾ എങ്ങനെ നാവിഗേറ്റ് ചെയ്യും? ഉൽപ്പന്ന കാൽപ്പാടുകൾ, സ്കെയിൽ, സാങ്കേതിക പ്രതിഭകൾ എന്നിവയുടെ സംയോജനത്തിലൂടെ Perplexity-ക്ക് അതുല്യമായി നേരിടാൻ കഴിയുന്ന തുറന്ന ചോദ്യങ്ങളാണിത്.

ഉദ്ധരണി

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}