Návrh a hodnotenie vyhľadávacieho API zameraného na AI

Budovanie škálovateľného vyhľadávacieho API orientovaného na umelú inteligenciu predstavuje jedinečné výskumné výzvy na prieniku vyhľadávania informácií, umelej inteligencie a návrhu systémov. Na rozdiel od tradičných služieb, ktoré pracujú s ohraničenými údajmi, vyhľadávacie API musí nepretržite indexovať miliardy dokumentov, porozumieť zámeru dopytu naprieč jazykmi a doménami a poskytnúť relevantné výsledky v priebehu milisekúnd. Vo svete agentov s umelou inteligenciou musí vyhľadávacie API starostlivo spravovať kontext poskytovaný modelom vývojárov, aby sa zabezpečilo, že tieto modely budú fungovať optimálne a obsahovať maximálne presné informácie. Efektívne inžinierstvo kontextu vyžaduje, aby API nielen zachytávalo relevanciu na úrovni dokumentov, ale, aby za prvoradé samostatné jednotky považovalo aj jednotlivé časti a úseky dokumentov.

V tomto článku prezentujeme návrh a hodnotenie Perplexity Search API. Najprv preskúmame architektúru a kľúčové technické rozhodnutia stojace za našou produkčnou vyhľadávacou infraštruktúrou, ktorá spracúva 200 miliónov dopytov denne. Naša architektúra kombinuje hybridné mechanizmy vyhľadávania, viacúrovňové hodnotiace kanály, distribuované indexovanie a dynamické parsovanie prostredníctvom modulu na porozumenie obsahu s vlastným zlepšovaním.

Následne opisujeme náš prístup k empirickému hodnoteniu výkonu vyhľadávacieho API prostredníctvom nového open-source hodnotiaceho rámca. Pomocou komplexného porovnávania popri existujúcich komerčných API preukazujeme špičkový výkon v oblasti kvality aj latencie. Perplexity Search API je k dispozícii pre vývojárov po celom svete počnúc dnešným dňom.

[Nájsť search_evals na GitHub]

Budovanie vyhľadávacieho systému optimalizovaného pre modely umelej inteligencie

Od nášho založenia sme chápali, že robustné funkcie vyhľadávania budú kľúčové na umožnenie produktov umelej inteligencie definujúcich kategóriu, ktoré sme chceli uviesť na trh. Pôvodne sme dúfali, že tieto schopnosti už existujú vo verejne dostupnej forme. Experimentovali sme s portfóliom vyhľadávacích API dostupných koncom roku 2022 a úplne prvá verzia odpovedacieho motora Perplexity v skutočnosti obsahovala niektoré z týchto ponúk. Konkrétne sme analyzovali dopyty používateľov, formulovali a odosielali požiadavky na tieto API a zhromažďovali výsledky ako kontext pre náš následný generačný kanál.

Keď sa však používatelia hrnuli do Perplexity, rýchlo sme si uvedomili, že tieto API nebudú škálovať s naším rastom. Ceny, s ktorými sme sa stretli, boli prehnané, pričom jeden popredný poskytovateľ API účtoval 200 USD za tisíc dopytov. Fatálnejšie však bolo, že tieto staršie API jednoducho neboli navrhnuté pre nové vyhľadávacie paradigmy zavedené špičkovými systémami umelej inteligencie.

Zväčšiť

Pre začiatok, formáty požiadaviek a odpovedí týchto starších API boli navrhnuté pre svet, v ktorom by ľudia boli výhradnými spotrebiteľmi výsledkov vyhľadávania. V dôsledku toho tieto API uprednostňovali výsledky na úrovni dokumentov na úkor podrobnejších informácií odhalených jednotkami pod dokumentmi. Úspech modelu umelej inteligencie závisí od kvality a kompaktnosti poskytovaného kontextu a na vlastní koži sme videli, ako príliš široké vyhľadávanie môže narušiť modely umelej inteligencie bez ohľadu na to, do akej miery sa získané dokumenty ako celok môžu zdáť relevantné. Naše pokusy vnútiť presnosť nepresným výsledkom mali len obmedzený úspech.

Tiež sme zistili, že staršie API boli buď príliš zastarané, alebo príliš pomalé. Samostatne vyvinuté vyhľadávacie API sa spoliehali na indexy, ktoré boli neúplné a príliš zriedkavo aktualizované. API založené na scrapingu, ako rôzne neoficiálne SERP API pre Google Search, ťažej z komplexnejšieho indexu, ale ponúkali neprijateľne vysokú latenciu kvôli neefektívnosti inherentnej v dopytovaní vyhľadávacieho motora tretej strany. Vysoká latencia robila API nevhodnými pre aplikácie orientované na používateľa, zatiaľ čo zastaranosť robila sady výsledkov nepoužiteľnými pre akýkoľvek systém umelej inteligencie, ktorý chce byť presný a dôveryhodný.

Nakoniec sme sledovali, ako sa ekosystém umelej inteligencie rozdeľuje medzi lexikálne a sémantické vyhľadávanie, pričom sa objavujú systémy, ktoré boli nadmerne optimalizované pre jednu modalitu na úkor druhej. Videli sme nárast vektorových databáz, ktoré nedokázali adekvátne podporovať ani jednoduché booleovské filtre. Tradičné vyhľadávacie backendy dopadli o nič lepšie s primitívnou podporou pre sémantické hodnotenie a možnosti vyhľadávania sprístupnené umelou inteligenciou.

Keď sme si uvedomili, že zlepšenie Perplexity bude vyžadovať vybudovanie našej vlastnej vyhradenej vyhľadávacej infraštruktúry, zhrnuli sme naše pozorovania do troch kľúčových kritérií:

Úplnosť, aktuálnosť a rýchlosť: vyhľadávací index musí byť komplexný, neustále aktualizovaný a navrhnutý pre latenciu v reálnom čase.

Podrobné porozumenie obsahu: krehkosť modelov umelej inteligencie a obmedzené okná kontextu vyžadujú, aby sa výsledky vyhľadávania prezentovali a hodnotili na čo najpodrobnejšej úrovni.

Hybridné vyhľadávanie a hodnotenie: kanály vyhľadávania aj hodnotenia musia obsahovať lexikálne a sémantické signály, aby boli výsledky užitočné pre umelú inteligenciu.

Zväčšiť

Infraštruktúra na prehľadávanie a indexovanie

Prevádzka v meradle Perplexity si vyžaduje infraštruktúru, ktorá dokáže komplexne zmapovať web a reagovať na jeho neustály vývoj. Náš vyhľadávací index sleduje viac ako 200 miliárd unikátnych adries URL s kapacitou sledovať mnohonásobne viac.

Zabezpečenie toho, aby náš index pokrýval dostatočne komplexnú časť internetu a aby každý dokument odrážal najnovší stav, je náročný výkon. Medzi úplnosťou a aktuálnosťou existuje vnútorné napätie: pri pevnom rozpočte na indexovanie musia operácie obnovenia existujúcich stránok súťažiť s operáciami indexovania nových navštívených stránok. Toto napätie vyvažujeme kombináciou škálovania (ktoré uvoľňuje optimalizačné obmedzenie zvýšením rozpočtu na indexovanie) a priorizácie riadenej strojovým učením (ktorá zaisťuje, že každá operácia indexovania má maximálnu hodnotu pre index ako celok).

Vybudovali sme index a zariadenie na prehľadávanie v exabajtovom meradle, ktoré sa horizontálne škáluje s veľkosťou aj objemom dopytov. Prehľadávač a indexovacie flotily Perplexity spoločne zahŕňajú desaťtisíce procesorov CPU a stovky terabajtov pamäte RAM so značnou rezervou pre ďalšie škálovanie. Túto výpočtovú infraštruktúru spájame s rovnováhou studeného a teplého úložiska. Používame naučené modely aj vyladené heuristiky na určenie toho, ktoré dokumenty by sa mali uchovávať v horúcom stave, pričom uprednostňujeme dokumenty z autoritatívnych domén, dokumenty zaoberajúce sa nedostatočne pokrytými témami a iné kategórie s obrovským potenciálom obohatiť náš index.

Táto infraštruktúra umožňuje Perplexity spracovať desaťtisíce operácií indexovania za sekundu. No aj s týmto relatívne veľkorysým rozpočtom je rozsah internetu oveľa obrovskejší na to, aby sa každá jedna adresa URL indexovala na častom a opakujúcom sa základe. Tu prichádza na rad strojové učenie. Trénujeme model strojového učenia na predikciu, či je potrebné indexovať danú kandidátsku adresu URL. Tréningový cieľ je vytvorený tak, aby sme zabezpečili kalibráciu nášho rozhodnutia o indexovaní na dôležitosť aj pravdepodobnú frekvenciu aktualizácie konkrétnej adresy URL. Spoliehame sa tiež na strojové učenie, ktoré nám presne povie, kedy naplánovať operáciu indexovania. Pre lokality s bežnými rytmami publikovania a obnovovania nám to umožňuje odložiť operácie na čas, kedy budú pravdepodobne najužitočnejšie. Neustálym vylepšovaním týchto modelov strojového učenia dokážeme udržiavať index, ktorý spĺňa požiadavky na úplnosť aj aktuálnosť.

Hoci sa naša infraštruktúra prehľadávania ľahko horizontálne škáluje, uvedomujeme si, že prevádzkovatelia webových stránok čelia rôznym technickým obmedzeniam. Dávame si pozor na udržiavanie predvídateľnej a zvláduteľnej miery požiadaviek na akúkoľvek danú doménu. PerplexityBot, náš vyhľadávací prehľadávač, dodržiava explicitné limity stanovené v súboroch robots.txt alebo, v prípade absencie limitov špecifikovaných doménou, priemyselné štandardné normy týkajúce sa miery požiadaviek. Upravujeme tiež naše správanie pri prehľadávaní, keď zistíme nedostupnosť lokality. Náš distribuovaný systém je navrhnutý tak, aby presadzoval tieto limity dokonca aj naprieč desiatkami tisícov súbežných operácií.

Samoopravné porozumenie obsahu v internetovom meradle

Aj s jedným z najväčších a najaktuálnejších vyhľadávacích indexov na planéte závisí kvalita výsledkov každého dopytu od porozumenia obsahu každého dokumentu zo strany nášho systému. Tu čelíme zásadnej vývze: web je chaotické miesto. Žiadna pevná sada pravidiel parsovania nedokáže zvládnuť nekonečnú rozmanitosť rozložení, štruktúr a štýlov nachádzajúcich sa na celom internete.

Túto výzvu sme vyriešili vývojom modulu na porozumenie obsahu, ktorý parsuje webové stránky a extrahuje sémanticky zmysluplný obsah pomocou dynamických sád pravidiel. Webová stránka bohatá na dobre štruktúrované údaje vo forme zoznamu alebo tabuľky môže ťažiť z formálnejších pravidiel parsovania a extrakcie, zatiaľ čo iná webová stránka s obsahom generovaným používateľmi vo voľnej forme môže vyžadovať voľnejšiu sadu pravidiel. Keďže je web vo väčšine statický počas krátkych časových rámcov, zistili sme, že životnosť daného pravidla je relatívne dlhá. No keď sa lokality v priebehu času vyvíjajú a keď sa dozvedáme viac o najlepších spôsoboch extrakcie informácií, naše sady pravidiel si vyžadujú aj neustálu údržbu.

Na uľahčenie tejto dynamickej adaptácie sa (samozrejme) obraciame na umelú inteligenciu. V meradle Perplexity pozorujeme neuveriteľne bohatý prierez webom v priebehu obsluhovania miliónov dopytov používateľov každú hodinu. To tvorí základ pre iteratívnu slučku vlastného zlepšovania. Pozorujeme správanie parsovania a extrahované výstupy našich súčasných sád pravidiel naprieč naším vesmírom dopytov. Následne používame špičkové veľké jazykové modely (LLM) na posúdenie výkonu v dvoch primárnych rozmeroch:

Úplnosť: náš index by mal prijímať čo najviac sémanticky zmysluplného obsahu a zároveň sa vyhýbať nežiaducej extrakcii neinformatívnych alebo nezmyselných záležitostí.

Kvalita: náš index sa spolieha na obsah vysokej kvality v podstate aj vo forme. Informácie by sa mali zachytávať spôsobom, ktorý zachováva pôvodnú štruktúru a rozloženie obsahu.

Všimnite si, že úplnosť a kvalita predstavujú ďalšie vnútorné napätie: manuálna optimalizácia pre kvalitu je možná, ale výsledné pravidlá parsovania nemusia zachytiť kritický obsah. Podobne by sme mohli ručne kódovať permisívne pravidlá, ktoré aplikujú minimálne filtrovanie na surový obsah, čo by mohlo zlepšiť úplnosť, ale na úkor kvality. To je dôvod, prečo sa obraciame na vlastné zlepšovanie riadené umelou inteligenciou s cieľom vyvinúť našu sadu pravidiel spôsobom, ktorý dokáže optimalizovať pre obe naraz spôsobom prispôsobeným doméne.

Konkrétne, po každom hodnotení výkonu parsovania riadenom LLM náš systém formuluje súbor navrhovaných zmenách sád pravidiel na riešenie najvýznamnejších tried chýb. Tieto sady pravidiel prechádzajú ďalším overovaním, po ktorom nasadzujeme novú verziu do nášho indexovača. Vzhľadom na to, že vylepšenia v logike parsovania a extrakcie môžu prospieť iba budúcim operáciám indexovania, naše investície do reindexovania optimalizovaného strojovým učením sú obzvlášť dôležité: nepretržité obnovovanie dokumentov s vysokou návštevnosťou pomocou najnovšej verzie tejto logiky zaisťuje tesnú slučku vlastného zlepšovania.

Tieto pravidlá sú dôležité nielen pre základný výkon parsovania, ale aj pre segmentáciu na jednotky pod dokumentmi. Pokiaľ ide o špičkové LLM modely, každý token kontextu je vzácny. Veľké množstvo predchádzajúcej práce zdokumentovalo, ako sa výkon LLM zhoršuje so zväčšovaním veľkosti kontextu a znečisťovaním kontextu irelevantnými informáciami. Dobre štruktúrované a komplexné parsovanie nám umožňuje rozložiť dokumenty na sebestačné úseky, z ktorých každý možno individuálne získať a hodnotiť v čase dopytu.

Kanál vyhľadávania a hodnotenia

Moderné vyhľadávanie vyžaduje zabezpečenie úplnosti aj relevancie pri prísnom rozpočte na latenciu. Kanál vyhľadávania a hodnotenia Perplexity to dosahuje prostredníctvom viacúrovňovej architektúry, ktorá postupne spresňuje výsledky pomocou série čoraz sofistikovanejších modulov. Potenciálne prekážky riešime horizontálnym škálovaním akýchkoľvek potenciálnych miest obmedzenia na maximálnu možnú mieru.

Kanál začína vyhľadávaním z nášho indexu. Nenútime vás vyberať si medzi lexikálnym a sémantickým vyhľadávaním. Namiesto toho dopytujeme vyhľadávací index cez obe modality a zlučujeme výsledky do hybridnej sady kandidátov. V tejto fáze je prioritou komplexnosť pred presnosťou – následné fázy kanála budú optimalizovať pre presnosť.

Kanál pokračuje fázami predbežného filtrovania, v ktorých aplikujeme základné heuristiky a filtre prvého rezu na odstránenie jasne nereagujúceho alebo zastaraného obsahu zo sady kandidátov.

Následne využívame niekoľko fáz progresívne pokročilého hodnotenia. Skoršie fázy sa spoliehajú na lexikálne bodovače a bodovače založené na vkladaní optimalizované pre rýchlosť. Keď sa sada kandidátov postupne zužuje, používame výkonnejšie modely preusporiadania s krížovým kódovaním na vykonanie konečného tvarovania sady výsledkov. Vďaka našim mnohým investíciám do výkonu inferencie sme schopní využiť špičkové architektúry modelov pre tieto neskoršie fázy a zároveň udržať celkovú latenciu hodnotenia nízku.

V rámci tohto kanála získavame a bodujeme výsledky na úrovni dokumentov aj poddokumentov. Ako bolo uvedené vyššie, umelá inteligencia vyžaduje starostlivé inžinierstvo kontextu. Náš kanál je navrhnutý tak, aby modelu poskytoval tie najatómickejšie možné jednotky, aby následní spotrebitelia mohli začleniť tieto presné jednotky bez ťahania irelevantného kontextu odinakiaľ v zdrojových dokumentoch.

Zabezpečenie vysokej kvality v každej fáze tohto kanála je možné iba prostredníctvom spoločného návrhu s portfóliom produktov Perplexity. Každý detail hodnotiaceho zásobníka je navrhnutý tak, aby využíval bohatý signál produkovaný miliónmi požiadaviek používateľov, ktoré obsluhujeme každú hodinu dňa. Prevažná väčšina tohto signálu je automatizovaná, pričom každá vygenerovaná odpoveď Perplexity poskytuje empirický údajový bod o kvalite vyhľadávania tak, ako sa používa v živom agentovom pracovnom postupe. Kombinujeme hodnotenia riadené umelou inteligenciou so živou spätnou väzbou od ľudí na obohatenie tréningových údajov pre naše modely vkladania a hodnotenia ďaleko za hranice toho, čo môže ponúknuť akákoľvek manuálne vytvorená sada údajov.

Táto synergia medzi vyhľadávaním a produktom je pre Perplexity jedinečná. Staršie vyhľadávacie motory sú obmedzené na hrubý signál poskytovaný telemetriou modrých odkazov. Novšie ponuky vyhľadávania sa pokúsili implementovať niektoré z týchto konceptov orientovaných na umelú inteligenciu, ale chýbajú im prostredia reálneho sveta, ktoré môžu overiť kvalitu vyhľadávania a poskytnúť bohatosť signálu potrebnú pre rýchle slučky zlepšovania. Máme to šťastie, že máme chýbajúcu prísadu: živé testovacie prostredie pre kvalitu vyhľadávania, poháňané špičkovými modelmi LLM a neustále overované miliónmi zvedavých používateľov po celom svete.

Vytvorenie novej hranice pre kvalitu a výkon

Po vytvorení Perplexity Search API a SDK s cieľom sprístupniť našu vyhľadávaciu infraštruktúru vývojárom po celom svete sme chceli pochopiť, ako sa rôzne ponuky komerčných API osvedčili v prípadoch použitia umelej inteligencie v reálnom svete. Stalo sa bežným vyhodnocovať samotné modely umelej inteligencie, ale potrebovali sme obmenu tohto vzoru: vyhodnotiť kvalitu vyhľadávacích API pri vyvolaní modelmi umelej inteligencie.

Najprv sme sa pozreli na open-source ekosystém, abychom pochopili predchádzajúce práce. Našli sme veľa kľúčových prísad pre rigorózne hodnotenie, ale žiadny rámec, ktorý by tieto prísady integroval do riešenia porovnávania typu plug-and-play. Preto sme sa vydali vyvinúť hodnotiaci rámec, ktorý by mohlo používať nielen Perplexity, ale každý výskumník alebo vývojár, ktorý sa snaží porovnávať vyhľadávacie API.

Pomocou tohto hodnotiaceho rámca sme rigorózne porovnali Perplexity Search API popri iných ponukách. Optimalizácia výkonu vyhľadávania je zložitá s mnohými nuansami kompromisov medzi kvalitou a rýchlosťou. Ako víťazstvo pre vývojárov sme zistili, že Perplexity Search API stanovuje nový štandard pre kvalitu aj latenciu. Vývojári si už nemusia vyberať medzi budovaním bleskovo rýchlych aplikácií a zaistením vysokokvalitných výsledkov: s Perplexity môžu mať oboje.

Zväčšiť

Návrh spoľahlivých hodnotení pre agentové pracovné postupy vyhľadávania

Začali sme definovaním troch hlavných zásad pre náš hodnotiaci rámec:

Spektrum zložitosti: hodnotiaci rámec by mal merať výkon v priamočiarych aj zložitých prípadoch použitia agentovej umelej inteligencie.

Neutralita: hodnotiaci rámec by mal hodnotiť všetky API na rovnakom základe.

Jednoduchosť: hoci určité prípady použitia môžu byť zložité, samotný rámec by mal byť čo najjednoduchší, aby ostatní mohli porozumieť, reprodukovať výsledky a rozšíriť rámec s minimálnou námahou.

Náš ľahký hodnotiaci rámec search_evals dosahuje tieto ciele prostredníctvom jednoduchého modulárneho dizajnu. Vyvinuli sme dva postroje agentov umelej inteligencie na zachytenie klasických prípadov použitia vyhľadávania s jedným spustením a pokročilých agentových pracovných postupov (ilustrovaných rôznymi produktmi „hĺbkového výskumu“ široko dostupnými na spotrebiteľskom trhu). Oba postroje boli implementované priamočiarym spôsobom, ktorý ponecháva len malý priestor pre skrytú výhodu.

Na podporu našich hodnotení sme prijali štyri benchmarky: SimpleQA a FRAMES pre jednokrokové vyhľadávanie spolu s BrowseComp a HLE pre hĺbkový výskum. Spoločne tieto benchmarky poskytujú dobre akceptované meradlá pre vedomostných agentov. Podľa zavedenej konvencie hodnotíme všetky benchmarky pomocou rovnakej metodiky promptovaného klasifikátora použitej v pôvodnej práci. Presné implementácie benchmarkov (vrátane logiky hodnotenia) je možné skontrolovať v našom repozitári GitHub.

Rámec sme navrhli s ohľadom na reprodukovateľlnosť a rozšíriteľlnosť. Skóre na úrovni úloh a základné výstupy agenta sú uložené pri každom spustení. Ďalšie postroje, benchmarky a ponuky vyhľadávacích API sa dajú ľahko integrovať. Výskumníci a vývojári si môžu prečítať dokumentáciu na GitHub pre viac informácií o rozšírení rámca na riešenie vašich presných potrieb.

Výsledky hodnotenia

Vybavení týmto hodnotiacim rámcom sme sa vydali posúdiť naše Search API v porovnaní s inými ponukami API. Vo všetkých testovaných benchmarkoch je Perplexity najrýchlejším a najkvalitnejším API na trhu.

Zväčšiť

Zistili sme, že naše vyššie opísané investície do indexu, vyhľadávania a efektívnosti hodnotenia sa bohato vyplatili. Medián latencie Perplexity sa pohybuje na úrovni 358 ms, čo je o viac ako 150 ms pred druhým najrýchlejším poskytovateľom. 95. percentil latencie zostáva pohodlne pod 800 ms. S dlhými metrikami TTFT (čas do prvého tokenu) dnešných špičkových modelov záleží na každej milisekunde pri vytváraní príjemných používateľských skúseností. Strávili sme posledné dva roky optimalizáciou latencie pre našich vlastných používateľov a sme potešení, že tie isté investície teraz prinesú úžitok aj komunite vývojárov.

Latencia Search API

(požiadavky iniciované z AWS us-east-1)

Percentily latencie Search API pre požiadavky iniciované z AWS us-east-1.

* Mnoho dodávateľov vyhľadávacích API používa scraping SERP ako základ pre svoje výsledky. Na zachytenie výkonu takýchto prístupov používame reprezentatívne API založené na Google SERP, ktoré ponúka Tavily.

Táto výhoda v rýchlosti nie je na úkor kvality. Perplexity Search API prináša špičkový výkon v nastaveniach jednokrokového vyhľadávania a hĺbkového výskumu. Pri každom testovanom benchmarku vedie Perplexity v poskytovaní vysoko kvalitných výsledkov, ktoré môžu poháňať pracovné postupy umelej inteligencie rôznej zložitosti. Rozdiel medzi Perplexity a najlepšou alternatívou je obzvlášť výrazný pri SimpleQA a HLE, čo naznačuje, že tieto výsledky sú robustné naprieč spektrom zložitosti úloh.

Zväčšiť

Podobne ako pri latencii, naše vedúce postavenie v kvalite vyhľadávania vyplýva z nášho vedúceho postavenia v budovaní príjemných produktov umelej inteligencie s vysokou návštevnosťou. Naše milióny používateľov využívajú Perplexity na uspokojenie svojej zvedavosti o každej mysliteľnej téme a výsledné signály kvality a relevancie umožňujú našim vyhľadávacím modelom zlepšovať sa s každou ďalšou hodinou.

Benchmarky kvality Search API

Skóre kvality Search API na SimpleQA, FRAMES, BrowseComp a HLE.

Sme stále v počiatočných dňoch vyhľadávacích motorov natívnych pre umelú inteligenciu a umenie a veda merania sa nepochybne budú vyvíjať. Vyzývame komunitu, aby prispela vývojom prísnych a kreatívnych metód na hodnotenie vyhľadávacích motorov v ére agentov umelej inteligencie.

Stavebný kameň pre ďalšiu kapitolu umelej inteligencie

Budúcnosť agentových systémov a inteligentných asistentov bude závisieť od dostupnosti bohatých programovacích rozhraní do kolektívneho poznania sveta. Dnešné staršie vyhľadávacie motory dosiahli nasýtenie používania na približne 10¹⁰ dopytoch za deň, čo je číslo, ktoré pravdepodobne dosiahlo vrchol. Ďalšia generácia vyhľadávacích a získavacích systémov bude obsluhovať rády miliónov viac požiadaviek, keďže sa na ne neustále rastúci vesmír agentov umelej inteligencie spolieha pre presné informácie v reálnom čase.

Naše doterajšie úsilie nás postavilo do pozície najrýchlejšieho a najvýkonnejšieho vyhľadávacieho motora dostupného cez API. Na to, aby sme poháňali ďalšiu kapitolu umelej inteligencie, však bude potrebná ešte ambicióznejšia inovácia. Ako efektívne škálujeme tieto systémy zoči-voči neustále rastúcemu dopytu? Ako možno tieto vyhľadávacie systémy optimalizovať vo svetle nových prístupov k inžinierstvu kontextu a posttréningu? A ako zvládneme všadeprítomné napätie medzi úplnosťou, aktuálnosťou a latenciou? Toto sú otvorené otázky, na ktoré je Perplexity vďaka našej kombinácii produktovej stopy, rozsahu a technického talentu jedinečne pripravená reagovať.

Citácia

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}