Arhitektura i evaluacija Search API-ja usmerenog na veštačku inteligenciju

Izgradnja skalabilnog Search API-ja prilagođenog veštačkoj inteligenciji predstavlja jedinstvene istraživačke izazove na preseku pronalaženja informacija, veštačke inteligencije i dizajna sistema. Za razliku od tradicionalnih servisa koji rade sa ograničenim podacima, Search API mora kontinuirano da indeksira milijarde dokumenata, razume nameru upita na različitim jezicima i domenima, i isporuči relevantne rezultate u roku od nekoliko milisekundi. U svetu agenata veštačke inteligencije, Search API takođe mora pažljivo da upravlja kontekstom koji se obezbeđuje modelima programera kako bi se osiguralo da ti modeli rade optimalno i integrišu maksimalno tačne informacije. Efikasan inženjering konteksta zahteva da API ne samo da zabeleži relevantnost na nivou dokumenta, već da pojedinačne odeljke i segmente dokumenata tretira kao samostalne jedinice prvog reda.

U ovom članku predstavljamo dizajn i procenu Perplexity Search API-ja. Prvo istražujemo arhitekturu i ključne tehničke odluke koje stoje iza naše produkcione pretraživačke infrastrukture koja obrađuje 200 miliona upita dnevno. Naša arhitektura kombinuje hibridne mehanizme pronalaženja, višestepene rang-pipeline-ove, distribuirano indeksiranje i dinamičko parsiranje kroz modul za razumevanje sadržaja koji se samostalno usavršava.

Zatim opisujemo naš pristup empirijskoj proceni performansi Search API-ja kroz novorazvijeni okvirom za evaluaciju otvorenog koda. Kroz sveobuhvatno testiranje uporedo sa postojećim komercijalnim API-jima, demonstriramo najbolje performanse u klasi u pogledu kvaliteta i latencije. Perplexity Search API je dostupan programerima širom sveta počev od danas.

[Pronađite search_evals na GitHub-u]

Izgradnja sistema za pretragu optimizovanog za modele veštačke inteligencije

Od našeg osnivanja, razumeli smo da će robusne mogućnosti pretrage biti ključne za omogućavanje AI proizvoda koji definišu kategoriju, a koje smo želeli da plasiramo. Prvobitno smo se nadali da ove mogućnosti već postoje u javno dostupnom obliku. Eksperimentisali smo sa portfoliom Search API-ja dostupnih krajem 2022. godine, a prva verzija Perplexity-jevog mašinskog mašine za odgovore zapravo je sadržala neke od ovih ponuda. Preciznije, analizirali bismo korisničke upite, formulisali i slali zahteve ovim API-jima, i prikupljali rezultate kao kontekst za naš naknadni generativni pipeline.

Međutim, kako su korisnici hrlili ka Perplexity-ju, brzo smo shvatili da ovi API-ji neće moći da se skaliraju sa našim rastom. Cene na koje smo naišli bile su previsoke, pri čemu je jedan vodeći provajder API-ja naplaćivao 200 dolara po hiljadi upita. Ali što je još fatalnije, ovi stari API-ji jednostavno nisu bili dizajnirani za nove paradigme pronalaženja koje su uveli granični sistemi veštačke inteligencije.

Uvećaj

Za početak, formati zahteva i odgovora ovih starih API-ja bili su dizajnirani za svet u kojem bi ljudi bili ekskluzivni potrošači rezultata pretrage. Zbog toga su ovi API-ji davali prioritet rezultatima na nivou dokumenta, isključujući detaljnije informacije koje otkrivaju jedinice ispod nivoa dokumenta. Uspeh AI modela zavisi od kvaliteta i kompaktnosti obezbeđenog konteksta, i iz prve ruke smo videli kako suviše široko pronalaženje može da uništi AI modele, bez obzira na to koliko preuzeti dokumenti u celini mogu izgledati relevantni. Naši pokušaji da nametnemo preciznost na neprecizne rezultate imali su ograničen uspeh.

Takođe smo primetili da su stari API-ji bili ili previše zastareli ili previše spori. Nezavisno razvijeni Search API-ji oslanjali su se na indekse koji su bili nepotpuni i retko ažurirani. API-ji zasnovani na prikupljanju podataka (scraping), kao što su različiti nezvanični SERP API-ji za Google pretragu, imali su koristi od sveobuhvatnijeg indeksa, ali su nudili neprihvatljivo visoku latenciju zbog neefikasnosti intrinzične za upite treće strane – pretraživača. Visoka latencija činila je API-je nepodobnim za aplikacije namenjene korisnicima, dok su zastareli rezultati činili skupove podataka neupotrebljivim za bilo koji AI sistem koji teži tačnosti i pouzdanosti.

Konačno, primetili smo da se ekosistem veštačke inteligencije deli između leksičke i semantičke pretrage, pri čemu su se pojavili sistemi previše optimizovani za jedan modalitet u odnosu na drugi. Videli smo uspon vektorskih baza podataka koje nisu mogle adekvatno da podrže čak ni jednostavne Buleove filtere. Tradicionalne pozadinske baze za pretragu nisu prošle ništa bolje, sa primitivnom podrškom za semantičko rangiranje i mogućnosti pronalaženja koje otvara veštačka inteligencija.

Kada smo shvatili da bi činjenje Perplexity-ja još boljim zahtevalo izgradnju sopstvene namenske pretraživačke infrastrukture, sveli smo naša zapažanja na tri ključna kriterijuma:

Kompletnost, ažurnost i brzina: indeks pretrage mora biti sveobuhvatan, neprekidno ažuriran i projektovan za latenciju u realnom vremenu.

Detaljno razumevanje sadržaja: krhkost AI modela i ograničeni prozori konteksta zahtevaju da se rezultati pretrage predstave i rangiraju na što preciznijem nivou.

Hibridno pronalaženje i rangiranje: i pipeline-ovi za pronalaženje i za rangiranje moraju sadržati leksičke i semantičke signale da bi rezultati bili korisni za veštačku inteligenciju.

Uvećaj

Infrastruktura za indeksiranje i pretraživanje (crawling)

Rad u obimu Perplexity-ja zahteva infrastrukturu koja može sveobuhvatno da mapira veb i odgovori na njegovu stalnu evoluciju. Naš indeks pretrage prati preko 200 milijardi jedinstvenih URL-ova, sa kapacitetom za praćenje mnogo stotina milijardi dodatnih.

Garantovanje da naš indeks pokriva dovoljno sveobuhvatan deo interneta i da svaki dokument odražava najnovije stanje predstavlja težak podvig. Postoji suštinska tenzija između kompletnosti i ažurnosti: za fiksni budžet za indeksiranje, operacije osvežavanja postojećih stranica moraju da se takmiče sa operacijama indeksiranja novih, nepovezanih stranica. Ovu tenziju balansiramo kroz kombinaciju skaliranja (koje ublažava ograničenje optimizacije povećanjem budžeta za indeksiranje) i prioritizacije vođene mašinskim učenjem (koja osigurava da svaka operacija indeksiranja ima maksimalnu vrednost za indeks u celini).

Izgradili smo indeks i aparat za indeksiranje (crawling) u eksabajt-skali koji se horizontalno skalira i sa veličinom i sa obimom upita. Perplexity-jev crawler i flote za indeksiranje kolektivno obuhvataju desetine hiljada procesora (CPU) i stotine terabajta RAM-a, sa značajnim rezervama za dalje skaliranje. Ovu računarsku infrastrukturu spajamo sa balansom hladnog i toplog skladištenja. Koristimo i naučene modele i prilagođene heuristike da bismo utvrdili koje dokumente treba čuvati u aktivnom (hot) režimu, dajući prioritet dokumentima iz autoritativnih domena, dokumentima koji se bave nedovoljno obrađenim temama i drugim kategorijama sa velikim potencijalom da obogate naš indeks.

Ova infrastruktura omogućava Perplexity-ju da obradi desetine hiljada operacija indeksiranja u sekundi. Ali čak i sa ovim relativno velikodušnim budžetom, skala interneta je previše prostrana da bi se svaki pojedinačni URL indeksirao na čest i ponavljajući način. Tu na scenu stupa mašinsko učenje (ML). Obučavamo ML model da predvidi da li bilo koji dati kandidat URL treba da bude indeksiran. Cilj obuke je kreiran tako da osigura da kalibrišemo našu odluku o indeksiranju prema važnosti i verovatnoj učestalosti ažuriranja određenog URL-a. Takođe se oslanjamo na ML da nam tačno kaže kada da zakažemo operaciju indeksiranja. Za sajtove sa rutinskim rasporedima objavljivanja i osvežavanja, ovo nam omogućava da odložimo operacije do trenutka kada će verovatno biti najkorisnije. Kroz kontinuirano usavršavanje ovih ML modela, u mogućnosti smo da održavamo indeks koji ispunjava zahteve i u pogledu kompletnosti i u pogledu ažurnosti.

Iako se naša infrastruktura za pretraživanje (crawling) lako horizontalno skalira, svesni smo da se operatori veb-sajtova suočavaju sa različitim tehničkim ograničenjima. Pažljivi smo da održavamo predvidljivu i upravljivu stopu zahteva prema bilo kom datom domenu. PerplexityBot, naš pretraživač za indeksiranje, usklađen je sa eksplicitnim ograničenjima utvrđenim u robots.txt datotekama, ili u odsustvu ograničenja definisanih za domen, industrijskim standardnim normama u vezi sa stopama zahteva. Takođe prilagođavamo ponašanje pri pretraživanju kada detektujemo nedostupnost sajta. Naš distribuirani sistem je arhitektonski postavljen tako da sprovodi ova ograničenja čak i u desetinama hiljada istovremenih operacija.

Razumevanje sadržaja koje se samostalno usavršava u internet skali

Čak i sa jednim od najvećih i najsvežijih indeksa pretrage na planeti, kvalitet rezultata svakog upita zavisi od razumevanja sadržaja svakog dokumenta od strane našeg sistema. Ovde se suočavamo sa suštinskim izazovom: veb je neuredno mesto. Nijedan fiksni skup pravila parsiranja ne može da obuhvati beskonačnu raznolikost rasporeda, struktura i stilova koji se mogu naći širom interneta.

Ovaj izazov smo rešili razvojem modula za razumevanje sadržaja koji parsira veb-sajtove i ekstrahuje semantički smislen sadržaj koristeći dinamičke skupove pravila. Veb-sajt bogat dobro strukturiranim podacima u obliku lista ili tabela može imati koristi od formalizovanijih pravila parsiranja i ekstrakcije, dok drugi veb-sajt koji prvenstveno sadrži slobodan sadržaj generisan od strane korisnika može zahtevati labaviji skup pravila. Pošto je veb uglavnom statičan u kratkim vremenskim okvirima, otkrivamo da je životni vek datog pravila relativno dug. Ali kako se sajtovi vremenom razvijaju i kako saznajemo više o najboljim načinima ekstrakcije informacija, naši skupovi pravila takođe zahtevaju kontinuirano održavanje.

Da bismo olakšali ovu dinamičku adaptaciju, okrećemo se (naravno) veštačkoj inteligenciji. U skali Perplexity-ja, primećujemo neverovatno bogat presek veba tokom pružanja usluga milionima korisničkih upita na sat. Ovo predstavlja osnovu za iterativnu petlju samousavršavanja. Posmatramo ponašanje parsiranja i ekstrahovane izlaze naših trenutnih skupova pravila kroz naš univerzum upita. Zatim koristimo napredne LLM-ove (jezičke modele) da procenimo performanse kroz dve primarne dimenzije:

Kompletnost: naš indeks treba da primi što je moguće više semantički smislenog sadržaja, uz izbegavanje lažne ekstrakcije neinformativnog ili besmislenog materijala.

Kvalitet: naš indeks se oslanja na sadržaj visokog kvaliteta u pogledu suštine i forme. Informacije treba da budu prikupljene na način koji čuva originalnu strukturu i raspored sadržaja.

Imajte na umu da kompletnost i kvalitet predstavljaju još jednu suštinsku tenziju: ručna optimizacija kvaliteta je moguća, ali rezultujuća pravila parsiranja možda neće uspeti da uhvate kritični sadržaj. Slično tome, mogli bismo ručno da kodiramo dozvoljavajuća pravila koja primenjuju minimalno filtriranje na sirovi sadržaj, što bi moglo da poboljša kompletnost, ali na račun kvaliteta. Zbog toga se okrećemo samousavršavanju vođenom veštačkom inteligencijom kako bismo razvili naš skup pravila na način koji može optimizovati oba aspekta istovremeno na način prilagodljiv domenu.

Konkretno, nakon svake procene performansi parsiranja vođene LLM-om, naš sistem formuliše skup predloženih izmena skupa pravila kako bi rešio najznačajnije klase grešaka. Ovi skupovi pravila prolaze kroz dalju validaciju, nakon čega novu verziju primenjujemo na naš indeksator. S obzirom na to da poboljšanja u logici parsiranja i ekstrakcije mogu koristiti samo budućim operacijama indeksiranja, naše ulaganje u reindeksiranje optimizovano mašinskim učenjem je od posebnog značaja: kontinuirano osvežavanje dokumenata sa velikim prometom korišćenjem najnovije verzije ove logike obezbeđuje tesnu petlju samousavršavanja.

Ova pravila su važna ne samo za osnovne performanse parsiranja, već i za segmentaciju u jedinice ispod nivoa dokumenta. Kada su u pitanju napredni LLM-ovi, svaki token konteksta je dragocen. Veliki broj prethodnih radova je dokumentovao kako performanse LLM-a opadaju sa povećanjem veličine konteksta i zagađenjem konteksta irelevantnim informacijama. Posedovanje dobro strukturiranog, sveobuhvatnog parsiranja omogućava nam da razbijemo dokumente na samostalne segmente, od kojih se svaki može pojedinačno preuzeti i rangirati u trenutku upita.

Pipeline za pronalaženje i rangiranje

Savremena pretraga zahteva osiguranje i kompletnosti i relevantnosti uz strogo ograničenje latencije. Perplexity-jev pipeline za pronalaženje i rangiranje to postiže kroz višestepenu arhitekturu koja progresivno precizira rezultate sa nizom sve složenijih modula. Rešavamo potencijalna uska grla horizontalnim skaliranjem svih potencijalnih tačaka zagušenja do maksimalne moguće mere.

Pipeline počinje pronalaženjem iz našeg indeksa. Ne namećemo izbor između leksičkog i semantičkog pronalaženja. Umesto toga, upućujemo upit indeksu pretrage preko oba modaliteta i spajamo rezultate u hibridni skup kandidata. U ovoj fazi prioritet je sveobuhvatnost nad preciznošću – naknadne faze pipeline-a će vršiti optimizaciju za preciznost.

Pipeline se nastavlja fazama prefetriranja (prethodnog filtriranja), u kojima primenjujemo osnovnu heuristiku i početne filtere da bismo uklonili očigledno nereagujući ili zastareli sadržaj iz skupa kandidata.

Zatim zapošljavamo više faza progresivno naprednog rangiranja. Ranije faze se oslanjaju na leksičke bodovače i bodovače zasnovane na ugrađivanju (embedding) optimizovane za brzinu. Kako se skup kandidata postepeno sužava, koristimo moćnije modele unakrsnog enkodera za ponovno rangiranje (reranker) da bismo izvršili završno oblikovanje skupa rezultata. Zahvaljujući našim brojnim ulaganjima u performanse inferencije, u mogućnosti smo da iskoristimo vrhunske arhitekture modela za ove kasniji faze uz održavanje niske ukupne latencije rangiranja.

Tokom ovog pipeline-a, preuzimamo i bodujemo rezultate na nivou dokumenta i ispod nivoa dokumenta. Kao što je gore diskutovano, veštačka inteligencija zahteva pažljiv inženjering konteksta. Naš pipeline je dizajniran da modelu predstavi što atomskije jedinice, tako da naknadni potrošači mogu da integrišu te precizne jedinice bez uvlačenja irelevantnog konteksta sa drugih mesta u izvornim dokumentima.

Osiguravanje visokog kvaliteta tokom svake faze ovog pipeline-a moguće je samo kroz zajednički dizajn sa portfoliom Perplexity proizvoda. Svaki detalj steka za rangiranje dizajniran je tako da iskoristi bogat signal koji proizvode milioni korisničkih zahteva koje uslužujemo svakog sata u danu. Velika većina ovog signala je automatizovana, pri čemu svaki generisani Perplexity odgovor pruža empirijsku tačku podataka o kvalitetu pretrage kakva se koristi u radnom procesu (workflow) sa živim agentima. Kombinujemo procene vođene veštačkom inteligencijom sa povratnim informacijama uživo od korisnika kako bismo obogatili podatke za obuku naših modela za ugrađivanje i rangiranje daleko iznad onoga što bilo koji ručno konstruisani skup podataka može da ponudi.

Ova sinergija između pretrage i proizvoda je jedinstvena za Perplexity. Stari pretraživači su ograničeni na grubu signalizaciju obezbeđenu telemetrijom plavih linkova. Novije ponude pretrage su pokušale da implementiraju neke od ovih koncepata usmerenih ka veštačkoj inteligenciji, ali im nedostaju okruženja iz stvarnog sveta koja mogu da potvrde kvalitet pretrage i pruže bogatstvo signala potrebnih za brze petlje poboljšanja. Srećni smo što imamo nedostajući sastojak: poligon za testiranje kvaliteta pretrage uživo, pokrenut naprednim LLM-ovima i kontinuirano testiran u borbenim uslovima od strane miliona radoznalih korisnika širom sveta.

Uspostavljanje nove granice za kvalitet i performanse

Nakon izgradnje Perplexity Search API-ja i SDK-ja kako bismo našu pretraživačku infrastrukturu učinili dostupnom programerima širom sveta, želeli smo da razumemo kako se različite komercijalne API ponude pokazuju u slučajevima upotrebe veštačke inteligencije u stvarnom svetu. Postalo je uobičajeno da se procenjuju sami AI modeli, ali bio nam je potreban obrt u ovom šablonu: da procenimo kvalitet Search API-ja kada ih pozivaju AI modeli.

Prvo smo pogledali ekosistem otvorenog koda da bismo razumeli prethodna rešenja. Pronašli smo mnoge ključne sastojke za rigoroznu procenu, ali nijedan okvir koji je integrisao ove sastojke u rešenje za benchmarking spremno za upotrebu. Stoga smo krenuli da razvijemo okvir za evaluaciju koji bi mogao da koristi ne samo Perplexity, već i bilo koji istraživač ili programer koji želi da uporedi Search API-je.

Koristeći ovaj okvir za evaluaciju, rigorozno smo testirali Perplexity Search API uporedo sa drugim ponudama. Optimizacija performansi pretrage je složena, sa mnogo nijansiranih kompromisa između kvaliteta i brzine. Kao pobedu za programere, otkrili smo da Perplexity Search API postavlja nove standarde performansi i za kvalitet i za latenciju. Programeri više ne moraju da biraju između izgradnje izuzetno brzih aplikacija i osiguravanja visokokvalitetnih rezultata: sa Perplexity-jem mogu imati oboje.

Uvećaj

Dizajniranje pouzdanih evaluacija za radne procese (workflow) pretrage sa agentima

Počeli smo definisanjem tri vodeća principa za naš okvir za evaluaciju:

Spektar složenosti: okvir za evaluaciju treba da meri performanse kako na jednostavnim, tako i na složenim slučajevima upotrebe AI agenata.

Neutralnost: okvir za evaluaciju treba da proceni sve API-je pod jednakim uslovima.

Jednostavnost: iako određeni slučajevi upotrebe mogu biti složeni, sam okvir treba da bude što je moguće jednostavniji kako bi drugi mogli da ga razumeju, reprodukuju rezultate i prošire okvir uz minimalan napor.

Naš lagani okvir za evaluaciju, search_evals, postiže ove ciljeve kroz jednostavan modularni dizajn. Razvili smo dva okvira (harness) za AI agente da bismo obuhvatili i klasične slučajeve pretrage u jednom potezu i napredne radne procese (workflow) sa agentima (ilustrovane različitim proizvodima za „duboko istraživanje“ široko dostupnim na potrošačkom tržištu). Oba okvira su implementirana na jasan način koji ostavlja malo prostora za skrivenu prednost.

Da bismo pokrenuli naše evaluacije, usvojili smo četiri benchmark testa: SimpleQA i FRAMES za pretragu u jednom koraku, zajedno sa BrowseComp i HLE za duboko istraživanje. Kolektivno, ovi benchmark testovi pružaju opšteprihvaćena merila za agente znanja. Prateći uspostavljenu konvenciju, ocenjujemo sve benchmark testove koristeći istu metodologiju klasifikatora sa promptovima koja je korišćena u originalnom radu. Precizne implementacije benchmark testova (uključujući logiku ocenjivanja) mogu se pogledati u našem GitHub repozitorijumu.

Dizajnirajući okvir imali smo na umu mogućnost reprodukcije i proširivosti. I rezultati na nivou zadataka i osnovni izlazi agenata se čuvaju sa svakim pokretanjem. Dodatni okviri, benchmark testovi i ponude Search API-ja mogu se lako integrisati. Istraživači i programeri mogu pročitati našu GitHub dokumentaciju za više informacija o proširivanju okvira kako bi se zadovoljile vaše tačne potrebe.

Rezultati evaluacije

Naoružani ovim okvirom za evaluaciju, krenuli smo da procenimo naš Search API u poređenju sa drugim API ponudama. Kroz sve testirane benchmark testove, Perplexity se ističe kao i najbrži i najkvalitetniji API na tržištu.

Uvećaj

Utvrdili smo da su se naša gore opisana ulaganja u indeks, pronalaženje i efikasnost rangiranja bogato isplatila. Perplexity-jeva medijana latencije iznosi 358ms, što je preko 150ms ispred drugog najbržeg provajdera. Latencija na 95. percentilu ostaje komotno ispod 800ms. Sa dugim TTFT (vreme do prvog tokena) metrikama današnjih graničnih modela, svaka milisekunda je važna u kreiranju prijatnih korisničkih iskustava. Proveli smo protekle dve godine optimizujući latenciju za naše sopstvene korisnike, i zadovoljni smo što će ta isto ulaganja sada koristiti i zajednici programera.

Latencija Search API-ja

(zahtevi pokrenuti sa AWS us-east-1)

Percentili latencije Search API-ja za zahteve pokrenute iz AWS us-east-1.

* Mnogi dobavljači Search API-ja koriste SERP scraping kao osnovu za svoje rezultate. Da bismo zabeležili performanse takvih pristupa, koristimo reprezentativni API baziran na Google SERP-u koji nudi Tavily.

Ova prednost u brzini ne dolazi nauštrb kvaliteta. Perplexity Search API pruža performanse najvišeg nivoa i u pretrazi u jednom koraku i u okruženjima dubokog istraživanja. Na svakom testiranom benchmark testu, Perplexity je lider u obezbeđivanju visokokvalitetnih rezultata koji mogu pokretati AI radne procese (workflow) različite složenosti. Razlika između Perplexity-ja i najbolje alternative posebno je izražena na SimpleQA i HLE, što ukazuje na to da su ovi rezultati robustni kroz ceo spektar složenosti zadataka.

Uvećaj

Kao i kod latencije, naše liderstvo u kvalitetu pretrage proističe iz našeg liderstva u izgradnji prijatnih, visoko posećenih AI proizvoda. Naši milioni korisnika koriste Perplexity da zadovolje svoju radoznalost o svakoj zamislivoj temi, a rezultujući signali kvaliteta i relevantnosti omogućavaju našim modelima pretrage da se usavršavaju sa svakim satom koji prolazi.

Benchmark testovi kvaliteta Search API-ja

Ocene kvaliteta Search API-ja na SimpleQA, FRAMES, BrowseComp i HLE.

Još uvek smo u ranoj fazi pretraživača sa izvornom veštačkom inteligencijom, i umetnost i nauka merenja će se nesumnjivo razvijati. Pozivamo zajednicu da doprinese razvojem rigoroznih i kreativnih metoda za procenu pretraživača u eri AI agenata.

Gradivni blok za sledeće poglavlje veštačke inteligencije

Budućnost sistema sa agentima i inteligentnih asistenata zavisiće od dostupnosti bogatih programskih interfejsa u kolektivno znanje sveta. Današnji stari pretraživači su dostigli zasićenje u korišćenju na otprilike 10¹⁰ upita dnevno, što je cifra koja je verovatno dostigla vrhunac. Sledeća generacija sistema za pretragu i pronalaženje služiće redove veličina više zahteva, pošto se sve veći univerzum AI agenata oslanja na njih radi tačnih informacija u realnom vremenu.

Naši dosadašnji napori su nas pozicionirali kao najbrži, najperformantniji pretraživač dostupan putem API-ja. Ali biće potrebne još ambicioznije inovacije da bismo podstakli sledeće poglavlje veštačke inteligencije. Kako da efikasno skaliramo ove sisteme suočeni sa sve većom potražnjom? Kako ovi pretraživački sistemi mogu biti optimizovani u svetlu novih pristupa inženjeringu konteksta i naknadnoj obuci? I kako da se krećemo kroz sveprisutnu tenziju između kompletnosti, ažurnosti i latencije? Ovo su otvorena pitanja koja Perplexity, sa našom kombinacijom prisustva proizvoda, skale i tehničkog talenta, ima jedinstvenu poziciju da reši.

Citiranje

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}