Projektiranje i procjena API-ja za pretraživanje s naglaskom na AI

Izgradnja prilagodljivog API-ja za pretraživanje koji daje prednost umjetnoj inteligenciji predstavlja jedinstvene istraživačke izazove na raskrižju pronalaženja informacija, umjetne inteligencije i dizajna sustava. Za razliku od tradicionalnih usluga koje rade s ograničenim podacima, API za pretraživanje mora kontinuirano indeksirati milijarde dokumenata, razumjeti namjeru upita na različitim jezicima i domenama te prikazati relevantne rezultate u roku od nekoliko milisekundi. U svijetu agenata s umjetnom inteligencijom, API za pretraživanje također mora pažljivo kurirati kontekst koji se pruža modelima programera kako bi se osiguralo da ti modeli rade optimalno i uključuju maksimalno točne informacije. Učinkovito inženjerstvo konteksta zahtijeva da API ne samo da bilježi važnost na razini dokumenta, već da pojedinačne odjeljke i raspone dokumenata tretira kao samostalne jedinice.

U ovom članku predstavljamo dizajn i procjenu Perplexity API-ja za pretraživanje. Najprije istražujemo arhitekturu i ključne tehničke odluke iza naše produkcijske infrastrukture za pretraživanje koja obrađuje 200 milijuna dnevnih upita. Naša arhitektura kombinira hibridne mehanizme pronalaženja, višestupanjske cjevovode rangiranja, distribuirano indeksiranje i dinamičko parsiranje kroz modul za razumijevanje sadržaja koji se samostalno usavršava.

Zatim opisujemo naš pristup empirijskoj procjeni performansi API-ja za pretraživanje kroz novo otvoreno okruženje za procjenu. Sveobuhvatnim ocjenjivanjem usporedno s postojećim komercijalnim API-jima, demonstriramo vrhunske performanse u pogledu kvalitete i latencije. Perplexity API za pretraživanje dostupan je programerima diljem svijeta od danas.

[Pronađite search_evals na GitHubu]

Izgradnja sustava za pretraživanje optimiziranog za modele umjetne inteligencije

Od našeg osnutka shvaćali smo da će robusne mogućnosti pretraživanja biti ključne za omogućavanje AI proizvoda koji definiraju kategoriju i koje smo željeli isporučiti. Izvorno smo se nadali da te mogućnosti već postoje u javno dostupnom obliku. Eksperimentirali smo s portfeljem API-ja za pretraživanje dostupnih krajem 2022., a prva verzija Perplexityjevog mehanizma za odgovore zapravo je sadržavala neke od tih ponuda. Konkretno, analizirali bismo korisničke upite, formulirali i slali zahtjeve ovim API-jima te prikupljali rezultate kao kontekst za naš naknadni cjevovod generiranja.

Međutim, kako su korisnici hrlili Perplexityju, brzo smo shvatili da ti API-ji neće rasti u skladu s našim rastom. Cijene s kojima smo se susreli bile su pretjerane, pri čemu je jedan vodeći pružatelj API-ja naplaćivao 200 dolara po tisuću upita. No još kobnije, ti stari API-ji jednostavno nisu bili dizajnirani za nove paradigme pronalaženja koje su uveli napredni AI sustavi.

Povećaj

Za početak, formati zahtjeva i odgovora ovih starih API-ja bili su dizajnirani za svijet u kojem bi ljudi bili isključivi korisnici rezultata pretraživanja. Kao rezultat toga, ovi su API-ji davali prioritet rezultatima na razini dokumenta, isključujući finije informacije koje otkrivaju jedinice unutar dokumenata. Uspjeh modela umjetne inteligencije ovisi o kvaliteti i kompaktnosti pruženog konteksta, a iz prve smo ruke vidjeli kako preširoko pronalaženje može uništiti AI modele, bez obzira na to koliko se dohvaćeni dokumenti u cjelini činili relevantnima. Naši pokušaji nametanja preciznosti na neprecizne rezultate imali su ograničen uspjeh.

Također smo primijetili da su stari API-ji bili ili previše zastarjeli ili prespori. Neovisno razvijeni API-ji za pretraživanje oslanjali su se na indekse koji su bili nepotpuni i previše rijetko ažurirani. API-ji temeljeni na prikupljanju podataka (scrapingu), kao što su različiti neslužbeni SERP API-ji za Google pretraživanje, imali su koristi od sveobuhvatnijeg indeksa, ali su nudili neprihvatljivo visoku latenciju zbog neučinkovitosti u slanju upita pretraživaču treće strane. Visoka latencija činila je API-je neprikladnima za aplikacije usmjerene na korisnike, dok su zastarjeli skupovi rezultata bili neupotrebljivi za bilo koji AI sustav koji želi biti točan i pouzdan.

Konačno, primijetili smo da se AI ekosustav dijeli između leksičkog i semantičkog pretraživanja, s pojavom sustava koji su bili pretjerano optimizirani za jedan modalitet nauštrb drugoga. Vidjeli smo uspon vektorskih baza podataka koje nisu mogle adekvatno podržati ni jednostavne boolean filtre. Tradicionalne pozadinske baze za pretraživanje prošle su tek malo bolje, s primitivnom podrškom za semantičko rangiranje i mogućnosti pronalaženja koje omogućuje umjetna inteligencija.

Budući da smo shvatili da će činjenje Perplexityja još boljim zahtijevati izgradnju vlastite namjenske infrastrukture za pretraživanje, saželi smo svoja zapažanja u tri ključna kriterija:

Potpunost, svježina i brzina: indeks pretraživanja mora biti sveobuhvatan, neprekidno ažuriran i prilagođen latenciji u stvarnom vremenu.

Detaljno razumijevanje sadržaja: krhkost AI modela i ograničeni prozori konteksta zahtijevaju da se rezultati pretraživanja prikazuju i rangiraju na što detaljnijoj razini.

Hibridno pronalaženje i rangiranje: cjevovodi za pronalaženje i rangiranje moraju uključivati leksičke i semantičke signale kako bi rezultati bili korisni za AI.

Povećaj

Infrastruktura za pretraživanje i indeksiranje

Rad u razmjerima Perplexityja zahtijeva infrastrukturu koja može sveobuhvatno mapirati web i odgovoriti na njegovu stalnu evoluciju. Naš indeks pretraživanja prati preko 200 milijardi jedinstvenih URL-ova, s kapacitetom za praćenje stotina milijardi dodatnih.

Osiguravanje da naš indeks pokriva dovoljno sveobuhvatan dio interneta i da svaki dokument odražava najnovije stanje težak je pothvat. Postoji inherentna napetost između potpunosti i svježine: za fiksni proračun indeksiranja, operacije osvježavanja za postojeće stranice moraju se natjecati s operacijama indeksiranja za nove, neposjećene stranice. Ovu napetost uravnotežujemo kombinacijom skaliranja (koje ublažava optimizacijsko ograničenje povećanjem proračuna za indeksiranje) i prioritizacije vođene strojnim učenjem (koja osigurava da je svaka operacija indeksiranja maksimalno vrijedna za indeks u cjelini).

Izgradili smo indeks i uređaj za pretraživanje u eksabajtnom razmjeru koji se horizontalno skalira s veličinom i volumenom upita. Perplexityjev pretraživač i flote za indeksiranje zajedno obuhvaćaju desetke tisuća procesora i stotine terabajta radne memorije (RAM-a), uz znatnu slobodu za daljnje skaliranje. Ovu računalnu infrastrukturu spajamo s ravnotežom hladnog i toplog skladištenja. Koristimo i naučene modele i prilagođene heuristike kako bismo odredili koje dokumente treba čuvati u toplom stanju, dajući prednost dokumentima iz mjerodavnih domena, dokumentima koji se bave nedovoljno pokrivenim temama i drugim kategorijama s iznimnim potencijalom da obogate naš indeks.

Ova infrastruktura omogućuje Perplexityju obradu desetaka tisuća operacija indeksiranja u sekundi. No čak i s ovim relativno izdašnim proračunom, razmjeri interneta preveliki su da bi se svaki pojedini URL indeksirao na čestoj i ponavljajućoj osnovi. Ovdje stupa na snagu strojno učenje. Treniramo model strojnog učenja da predvidi treba li bilo koji dani kandidat za URL indeksirati. Cilj treniranja osmišljen je tako da osigura kalibraciju naše odluke o indeksiranju prema važnosti i vjerojatnoj frekvenciji ažuriranja specifičnog URL-a. Također se oslanjamo na strojno učenje kako bismo saznali točno kada zakazati operaciju indeksiranja. Za web-lokacije s rutinskim ritmovima objavljivanja i osvježavanja, to nam omogućuje odgodu operacija do trenutka u kojem će vjerojatno biti najkorisnije. Kontinuiranim usavršavanjem ovih modela strojnog učenja u mogućnosti smo održavati indeks koji zadovoljava kriterije potpunosti i svježine.

Iako se naša infrastruktura za pretraživanje lako horizontalno skalira, svjesni smo da se operatori web-lokacija suočavaju s različitim tehničkim ograničenjima. Pažljivo održavamo predvidljivu i upravljivu stopu zahtjeva prema bilo kojoj određenoj domeni. PerplexityBot, naš pretraživač, pridržava se eksplicitnih ograničenja navedenih u datotekama robots.txt ili, u nedostatku ograničenja određenih domendom, industrijskih standardnih normi u vezi sa stopama zahtjeva. Također prilagođavamo ponašanje pretraživanja kada otkrijemo nedostupnost web-lokacije. Naš distribuirani sustav arhitektonski je osmišljen tako da provodi ta ograničenja čak i u desetinama tisuća istovremenih operacija.

Razumijevanje sadržaja koje se samostalno usavršava na razmjeru interneta

Čak i s jednim od najvećih i najsvježijih indeksa pretraživanja na planeti, kvaliteta rezultata svakog upita ovisi o razumijevanju sadržaja svakog dokumenta od strane našeg sustava. Ovdje se suočavamo s temeljnim izazovom: web je neuredno mjesto. Nijedan fiksni skup pravila parsiranja ne može se nositi s beskonačnom raznolikošću izgleda, struktura i stilova koji se mogu naći na cijelom internetu.

Ovaj smo izazov riješili razvojem modula za razumijevanje sadržaja koji parsira web-lokacije i izdvaja semantički značajan sadržaj koristeći dinamičke skupove pravila. Web-lokacija s puno dobro strukturiranih podataka u obliku popisa ili tablica može imati koristi od formulaičnijih pravila parsiranja i izdvajanja, dok druga web-lokacija koja prvenstveno sadrži nestrukturirani korisnički sadržaj može zahtijevati opušteniji skup pravila. Budući da je web uglavnom statičan u kratkim vremenskim okvirima, primjećujemo da je životni vijek određenog pravila relativno dugačak. No kako se web-lokacije s vremenom razvijaju i kako učimo više o najboljim načinima izdvajanja informacija, naši skupovi pravila također zahtijevaju stalno održavanje.

Kako bismo olakšali ovu dinamičku prilagodbu, okrećemo se (naravno) umjetnoj inteligenciji. U razmjerima Perplexityja promatramo nevjerojatno bogat presjek weba tijekom posluživanja milijuna korisničkih upita na sat. To čini temelj za iterativnu petlju samousavršavanja. Promatramo ponašanje parsiranja i izdvojene izlaze naših trenutnih skupova pravila kroz naš svemir upita. Zatim koristimo napredne jezične modele (LLM) za procjenu performansi kroz dvije primarne dimenzije:

Potpunost: naš bi indeks trebao primiti što je moguće više semantički značajnog sadržaja, uz izbjegavanje lažnog izdvajanja neinformativnih ili besmislenih materijala.

Kvaliteta: naš se indeks oslanja na sadržaj visoke kvalitete u pogledu tvari i forme. Informacije bi trebale biti prikupljene na način koji čuva izvornu strukturu i izgled sadržaja.

Imajte na umu da potpunost i kvaliteta predstavljaju još jednu inherentnu napetost: ručna optimizacija kvalitete je moguća, ali rezultirajuća pravila parsiranja možda neće uspjeti uhvatiti kritičan sadržaj. Slično tome, mogli bismo ručno kodirati permisivna pravila koja primjenjuju minimalno filtriranje na sirovi sadržaj, što bi moglo poboljšati potpunost, ali nauštrb kvalitete. Zato se okrećemo samousavršavanju vođenom umjetnom inteligencijom kako bismo razvili naš skup pravila na način koji može optimizirati za oboje istovremeno na način prilagodljiv domeni.

Konkretno, nakon svake procjene performansi parsiranja vođene jezičnim modelom, naš sustav formulira skup predloženih promjena skupa pravila kako bi riješio najznačajnije klase pogrešaka. Ovi skupovi pravila prolaze kroz daljnju provjeru valjanosti, nakon čega novu verziju uvodimo u naš indeks. S obzirom na to da poboljšanja u logici parsiranja i izdvajanja mogu samo koristiti budućim operacijama indeksiranja, naše ulaganje u reindeksiranje optimizirano strojnim učenjem posebno je važno: kontinuirano osvježavanje dokumenata s velikim prometom korištenjem najnovije verzije ove logike osigurava čvrstu petlju samousavršavanja.

Ova su pravila važna ne samo za osnovne performanse parsiranja, već i za segmentaciju u jedinice unutar dokumenata. Kada je riječ o naprednim jezičnim modelima, svaki token konteksta je dragocjen. Velik broj prethodnih radova dokumentirao je kako se performanse jezičnih modela smanjuju s povećanjem veličine konteksta i zagađenjem konteksta irelevantnim informacijama. Dobro strukturirano, sveobuhvatno parsiranje omogućuje nam rastavljanje dokumenata na samostalne raspone, od kojih se svaki može pojedinačno dohvatiti i rangirati u trenutku upita.

Cjevovod za pronalaženje i rangiranje

Suvremeno pretraživanje zahtijeva osiguravanje i potpunosti i relevantnosti uz strogo ograničenje latencije. Perplexityjev cjevovod za pronalaženje i rangiranje to postiže kroz višestupanjsku arhitekturu koja progresivno pročišćava rezultate nizom sve složenijih modula. Rješavamo potencijalna uska grla horizontalnim skaliranjem svih potencijalnih zagušenja do maksimalne moguće mjere.

Cjevovod započinje pronalaženjem iz našeg indeksa. Ne namećemo izbor između leksičkog i semantičkog pronalaženja. Umjesto toga, šaljemo upit indeksu pretraživanja putem oba modaliteta i spajamo rezultate u hibridni skup kandidata. U ovoj fazi prioritet je sveobuhvatnost nad preciznošću - naknadne faze cjevovoda optimizirat će za preciznost.

Cjevovod se nastavlja fazama predfiltriranja, u kojima primjenjujemo osnovnu heuristiku i filtre prvog kruga kako bismo uklonili očito neodgovarajući ili zastarjeli sadržaj iz skupa kandidata.

Zatim zapošljavamo više faza progresivno naprednog rangiranja. Ranije faze oslanjaju se na leksičke ocjenjivače i ocjenjivače temeljene na ugniježđenjima optimizirane za brzinu. Kako se skup kandidata postepeno sužava, koristimo moćnije modele unakrsnog kodiranja za ponovno rangiranje kako bismo izvršili konačno oblikovanje skupa rezultata. Zahvaljujući našim brojnim ulaganjima u performanse zaključivanja, u mogućnosti smo iskoristiti vrhunske arhitekture modela za ove kasinije faze uz održavanje niske ukupne latencije rangiranja.

Tijekom ovog cjevovoda dohvaćamo i ocjenjujemo rezultate na razini dokumenata i poddokumenata. Kao što je gore opisano, umjetna inteligencija zahtijeva pažljivo inženjerstvo konteksta. Naš cjevovod dizajniran je tako da modelu prikaže što atomskije jedinice, tako da naknadni potrošači mogu uključiti te precizne jedinice bez uvlačenja irelevantnog konteksta s drugih mjesta u izvornim dokumentima.

Osiguravanje visoke kvalitete u svakoj fazi ovog cjevovoda moguće je samo kroz zajednički dizajn s Perplexityjevim portfeljem proizvoda. Svaki detalj stoga rangiranja dizajniran je tako da iskoristi bogat signal proizveden milijunima korisničkih zahtjeva koje poslužujemo svakog sata u danu. Velika većina ovog signala je automatizirana, pri čemu svaki generirani Perplexityjev odgovor pruža empirijsku podatkovnu točku o kvaliteti pretraživanja kakva se koristi u radnom tijeku agenta uživo. Kombiniramo procjene vođene umjetnom inteligencijom s povratnim informacijama živih korisnika kako bismo obogatili podatke za treniranje naših modela ugniježđivanja i rangiranja daleko iznad onoga što bilo koji ručno izrađeni skup podataka može ponuditi.

Ova sinergija između pretraživanja i proizvoda jedinstvena je za Perplexity. Stari pretraživači ograničeni su grubim signalom koji pruža telemetrija plavih poveznica. Novije ponude pretraživanja pokušale su implementirati neke od ovih koncepata usmjerenih na umjetnu inteligenciju, ali im nedostaju okruženja stvarnog svijeta koja mogu potvrditi kvalitetu pretraživanja i pružiti bogatstvo signala potrebnih za brze petlje poboljšanja. Sretni smo što imamo nedostajući sastojak: poligon za testiranje kvalitete pretraživanja uživo, pokretan naprednim jezičnim modelima i kontinuirano testiran u borbi od strane milijuna radoznalih korisnika širom svijeta.

Uspostavljanje nove granice kvalitete i performansi

Nakon izgradnje Perplexity API-ja za pretraživanje i SDK-a kako bismo našu infrastrukturu za pretraživanje učinili dostupnom programerima diljem svijeta, htjeli smo razumjeti kako se različite komercijalne API ponude uspoređuju u slučajevima korištenja umjetne inteligencije u stvarnom svijetu. Postalo je uobičajeno ocjenjivati same AI modele, ali trebali smo zaokret u ovom obrascu: ocijeniti kvalitetu API-ja za pretraživanje kada ih pozivaju AI modeli.

Najprije smo pogledali ekosustav otvorenog koda kako bismo razumjeli prethodna dostignuća. Pronašli smo mnoge ključne sastojke za rigoroznu procjenu, ali nijedan radni okvir koji je integrirao te sastojke u rješenje za usporednu analizu "uključi i radi". Stoga smo krenuli u razvoj okvira za procjenu koji bi mogao koristiti ne samo Perplexity, već i bilo koji istraživač ili programer koji želi usporediti API-je za pretraživanje.

Koristeći ovaj okvir za procjenu, rigorozno smo usporedili Perplexity API za pretraživanje uz druge ponude. Optimizacija performansi pretraživanja je složena, s mnogo nijansiranih kompromisa između kvalitete i brzine. Kao pobjeda za programere, otkrili smo da Perplexity API za pretraživanje postavlja nova vrhunska postignuća za kvalitetu i latenciju. Programeri više ne moraju birati između izgradnje iznimno brzih aplikacija i osiguravanja visokokvalitetnih rezultata: s Perplexityjem mogu imati oboje.

Povećaj

Dizajniranje pouzdanih procjena za radne tijekove pretraživanja agenata

Počeli smo definiranjem tri vodeća načela za naš okvir procjene:

Spektar složenosti: okruženje za procjenu trebalo bi mjeriti performanse na jednostavnim i složenim slučajevima korištenja AI agenata.

Neutralnost: okruženje za procjenu trebalo bi procjenjivati sve API-je pod jednakim uvjetima.

Jednostavnost: iako određeni slučajevi korištenja mogu biti složeni, sam okvir trebao bi biti što jednostavniji kako bi ga drugi mogli razumjeti, reproducirati rezultate i proširiti okvir uz minimalan napor.

Naš lagani okviri za procjenu, search_evals, postiže ove ciljeve kroz jednostavan modularni dizajn. Razvili smo dva okvira za AI agente kako bismo uhvatili i klasične slučajeve pretraživanja u jednom potezu i napredne radne tijekove agenata (exemplificirane različitim proizvodima "dubinskog istraživanja" koji su naširoko dostupni na potrošačkom tržištu). Oba su okvira implementirana na izravan način koji ostavlja malo prostora za skrivenu prednost.

Za pokretanje naših procjena usvojili smo četiri mjerila: SimpleQA i FRAMES za pretraživanje u jednom koraku, zajedno s BrowseComp i HLE za dubinsko istraživanje. Zajedno, ova mjerila pružaju dobro prihvaćena mjerila za agente znanja. Slijedeći utvrđenu konvenciju, ocjenjujemo sve referentne vrijednosti koristeći istu metodologiju klasifikatora s promptovima koja se koristi u izvornom radu. Precizne implementacije mjerila (uključujući logiku ocjenjivača) mogu se pogledati u našem GitHub repozitoriju.

Dizajnirajući okruženje imali smo na umu mogućnost ponovnog izvođenja i proširivosti. I rezultati na razini zadatka i izlazi temeljnog agenta pohranjuju se sa svakim pokretanjem. Dodatni okviri, mjerila i ponude API-ja za pretraživanje mogu se lako integrirati. Istraživači i programeri mogu pročitati naše GitHub dokumente za više informacija o proširivanju okvira kako bi zadovoljili vaše precizne potrebe.

Rezultati procjene

Naoružani ovim okvirom za procjenu, krenuli smo procijeniti naš API za pretraživanje u usporedbi s drugim API ponudama. Kroz sva testirana mjerila, Perplexity se ističe kao najbrži API najviše kvalitete na tržištu.

Povećaj

Otkrili smo da su se naša gore opisana ulaganja u indeks, pronalaženje i učinkovitost rangiranja isplatila. Perplexityjeva srednja latencija iznosi 358 ms, što je više od 150 ms ispred drugog najbržeg pružatelja usluga. Latencija u 95. percentilu ostaje udobno ispod 800 ms. Uz dugačke metrike vremena do prvog tokena (TTFT) današnjih naprednih modela, svaka milisekunda je važna u stvaranju ugodnih korisničkih iskustava. Proveli smo posljednje dvije godine optimizirajući latenciju za naše vlastite korisnike i zadovoljni smo što će ta ista ulaganja sada koristiti i zajednici programera.

Latencija API-ja za pretraživanje

(zahtjevi pokrenuti s AWS us-east-1)

Percentili latencije Search API-ja za zahtjeve pokrenute iz AWS us-east-1.

* Mnogi pružatelji API-ja za pretraživanje koriste prikupljanje SERP podataka (scraping) kao osnovu za svoje rezultate. Kako bismo prikazali performanse takvih pristupa, koristimo reprezentativni API temeljen na Google SERP-u koji nudi Tavily.

Ova prednost u brzini ne dolazi nauštrb kvalitete. Perplexity API za pretraživanje daje vrhunske performanse u postavkama pretraživanja u jednom koraku i dubinskog istraživanja. Na svakom testiranom mjerilu, Perplexity predvodi u pružanju visokokvalitetnih rezultata koji mogu pokretati AI radne tijekove različite složenosti. Razlika između Perplexityja i najbolje alternative posebno je izražena na SimpleQA i HLE, što pokazuje da su ovi rezultati robusni kroz cijeli spektar složenosti zadataka.

Povećaj

Kao i kod latencije, naše vodstvo u kvaliteti pretraživanja proizlazi iz našeg vodstva u izgradnji ugodnih AI proizvoda s velikim prometom. Naši milijuni korisnika koriste Perplexity kako bi zadovoljili svoju znatiželju o svakoj zamislivoj temi, a rezultirajući signali kvalitete i relevantnosti omogućuju našim modelima pretraživanja da se poboljšavaju sa svakim satom koji prolazi.

Mjerila kvalitete API-ja za pretraživanje

Ocjene kvalitete Search API-ja na SimpleQA, FRAMES, BrowseComp i HLE.

Još uvijek smo u ranim danima pretraživača s izvornom umjetnom inteligencijom, a umijeće i znanost mjerenja bez sumnje će se razvijati. Pozivamo zajednicu da doprinese razvojem rigoroznih i kreativnih metoda za procjenu tražilica u dobu AI agenata.

Građevni blok za sljedeće poglavlje umjetne inteligencije

Budućnost sustava agenata i inteligentnih pomoćnika ovisit će o dostupnosti bogatih programskih sučelja u kolektivno znanje svijeta. Današnje stare tražilice dosegle su zasićenje u korištenju od otprilike 10¹⁰ upita dnevno, brojku koja je vjerojatno dosegla vrhunac. Sljedeća generacija sustava pretraživanja i pronalaženja posluživat će zahtjeve redovima veličine više, budući da se sve veći svemir AI agenata oslanja na njih za točne informacije u stvarnom vremenu.

Naši dosadašnji napori pozicionirali su nas kao najbržu tražilicu s najvišim performansama dostupnu putem API-ja. No bit će potrebne još ambicioznije inovacije da bismo potaknuli sljedeće poglavlje umjetne inteligencije. Kako učinkovito skalirati ove sustave suočeni sa sve većom potražnjom? Kako se ovi sustavi pretraživanja mogu optimizirati u svjetlu novih pristupa inženjerstvu konteksta i naknadnom treniranju? I kako se snalaziti u sveprisutnoj napetosti između potpunosti, novosti i latencije? To su otvorena pitanja s kojima se Perplexity, sa svojom kombinacijom utjecaja proizvoda, razmjera i tehničkog talenta, nalazi u jedinstvenom položaju da se nosi.

Citiranje

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}