AI-pirmās Search API arhitektūra un novērtēšana

Mērogo, uz mākoņiem balstīta un uz AI orientēta meklēšanas API rada unikālas izpētes problēmas informācijas ieguves, AI un sistēmu dizaina krustpunktā. Atšķirībā no tradicionālajiem pakalpojumiem, kas darbojas ar ierobežotiem datiem, meklēšanas API ir nepārtraukti jāindeksē miljardiem dokumentu, jāsaprot vaicājumu nolūks dažādās valodās un domēnos, kā arī dažu miliseunžu laikā jāsniedz attiecīgi rezultāti. AI aģentu laikmetā meklēšanas API ir arī rūpīgi jāatlasa konteksts, kas tiek piedāvāts izstrādātāju modeļiem, lai nodrošinātu, ka šie modeļi darbojas optimāli un ietver maksimāli precīzu informāciju. Efektīva konteksta inženierija prasa, lai API ne tikai tvertu dokumentu līmeņa atbilstību, bet arī uztvertu atsevišķas dokumentu sadaļas un fragmentus kā patstāvīgas vienības.

Šajā rakstā mēs aplūkojam Perplexity Search API dizainu un novērtējumu. Vispirms mēs pētām arhitektūru un galvenos tehniskos lēmumus, kas ir mūsu ražošanas meklēšanas infrastruktūras pamatā un apstrādā 200 miljonus ikdienas vaicājumu. Mūsu arhitektūra apvieno hibrīdas izguves mehānismus, daudzpakāpju ranžēšanas konveijerus, distribuētu indeksēšanu un dinamisku parsēšanu, izmantojot sevi uzlabojošu satura izpratnes moduli.

Pēc tam mēs aprakstām mūsu pieeju empīriskai meklēšanas API veiktspējas novērtēšanai, izmantojot jaunizveidotu atvērtā koda novērtēšanas sistēmu. Veicot visaptverošu salīdzināšanu kopā ar esošajām komerciālajām API, mēs demonstrējam jaunāko sasniegumu līmeni gan kvalitātes, gan latentuma ziņā. Perplexity Search API ir pieejama izstrādātājiem visā pasaulē, sākot no šodienas.

[Atrast search_evals pakalpojumā GitHub]

Meklēšanas sistēmas izveide, kas optimizēta AI modeļiem

Kopš mūsu dibināšanas mēs sapratām, ka spēcīgas meklēšanas iespējas būs kritiskas, lai nodrošinātu kategoriju definējošos AI produktus, kurus vēlējāmies izlaist. Sākotnēji mēs cerējām, ka šādas iespējas jau pastāv publiski pieejamā formā. Mēs eksperimentējām ar 2022. gada beigās pieejamo meklēšanas API portfeli, un Perplexity atbilžu dzinēja pati pirmā versija faktiski iekļāva dažus no šiem piedāvājumiem. Proti, mēs analizējām lietotāju vaicājumus, formulējām un nosūtījām pieprasījumus uz šīm API, kā arī apkopojām rezultātus kā kontekstu mūsu pakārtotās ģenerēšanas konveijeram.

Tomēr, lietotājiem pulcējoties ap Perplexity, mēs ātri sapratām, ka šīs API nespēs mērogoties līdz ar mūsu izaugsmi. Mūsu sastaptās cenas bija pārmērīgas, jo viens vadošais API nodrošinātājs iekasēja 200 USD par tūkstoti vaicājumu. Bet vēl ļaunāk – šīs mantotās API vienkārši nebija paredzētas jaunām izguves paradigmām, ko ieviesa progresīvas AI sistēmas.

Izvērst

Iesākumam – šo mantoto API pieprasījumu un atbilžu formāti tika izstrādāti pasaulei, kurā cilvēki būtu ekskluzīvi meklēšanas rezultātu patērētāji. Tā rezultātā šajās API priekšroka tika dota dokumentu līmeņa rezultātiem, izslēdzot sīkāku informāciju, ko atklāj apakšdokuments vienības. AI modeļa panākumi ir atkarīgi no sniegtā konteksta kvalitātes un kompaktuma, un mēs paši redzējām, kā pārāk plaša izguve var izjaukt AI modeļus neatkarīgi no tā, cik atbilstoši iegūtie dokumenti kopumā varētu šķist. Mūsu mēģinājumi ieviest precizitāti neprecīzos rezultātos deva ierobežotus panākumus.

Mēs arī novērojam, ka mantotās API bija vai nu pārāk novecojušas, vai pārāk lēnas. Neatkarīgi izstrādātas meklēšanas API paļāvās uz indeksiem, kas bija nepilnīgi un tika atjaunināti pārāk reti. Uz skrāpēšanu balstītas API, piemēram, dažādas neoficiālas Google Search SERP API, guva labumu no visaptverošāka indeksa, taču piedāvāja nepieņemami augstu latentumu neefektivitātes dēļ, kas piemīt trešās puses meklēšanas dzinēja vaicāšanai. Augsts latentums padarīja API nepiemērotas lietotāju lietojumprogrammām, savukārt novecošana padarīja rezultātu kopas neizmantojamas jebkurai AI sistēmai, kas cer būt precīza un uzticama.

Visbeidzot, mēs novērojām AI ekosistēmas sadalīšanos leksiskajā meklēšanā un semantiskajā meklēšanā, parādoties sistēmām, kas bija pārlieku optimizētas vienai modalitātei salīdzinājumā ar otru. Mēs redzējām vektoru datubāžu pieaugumu, kas nespēja adekvāti atbalstīt pat vienkāršus Būla filtrus. Tradicionālajām meklēšanas aizmugursistēmām klājās nedaudz labāk, piedāvājot primitīvu atbalstu semantiskās ranžēšanas un izguves iespējām, ko pavēra AI.

Kad mēs sapratām, ka Perplexity uzlabošanai būs jāizveido sava īpaša meklēšanas infrastruktūra, mēs apkopojām savus novērojumus trīs galvenajos kritērijos:

Pilnīgums, svaigums un ātrums: meklēšanas indeksam ir jābūt visaptverošam, pastāvīgi atjauninātam un izveidotam reāllaika latentumam.

Detalizēta satura izpratne: AI modeļa trauslums un ierobežotie konteksta logi prasa, lai meklēšanas rezultāti tiktu parādīti un ranžēti pēc iespējas granulētākā līmenī.

Hibrīda izguve un ranžēšana: gan izguves, gan ranžēšanas konveijeros ir jāiekļauj leksiskie un semantiskie signāli, lai rezultāti būtu noderīgi AI.

Izvērst

Pārlūkošanas un indeksēšanas infrastruktūra

Darbošanās Perplexity mērogā prasa infrastruktūru, kas spēj visaptveroši kartēt tīmekli un reaģēt uz tā pastāvīgo evolūciju. Mūsu meklēšanas indekss izseko vairāk nekā 200 miljardiem unikālu URL ar kapacitāti izsekot vēl daudziem simtiem miljardu.

Nodrošināt, ka mūsu indekss aptver pietiekami visaptverošu interneta daļu un ka katrs dokuments atspoguļo jaunāko stāvokli, ir sarežģīts uzdevums. Starp pilnīgumu un svaigumu pastāv raksturīga pretruna: fiksētam indeksēšanas budžetam esošo lapu atsvaidzināšanas darbībām ir jākonkurē ar jaunu, vēl neapmeklētu lapu indeksēšanas darbībām. Mēs līdzsvarojam šo pretrunu, apvienojot mērogošanu (kas mazina optimizācijas ierobežojumu, palielinot indeksēšanas budžetu) un mašīnmācīšanās balstītu prioritizāciju (kas nodrošina, ka katra indeksēšanas darbība ir maksimāli vērtīga indeksam kopumā).

Mēs esam izveidojuši eksabaitu mēroga indeksu un pārlūkošanas ierīci, kas horizontāli mērogojas gan ar izmēru, gan vaicājumu apjomu. Perplexity pārlūka un indeksēšanas flotes kopumā ietver desmitiem tūkstošu CPU un simtiem terabaitu RAM ar ievērojamu rezervi turpmākai mērogošanai. Mēs apvienojam šo skaitļošanas infrastruktūru ar aukstās un siltās krātuves līdzsvaru. Mēs izmantojam gan apgūtos modeļus, gan pielāgotas heiristikas, lai noteiktu, kuri dokumenti ir jāglabā aktīvi, piešķirot prioritāti dokumentiem no autoritatīviem domēniem, dokumentiem par nepietiekami apskatītām tēmām un citām kategorijām ar pārlieku lielu potenciālu bagātināt mūsu indeksu.

Šī infrastruktūra ļauj Perplexity apstrādāt desmitiem tūkstošu indeksēšanas darbību sekundē. Bet pat ar šo relatīvi dāsno budžetu interneta mērogs ir pārāk milzīgs, lai bieži un regulāri indeksētu katru atsevišķu vietrādi URL. Šeit talkā nāk mašīnmācīšanās. Mēs apmācām mašīnmācīšanās modeli, lai prognozētu, vai kādam konkrētam kandidāta URL ir nepieciešams veikt indeksēšanu. Apmācības mērķis ir izveidots tā, lai nodrošinātu mūsu indeksēšanas lēmuma kalibrēšanu gan attiecībā uz konkrētā URL svarīgumu, gan iespējamo atjaunināšanas biežumu. Mēs arī paļaujamies uz mašīnmācīšanos, lai pateiktu mums precīzi, kad ieplānot indeksēšanas darbību. Vietnēm ar ierastu publicēšanas un atsvaidzināšanas ritmu tas ļauj atlikt darbības līdz brīdim, kad tās visticamāk būs visnoderīgākās. Nepārtraukti pilnveidojot šos mašīnmācīšanās modeļus, mēs spējam uzturēt indeksu, kas atbilst gan pilnīguma, gan svaiguma prasībām.

Lai gan mūsu pārlūkošanas infrastruktūra viegli mērogojas horizontāli, mēs apzināmies, ka vietņu operatori saskaras ar atšķirīgiem tehniskiem ierobežojumiem. Mēs rūpīgi uzturam paredzamu un pārvaldāmu pieprasījumu līmeni pret jebkuru konkrētu domēnu. PerplexityBot, mūsu meklēšanas pārlūks, ievēro skaidrus ierobežojumus, kas noteikti robots.txt failos, vai domēnam specifisku ierobežojumu neesamības gadījumā – nozares standarta normas attiecībā uz pieprasījumu biežumu. Mēs arī pielāgojam savu pārlūkošanas uzvedību, kad konstatējam vietnes nepieejamību. Mūsu distribuētā sistēma ir arhitektoniski izveidota, lai īstenotu šos ierobežojumus pat vairākos desmitos tūkstošu vienlaicīgu darbību.

Sevi uzlabojoša satura izpratne interneta mērogā

Pat ar vienu no lielākajiem un svaigākajiem meklēšanas indeksiem uz planētas, katra vaicājuma rezultātu kvalitāte ir atkarīga no mūsu sistēmas izpratnes par katra dokumenta saturu. Šeit mēs saskaramies ar fundamentālu izaicinājumu: tīmeklis ir nekārtīga vieta. Neviens fiksēts parsēšanas noteikumu kopums nespēj tikt galā ar bezgalīgo izkārtojumu, struktūru un stila daudzveidību, kas atrodama visā internetā.

Mēs atrisinājām šo izaicinājumu, izstrādājot satura izpratnes moduli, kas parsē tīmekļa vietnes un iegūst semantiski nozīmīgu saturu, izmantojot dinamiskas noteikumu kopas. Tīmekļa vietne, kurā ir daudz labi strukturētu datu sarakstu vai tabulu veidā, var gūt labumu no formālākiem parsēšanas un iegūšanas noteikumiem, savukārt citai vietnei, kurā galvenokārt ir brīvas formas lietotāju ģenerēts saturs, var būt nepieciešama brīvāka noteikumu kopa. Tā kā tīmeklis īsā laika posmā pārsvarā ir statisks, mēs konstatējam, ka konkrēta noteikuma dzīves cikls ir salīdzinoši garš. Bet, vietnēm laika gaitā attīstoties un mums uzzinot vairāk par labākajiem informācijas ieguves veidiem, mūsu noteikumu kopām ir nepieciešama arī nepārtraukta kopšana.

Lai atvieglotu šo dinamisko adaptāciju, mēs (protams) pievēršamies AI. Perplexity mērogā mēs novērojam neticami bagātīgu tīmekļa šķērsgriezumu katru stundu apkalpoto miljoniem lietotāju vaicājumu laikā. Tas veido pamatu iteratīvam sevi uzlabojošam ciklam. Mēs novērojam mūsu pašreizējo noteikumu kopu parsēšanas uzvedību un izvilktos rezultātus visā mūsu vaicājumu visumā. Pēc tam mēs izmantojam modernus LLM, lai novērtētu veiktspēju divās galvenajās dimensijās:

Pilnīgums: mūsu indeksam vajadzētu saņemt pēc iespējas vairāk semantiski nozīmīga satura, vienlaikus izvairoties no neinformācijas vai bezjēdzīgu materiālu nejaušas iegūšanas.

Kvalitāte: mūsu indekss balstās uz saturu, kas ir augstas kvalitātes gan pēc būtības, gan formas. Informācija ir jāuztver tādā veidā, kas saglabā sākotnējo satura struktūru un izkārtojumu.

Ņemiet vērā, ka pilnīgums un kvalitāte rada vēl vienu raksturīgu spriedzi: manuāli optimizēt kvalitāti ir iespējams, taču iegūtie parsēšanas noteikumi var neaptvert kritisku saturu. Līdzīgi mēs varētu ar rokām kodēt pielaidīgus noteikumus, kas nepiemēro gandrīz nekādu filtrēšanu neapstrādātam saturam, kas varētu uzlabot pilnīgumu, bet uz kvalitātes rēķina. Tāpēc mēs pievēršamies uz AI balstītai pašuzlabošanai, lai attīstītu mūsu noteikumu kopu tādā veidā, kas var optimizēt abus vienlaikus domēnam adaptīvā veidā.

Konkrēti, pēc katra uz LLM balstīta parsēšanas veiktspējas novērtējuma mūsu sistēma formulē piedāvāto noteikumu kopas izmaiņu kopu, lai novērstu visnozīmīgākās kļūdu klases. Šīm noteikumu kopām tiek veikta turpmāka validācija, pēc kuras mēs izvietojam jauno versiju savā indeksētājā. Ņemot vērā to, ka parsēšanas un ieguves loģikas uzlabojumi var sniegt labumu tikai turpmākajām indeksēšanas darbībām, mūsu ieguldījums mašīnmācīšanās optimizētā reindeksēšanā ir īpaši svarīgs: augstas plūsmas dokumentu nepārtraukta atsvaidzināšana, izmantojot šīs loģikas jaunāko versiju, nodrošina ciešu pašuzlabošanās ciklu.

Šie noteikumi ir svarīgi ne tikai bāzes parsēšanas veiktspējai, bet arī segmentēšanai apakšdokuments vienībās. Runājot par moderniem LLM, katrs konteksta marķieris ir vērtīgs. Liels iepriekšējā darba apjoms ir dokumentējis, kā LLM veiktspēja pasliktinās, palielinoties konteksta lielumam un kontekstam piesārņojoties ar neatbilstošu informāciju. Labi strukturēta, visaptveroša parsēšana ļauj mums sadalīt dokumentus pašpietiekamos segmentos, kurus katru var atsevišķi izgūt un ranžēt vaicājuma laikā.

Izguves un ranžēšanas konveijers

Mūsdienu meklēšana prasa nodrošināt gan pilnīgumu, gan atbilstību stingrā latentuma budžetā. Perplexity izguves un ranžēšanas konveijers to panāk, izmantojot daudzpakāpju arhitektūru, kas progresīvi precizē rezultātus ar vairākiem arvien sarežģītākiem moduļiem. Mēs risinām potenciālos sašaurinājumus, maksimāli horizontāli mērogojot jebkurus iespējamos kavēkļus.

Konveijers sākas ar izgūšanu no mūsu indeksa. Mēs neuzspiežam izvēli starp leksisko un semantisko izguvi. Tā vietā mēs vaicājam meklēšanas indeksam, izmantojot abas modalitātes, un apvienojam rezultātus hibrīda kandidātu kopā. Šajā posmā prioritāte ir visaptverošumam, nevis precizitātei – turpmākie konveijera posmi optimizēs precizitāti.

Konveijers turpinās ar iepriekšējas filtrēšanas posmiem, kuros mēs lietojam pamata heiristiku un pirmās kārtas filtrus, lai no kandidātu kopas noņemtu nepārprotami nereaģējošu vai novecojušu saturu.

Pēc tam mēs izmantojam vairākus progresīvi uzlabotas ranžēšanas posmus. Agrākie posmi balstās uz leksiskiem un iegulšanas skaitītājiem, kas optimizēti ātrumam. Tā kā kandidātu kopa tiek pakāpeniski sašaurināta, mēs izmantojam jaudīgākus šķērseniskā kodētāja pārranga modeļus, lai veiktu rezultātu kopas galīgo veidošanu. Pateicoties mūsu daudzajiem ieguldījumiem secinājumu veiktspējā, mēs varam izmantot modernākās modeļu arhitektūras šiem vēlākajiem posmiem, vienlaikus saglabājot zemu kopējo ranžēšanas latentumu.

Visā šajā konveijerā mēs izgūstam un vērtējam rezultātus gan dokumentu, gan apakšdokumentu līmenī. Kā minēts iepriekš, AI prasa rūpīgu konteksta inženieriju. Mūsu konveijers ir izstrādāts tā, lai modelim parādītu pēc iespējas atomārākas vienības, lai pakārtotie patērētāji varētu iekļaut šīs precīzās vienības, nevelkot līdzi neatbilstošu kontekstu no citām avota dokumentu vietām.

Nodrošināt augstu kvalitāti katrā šī konveijera posmā ir iespējams tikai sadarbojoties ar Perplexity produktu portfeli. Katra ranžēšanas steka detaļa ir izstrādāta, lai izmantotu bagātīgo signālu, ko rada miljoniem lietotāju pieprasījumu, kurus mēs apkalpojam katru dienu stundu. Lielākā daļa šī signāla ir automatiska, un katra ģenerētā Perplexity atbilde nodrošina empīrisku datu punktu par meklēšanas kvalitāti, ko izmanto tiešsaistes aģentu darbplūsmā. Mēs apvienojam uz AI balstītus novērtējumus ar tiešsaistes cilvēku atgriezenisko saiti, lai bagātinātu mūsu iegulšanas un ranžēšanas modeļu mācību datus daudz vairāk nekā jebkurš manuāli izveidots datu kopums.

Šī sinerģija starp meklēšanu un produktu ir unikāla Perplexity. Mantotie meklēšanas dzinēji aprobežojas ar rupjo signālu, ko nodrošina zilo saišu telemetrija. Jaunāki meklēšanas piedāvājumi ir mēģinājuši ieviest dažas no šīm uz AI orientētajām koncepcijām, taču tiem trūkst reālās pasaules vides, kas varētu apstiprināt meklēšanas kvalitāti un nodrošināt signāla bagātību, kas nepieciešama ātras uzlabošanas cikliem. Mums ir paveicies būt trūkstošajai sastāvdaļai: tiešsaistes testēšanas poligonam meklēšanas kvalitātei, ko darbina moderni LLM un ko pastāvīgi pārbauda miljoniem ziņkārīgu lietotāju visā pasaulē.

Jaunas kvalitātes un veiktspējas robežas noteikšana

Pēc Perplexity Search API un SDK izveides, lai padarītu mūsu meklēšanas infrastruktūru pieejamu izstrādātājiem visā pasaulē, mēs vēlējāmies saprast, kā dažādi komerciālie API piedāvājumi izskatās reālās pasaules AI lietošanas gadījumos. Ir kļuvis ierasts novērtēt pašus AI modeļus, taču mums bija nepieciešams pavērsiens šajā modelī: novērtēt meklēšanas API kvalitāti, kad tās izsauc AI modeļi.

Vispirms mēs vērsāmies pie atvērtā koda ekosistēmas, lai izprastu iepriekšējo pieredzi. Mēs atradām daudzas galvenās sastāvdaļas stingram novērtējumam, taču ne vienu vienīgu sistēmu, kas integrētu šīs sastāvdaļas gatavā salīdzininga risinājumā. Tāpēc mēs nolēmām izstrādāt novērtēšanas sistēmu, ko varētu izmantot ne tikai Perplexity, bet arī jebkurš pētnieks vai izstrādātājs, kurš vēlas salīdzināt meklēšanas API.

Izmantojot šo novērtēšanas sistēmu, mēs rūpīgi salīdzinājām Perplexity Search API ar citiem piedāvājumiem. Meklēšanas veiktspējas optimizēšana ir sarežģīta, un pastāv daudzas niansētas kompromisi starp kvalitāti un ātrumu. Izstrādātājiem par labu mēs atklājām, ka Perplexity Search API nosaka jaunu jaunāko sasniegumu līmeni gan kvalitātes, gan latentuma ziņā. Izstrādātājiem vairs nav jāizvēlas starp zibenīgi ātras lietojumprogrammas izveidi un augstas kvalitātes rezultātu nodrošināšanu: ar Perplexity viņi var iegūt abus.

Izvērst

Uzticamu novērtējumu izstrāde aģentu meklēšanas darbplūsmām

Mēs sākām ar trīs vadlīniju principu definēšanu mūsu novērtēšanas sistēmai:

Sarežģītības spektrs: novērtēšanas sistēmai ir jāmēra veiktspēja gan vienkāršos, gan sarežģītos AI lietošanas gadījumos.

Neitralitāte: novērtēšanas sistēmai vajadzētu novērtēt visas API vienādos apstākļos.

Vienkāršība: lai gan noteikti lietošanas gadījumi var būt sarežģīti, pašai sistēmai jābūt pēc iespējas vienkāršākai, lai citi varētu to saprast, reproducēt rezultātus un paplašināt sistēmu ar minimālu piepūli.

Mūsu vieglsvara novērtēšanas sistēma search_evals sasniedz šos mērķus, izmantojot vienkāršu modulāru dizainu. Mēs izstrādājām divus AI aģentu rīkus, lai aptvertu gan klasiskos viena šāviena meklēšanas lietošanas gadījumus, gan uzlabotas aģentu darbplūsmas (ko ilustrē dažādi “padziļinātas izpētes” produkti, kas plaši pieejami patērētāju tirgū). Abi rīki tika ieviesti tiešā veidā, atstājot maz vietas slēptām priekšrocībām.

Lai veicinātu mūsu novērtējumus, mēs pieņēmām četrus standartus: SimpleQA un FRAMES viena soļa meklēšanai, kā arī BrowseComp un HLE padziļinātai izpētei. Kopā šie standarti nodrošina labi pieņemtas mērauklas zināšanu aģentiem. Sekojot noteiktajai konvencijai, mēs novērtējam visus standartus, izmantojot to pašu uzvednes klasifikatora metodi, ko izmanto sākotnējā darbā. Precīzas standartu ieviešanas (tostarp vērtētāja loģiku) var pārskatīt mūsu GitHub krātuvē.

Mēs izstrādājām sistēmu, paturot prātā reproducējamību un paplašināmību. Gan uzdevumu līmeņa punkti, gan pamatā esošie aģenta rezultāti tiek saglabāti katrā izpildes reizē. Papildu rīkus, standartus un meklēšanas API piedāvājumus var viegli integrēt. Pētnieki un izstrādātāji var izlasīt mūsu GitHub dokumentāciju, lai uzzinātu vairāk par sistēmas paplašināšanu, lai risinātu jūsu precīzās vajadzības.

Novērtēšanas rezultāti

Bruņojušies ar šo novērtēšanas sistēmu, mēs nolēmām novērtēt mūsu Search API salīdzinājumā ar citiem API piedāvājumiem. Visos testētajos standartos Perplexity ir gan ātrākā, gan augstākās kvalitātes API tirgū.

Izvērst

Mēs atklājām, ka mūsu iepriekš aprakstītie ieguldījumi indeksa, izguves un ranžēšanas efektivitātē atmaksājās ar uzviju. Perplexity mediānas latentums ir 358ms, kas ir vairāk nekā 150ms pirms otrā ātrākā pakalpojumu sniedzēja. 95. procentiles latentums saglabājas ērti zem 800ms. Ņemot vērā mūsdienu moderno modeļu garos TTFT (laiks līdz pirmajam marķierim) rādītājus, katra milisekunde ir svarīga, lai radītu apburošu lietotāju pieredzi. Mēs esam pavadījuši pēdējos divus gadus, optimizējot latentumu saviem lietotājiem, un esam gandarīti, ka šie paši ieguldījumi tagad dos labumu arī izstrādātāju kopienai.

Meklēšanas API latentums

(pieprasījumi iniciēti no AWS us-east-1)

Search API latentuma percentiles pieprasījumiem, kas iniciēti no AWS us-east-1.

* Daudzi meklēšanas API piegādātāji izmanto SERP skrāpēšanu kā pamatu saviem rezultātiem. Lai tvertu šādu pieeju veiktspēju, mēs izmantojam reprezentatīvu Tavily piedāvātu Google SERP balstītu API.

Šī ātruma priekšrocība nav iegūta uz kvalitātes rēķina. Perplexity Search API nodrošina mūsdienīgu veiktspēju gan viena soļa meklēšanas, gan padziļinātas izpētes iestatījumos. Katrā testētajā standartā Perplexity ir līdere augstas kvalitātes rezultātu nodrošināšanā, kas var darbināt dažādas sarežģītības AI darbplūsmas. Atšķirība starp Perplexity un labāko alternatīvu ir īpaši izteikta SimpleQA un HLE, kas norāda, ka šie rezultāti ir stabili visā uzdevumu sarežģītības spektrā.

Izvērst

Tāpat kā latentuma gadījumā, mūsu līderība meklēšanas kvalitātē izriet no mūsu līderības apburošu, augsti apmeklētu AI produktu veidošanā. Mūsu miljoniem lietotāju izmanto Perplexity, lai apmierinātu savu zinātkāri par katru iedomājamo tēmu, un iegūtie kvalitātes un atbilstības signāli ļauj mūsu meklēšanas modeļiem uzlaboties ar katru stundu.

Meklēšanas API kvalitātes standarti

Search API kvalitātes rādītāji vietnē SimpleQA, FRAMES, BrowseComp un HLE.

Mēs joprojām esam AI vietējo meklēšanas dzinēju pirmsākumos, un mērīšanas māksla un zinātne bez šaubām attīstīsies. Mēs aicinām kopienu dot savu ieguldījumu, izstrādājot stingras un radošas metodes meklēšanas dzinēju novērtēšanai AI aģentu laikmetā.

AI nākamās nodaļas pamatelements

Aģentu sistēmu un viedo palīgu nākotne būs atkarīga no bagātīgu programmatūras saskarņu pieejamības pasaules kolektīvajās zināšanās. Mūsdienu mantotie meklēšanas dzinēji ir sasnieguši lietojuma piesātinājumu ar aptuveni 10¹⁰ vaicājumiem dienā – rādītāju, kas droši vien ir sasniedzis maksimumu. Nākamās paaudzes meklēšanas un izguves sistēmas apkalpos vairākas reizes lielāku pieprasījumu skaitu, jo arvien augošais AI aģentu visums paļaujas uz tām, lai iegūtu precīzu reāllaika informāciju.

Mūsu līdzšinējie centieni ir pozicionējuši mūs kā ātrāko, visveiktspējīgāko meklēšanas dzinēju, kas pieejams, izmantojot API. Taču būs nepieciešamas vēl ambiciozākas inovācijas, lai mēs varētu veicināt AI nākamo nodaļu. Kā mēs efektīvi mērogojam šīs sistēmas, saskaroties ar arvien pieaugošo pieprasījumu? Kā šīs meklēšanas sistēmas var tikt optimizētas, ņemot vērā jaunas pieejas konteksta inženierijai un pēcapmācībai? Un kā mēs orientējamies vienmēr klātesošajā pretrunā starp visaptverošumu, jaunumu un latentumu? Šie ir atklāti jautājumi, kuru risināšanai Perplexity ar mūsu produktu pēdas nospieduma, mēroga un tehniskā talanta kombināciju ir unikālā pozīcijā.

Citāts

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}