Arhitectura și evaluarea unui API de căutare axat pe AI

Construiți un API de căutare scalabil care gestionează 200 de milioane de interogări zilnice utilizând regăsirea hibridă și curatarea inteligentă a contextului pentru modelele AI

AutoriPerplexity Research

Crearea unui API de căutare scalabil și orientat spre inteligență artificială prezintă provocări de cercetare unice la intersecția dintre regăsirea informațiilor, inteligența artificială și proiectarea sistemelor. Spre deosebire de serviciile tradiționale care operează cu date delimitate, un API de căutare trebuie să indexeze continuu miliarde de documente, să înțeleagă intenția din spatele interogărilor în mai multe limbi și domenii și să afișeze rezultate relevante în milisecunde. Într-o lume a agenților de inteligență artificială, un API de căutare trebuie, de asemenea, să gestioneze cu atenție contextul oferit modelelor dezvoltatorilor pentru a asigura o performanță optimă a acestor modele și încorporarea de informații extrem de precise. Ingineria eficientă a contextului impune ca API-ul nu doar să surprindă relevanța la nivelul documentului, ci să trateze secțiunile individuale și segmentele documentelor ca unități de prim rang în sine.

În acest articol, prezentăm proiectarea și evaluarea Perplexity Search API. Mai întâi, explorăm arhitectura și deciziile tehnice cheie din spatele infrastructurii noastre de căutare de producție care procesează 200 de milioane de interogări zilnice. Arhitectura noastră combină mecanisme de regăsire hibridă, conducte de clasificare în mai multe etape, indexare distribuită și analiză dinamică printr-un modul de înțelegere a conținutului cu auto-perfecționare.

Descriem apoi abordarea noastră privind evaluarea empirică a performanței API-ului de căutare prin intermediul unui cadru de evaluare nou lansat cu sursă deschisă. Prin evaluări comparative cuprinzătoare alături de API-urile comerciale existente, demonstrăm performanțe de nivel avansat atât în ceea ce privește calitatea, cât și latența. Perplexity Search API este disponibil pentru dezvoltatorii din întreaga lume începând de astăzi.

[Găsiți search_evals pe GitHub]

Crearea unui sistem de căutare optimizat pentru modelele de inteligență artificială

Încă de la fondarea noastră, am înțeles că funcționalitățile robuste de căutare vor fi esențiale pentru a asigura produsele bazate pe inteligență artificială care definesc această categorie și pe care ne-am dorit să le lansăm. Inițial, am sperat că aceste capabilități există deja într-o formă disponibilă publicului. Am experimentat portofoliul de API-uri de căutare disponibile la sfârșitul anului 2022, iar prima versiune a motorului de răspuns Perplexity a încorporat de fapt unele dintre aceste oferte. Mai exact, analizam interogările utilizatorilor, formulam și trimiteam cereri către aceste API-uri și colectam rezultatele drept context pentru conducta noastră de generare ulterioară.

Cu toate acestea, pe măsură ce utilizatorii au migrat spre Perplexity, ne-am dat seama rapid că aceste API-uri nu vor putea crește odată cu dezvoltarea noastră. Prețurile pe care le-am întâlnit au fost exorbitante, un furnizor de API de top taxând 200 USD per mie de interogări. Dar, cel mai grav, aceste API-uri vechi pur și simplu nu au fost concepute pentru noile paradigme de regăsire introduse de sistemele AI de frontieră.

Una dintre primele versiuni ale motorului de răspuns Perplexity.

Pentru început, formatele de cerere și răspuns ale acestor API-uri vechi au fost concepute pentru o lume în care oamenii ar fi consumatorii exclusivi ai rezultatelor căutării. Drept urmare, aceste API-uri au acordat prioritate rezultatelor la nivel de document, excluzând informațiile mai detaliate dezvăluite de unitățile sub-document. Succesul unui model de inteligență artificială depinde de calitatea și compactitatea contextului furnizat, și am văzut direct cum o regăsire prea largă poate deraia modelele de inteligență artificială, indiferent cât de relevante ar părea documentele regăsite în ansamblu. Încercările noastre de a impune precizie unor rezultate imprecise au avut un succes limitat.

Am observat, de asemenea, că API-urile vechi erau fie prea învechite, fie prea lente. API-urile de căutare dezvoltate independent se bazau pe indexuri incomplete și actualizate prea rar. API-urile bazate pe extragere de date, cum ar fi diferitele API-uri SERP neoficiale pentru Google Search, au beneficiat de un index mai cuprinzător, dar au oferit o latență inacceptabil de mare din cauza ineficienței inerente interogării unui motor de căutare terț. Latența ridicată a făcut ca API-urile să fie nepotrivite pentru aplicațiile destinate utilizatorilor, în timp ce învechirea a făcut ca seturile de rezultate să fie inutilizabile pentru orice sistem AI care speră să fie precis și de încredere.

În cele din urmă, am observat bifurcarea ecosistemului de inteligență artificială între căutarea lexicală și căutarea semantică, apărând sisteme care erau supra-optimizate pentru o modalitate în detrimentul celeilalte. Am asistat la ascensiunea bazelor de date vectoriale care nu puteau sprijini în mod adecvat nici mărcile simple cu operatori booleeni. Backendurile de căutare tradiționale s-au descurcat puțin mai bine, având un suport primitiv pentru oportunitățile de clasificare și regăsire semantică deblocate de inteligența artificială.

Pe măsură ce ne-am dat seama că îmbunătățirea suplimentară a Perplexity va necesita construirea propriei noastre infrastructuri de căutare dedicate, am sintetizat observațiile noastre în trei criterii esențiale:

Completitudine, prospețime și viteză: indexul de căutare trebuie să fie cuprinzător, actualizat în permanență și proiectat pentru o latență în timp real.

Înțelegerea detaliată a conținutului: fragilitatea modelului AI și ferestrele de context limitate impun ca rezultatele căutării să fie prezentate și clasificate la cel mai detaliat nivel posibil.

Regăsire și clasificare hibridă: atât conductele de regăsire, cât și cele de clasificare trebuie să încorporeze semnale lexicale și semantice pentru ca rezultatele să fie utile pentru inteligența artificială.

Perplexity astăzi, susținut de infrastructura noastră de căutare la scară internet, disponibilă acum prin Perplexity Search API.

Infrastructură de mapare și indexare

Operarea la scara Perplexity necesită o infrastructură care poate cartografia în mod cuprinzător web-ul și poate răspunde la evoluția sa constantă. Indexul nostru de căutare urmărește peste 200 de miliarde de URL-uri unice, având capacitatea de a urmări alte câteva sute de miliarde în plus.

Asigurarea faptului că indexul nostru acoperă o parte suficient de cuprinzătoare a internetului și că fiecare document reflectă cea mai recentă stare este o performanță dificilă. Există o tensiune inerentă între completitudine și prospețime: pentru un buget de indexare fix, operațiunile de reîmprospătare pentru paginile existente trebuie să concureze cu operațiunile de indexare pentru paginile noi care nu au fost vizitate. Echilibrăm această tensiune printr-o combinație de scalare (care relaxează constrângerea de optimizare prin creșterea bugetului de indexare) și prioritizare bazată pe învățare automată (care asigură că fiecare operațiune de indexare aduce valoare maximă indexului în ansamblu).

Am construit un aparat de mapare și indexare la scară de exabyte, care se scalează orizontal atât în funcție de dimensiune, cât și de volumul interogărilor. Echipele de mapare și indexare ale Perplexity cuprind în mod colectiv zeci de mii de procesoare și sute de terabiți de RAM, cu o marjă considerabilă pentru extinderea ulterioară. Combinăm această infrastructură de calcul cu un echilibru între stocarea la rece și la cald. Folosim atât modele învățate, cât și euristici optimizate pentru a stabili ce documente ar trebui păstrate active, prioritizând documentele din domenii autoritare, documentele referitoare la subiecte mai puțin acoperite și alte categorii cu potențial uriaș de a îmbogăți indexul nostru.

Această infrastructură permite Perplexity să proceseze zeci de mii de operațiuni de indexare pe secundă. Dar chiar și cu acest buget relativ generos, amploarea internetului este mult prea vastă pentru a indexa fiecare URL în mod frecvent și recurent. Aici intervine învățarea automată. Antrenăm un model de învățare automată pentru a prezice dacă un anumit URL candidat trebuie indexat. Obiectivul de antrenament este conceput astfel încât să ne asigurăm că calibrăm decizia de indexare în funcție de importanța și frecvența probabilă de actualizare a URL-ului specific. Ne bazăm, de asemenea, pe învățarea automată pentru a ne spune exact când să programăm operațiunea de indexare. Pentru site-urile cu ritmuri de publicare și reîmprospătare de rutină, acest lucru ne permite să amânăm operațiunile până în momentul în care este probabil să fie cele mai utile. Prin rafinarea continuă a acestor modele de învățare automată, reușim să menținem un index care îndeplinește standardele atât în ceea ce privește completitudinea, cât și prospețimea.

Deși infrastructura noastră de mapare se scalează cu ușurință pe orizontală, suntem conștienți de faptul că operatorii de site-uri web se confruntă cu constrângeri tehnice diferite. Aveți grijă să menținem o rată previzibilă și gestionabilă de cereri către un anumit domeniu. PerplexityBot, programul nostru de mapare pentru căutare, respectă limitele explicite stabilite în fișierele robots.txt sau, în absența unor limite specificate de domeniu, normele standard din industrie privind ratele de cerere. De asemenea, ne ajustăm comportamentul de mapare atunci când detectăm indisponibilitatea site-ului. Sistemul nostru distribuit este arhitecturat pentru a impune aceste limite chiar și în cazul a zeci de mii de operațiuni simultane.

Înțelegerea conținutului cu auto-perfecționare la scară internet

Chiar și cu unul dintre cele mai mari și mai proaspete indexuri de căutare de pe planetă, calitatea rezultatelor pentru fiecare interogare depinde de înțelegerea pe care sistemul o are asupra conținutului fiecărui document. Aici ne confruntăm cu o provocare fundamentală: internetul este un mediu haotic. Nicio serie fixă de reguli de analiză gramaticală nu poate face față varietății infinite de machete, structuri și stiluri găsite pe întregul internet.

Am rezolvat această provocare dezvoltând un modul de înțelegere a conținutului care analizează site-urile web și extrage conținut cu sens semantic utilizând seturi de reguli dinamice. Un site web bogat în date bine structurate sub formă de liste sau tabele poate beneficia de reguli de analiză și extracție mai formulice, în timp ce un alt site web care conține în principal conținut generat de utilizatori în format liber poate necesita un set de reguli mai flexibil. Deoarece internetul este în mare parte static pe perioade scurte de timp, observăm că durata de viață a unei anumite reguli este relativ lungă. Dar pe măsură ce site-urile evoluează în timp și pe măsură ce aflăm mai multe despre cele mai bune modalități de extragere a informațiilor, seturile noastre de reguli necesită, de asemenea, o întreținere continuă.

Pentru a facilita această adaptare dinamică, apelăm (bineînțeles) la inteligența artificială. La scara Perplexity, observăm o secțiune transversală incredibil de bogată a web-ului în cursul procesării a milioane de interogări ale utilizatorilor în fiecare oră. Aceasta formează baza pentru o buclă iterativă de auto-perfecționare. Observăm comportamentul de analiză și rezultatele extrase ale seturilor noastre de reguli actuale în universul nostru de interogări. Folosim apoi modele lingvistice mari de frontieră pentru a evalua performanța în funcție de două dimensiuni principale:

Completitudine: indexul nostru ar trebui să primească cât mai mult conținut cu sens semantic posibil, evitând în același timp extragerea nefondată de materiale neinformative sau absurde.

Calitate: indexul nostru se bazează pe conținut de înaltă calitate atât ca fond, cât și ca formă. Informațiile ar trebui capturate într-o manieră care să păstreze structura și macheta conținutului original.

Rețineți că completitudinea și calitatea prezintă o altă tensiune inerentă: optimizarea manuală pentru calitate este posibilă, dar regulile de analiză rezultate pot eșua în a surprinde conținutul esențial. În mod similar, am putea coda manual reguli permisive care aplică o filtrare minimă asupra conținutului brut, ceea ce ar putea îmbunătăți completitudinea, dar în detrimentul calității. Din acest motiv apelăm la auto-perfecționarea condusă de inteligența artificială pentru a ne dezvolta setul de reguli într-un mod care să poată optimiza ambele aspecte simultan, într-o manieră adaptivă la domeniu.

În mod concret, după fiecare evaluare a performanței de analiză condusă de un model lingvistic mare, sistemul nostru formulează un set de modificări propuse ale setului de reguli pentru a aborda cele mai semnificative clase de erori. Aceste seturi de reguli sunt supuse unei validări suplimentare, după care implementăm noua versiune în indexatorul nostru. Având în vedere că îmbunătățirile aduse logicii de analiză și extracție pot aduce beneficii doar operațiunilor viitoare de indexare, investițiile noastre în reindexarea optimizată prin învățare automată sunt deosebit de importante: reîmprospătarea continuă a documentelor cu trafic ridicat folosind cea mai recentă versiune a acestei logici asigură o buclă strânsă de auto-perfecționare.

Aceste reguli contează nu doar pentru performanța de bază a analizei, ci și pentru segmentarea în unități sub-document. Când vine vorba de modele lingvistice mari de frontieră, fiecare token de context este prețios. O gamă largă de lucrări anterioare a documentat modul în care performanța modelelor lingvistice mari scade odată cu creșterea dimensiunii contextului și poluarea contextului cu informații irelevante. O analiză bine structurată și cuprinzătoare ne permite să descompunem documentele în segmente independente, fiecare putând fi regăsit și clasificat în mod individual în momentul interogării.

Conductă de regăsire și clasificare

Căutarea modernă necesită asigurarea atât a completitudinii, cât și a relevanței sub o constrângere strictă de latență. Conducta de regăsire și clasificare a Perplexity realizează acest lucru printr-o arhitectură în mai multe etape care rafinează progresiv rezultatele printr-o serie de module din ce în ce mai sofisticate. Găsim soluții pentru potențialele blocaje prin scalarea orizontală a oricăror puncte critice potențiale la scară maximă.

Conducta începe cu regăsirea din indexul nostru. Nu impunem o alegere între regăsirea lexicală și cea semantică. Mai degrabă, interogăm indexul de căutare prin ambele modalități și contopim rezultatele într-un set de candidați hibrid. În această etapă, prioritatea este cuprinderea în detrimentul preciziei - etapele ulterioare ale conductei vor optimiza pentru precizie.

Conducta continuă cu etape de pre-filtrare, în care aplicăm euristicile de bază și filtrele primare pentru a elimina din setul de candidați conținutul care nu răspunde în mod clar cerințelor sau care este învechit.

Utilizăm apoi mai multe etape de clasificare progresiv avansate. Etapele anterioare se bazează pe scorere lexicale și bazate pe încorporări, optimizate pentru viteză. Pe măsură ce setul de candidați este redus treptat, folosim modele de re-clasificare cross-encoder mai puternice pentru a efectua sculptarea finală a setului de rezultate. Datorită numeroaselor noastre investiții în performanța inferenței, suntem capabili să valorificăm arhitecturi de modele de ultimă generație pentru aceste etape ulterioare, menținând în același timp o latență generală scăzută a clasificării.

Pe parcursul acestei conducte, regăsim și punctăm rezultatele atât la nivel de document, cât și la nivel de sub-document. Așa cum s-a discutat mai sus, inteligența artificială necesită o inginerie atentă a contextului. Conducta noastră este concepută pentru a scoate la suprafață cele mai atomice unități posibile pentru model, astfel încât consumatorii din aval să poată încorpora acele unități precise fără a atrage un context irelevant din altă parte a documentelor sursă.

Asigurarea unei calități ridicate în fiecare etapă a acestei conducte este posibilă doar prin co-proiectare cu portofoliul de produse al Perplexity. Fiecare detaliu al stivei de clasificare este conceput pentru a valorifica semnalul bogat produs de cele câteva milioane de cereri ale utilizatorilor pe care le procesăm în fiecare oră a zilei. Marea majoritate a acestui semnal este automată, fiecare răspuns generat de Perplexity oferind un punct de date empiric privind calitatea căutării, așa cum este utilizat într-un flux de lucru agentic live. Combinăm evaluările conduse de inteligența artificială cu feedback-ul uman live pentru a îmbogăți datele de antrenament pentru modelele noastre de încorporare și clasificare mult dincolo de ceea ce poate oferi orice set de date construit manual.

Această sinergie între căutare și produs este unică pentru Perplexity. Motoarele de căutare vechi sunt limitate la semnalul brut furnizat de telemetria cu link-uri albastre. Ofertele de căutare mai noi au încercat să implementeze unele dintre aceste concepte orientate spre inteligența artificială, dar le lipsesc medii din lumea reală care să poată valida calitatea căutării și să ofere bogăția de semnal necesară pentru bucle de îmbunătățire rapidă. Suntem norocoși să avem ingredientul lipsă: un teren de testare live pentru calitatea căutării, susținut de modele lingvistice mari de frontieră și testat continuu în bătălie de milioane de utilizatori curioși din întreaga lume.

Stabilirea unei noi frontiere pentru calitate și performanță

După ce am construit Perplexity Search API și SDK pentru a face infrastructura noastră de căutare disponibilă dezvoltatorilor din întreaga lume, am dorit să înțelegem cum s-au comportat diferitele oferte de API comerciale în cazurile de utilizare a inteligenței artificiale din lumea reală. A devenit o obișnuință să evaluăm modelele de inteligență artificială în sine, dar aveam nevoie de o altă perspectivă asupra acestui șablon: să evaluăm calitatea API-urilor de căutare atunci când sunt apelate de modelele de inteligență artificială.

Am căutat mai întâi în ecosistemul open-source pentru a înțelege stadiul actual al tehnologiei. Am găsit multe dintre ingredientele cheie pentru o evaluare riguroasă, dar niciun cadru care să integreze aceste ingrediente într-o soluție de evaluare comparativă de tip plug-and-play. Ne-am propus așadar să dezvoltăm un cadru de evaluare care să poată fi utilizat nu doar de Perplexity, ci de orice cercetător sau dezvoltator care dorește să evalueze comparativ API-urile de căutare.

Folosind acest cadru de evaluare, am evaluat riguros Perplexity Search API alături de alte oferte. Optimizarea performanței de căutare este complexă, implicând multe compromisuri nuanțate între calitate și viteză. Într-o victorie pentru dezvoltatori, am constatat că Perplexity Search API stabilește un nou standard de referință atât pentru calitate, cât și pentru latență. Dezvoltatorii nu mai trebuie să aleagă între crearea de aplicații extrem de rapide și asigurarea unor rezultate de înaltă calitate: cu Perplexity, le pot avea pe amândouă.

Calitatea căutării versus latența pe SimpleQA, FRAMES, BrowseComp și HLE.

Proiectarea unor evaluări fiabile pentru fluxuri de lucru de căutare agentice

Am început prin a defini trei principii directoare pentru cadrul nostru de evaluare:

Spectru de complexitate: cadrul de evaluare ar trebui să măsoare performanța atât în cazurile de utilizare AI agentice simple, cât și complexe.

Neutralitate: cadrul de evaluare ar trebui să evalueze toate API-urile în condiții egale.

Simplitate: deși anumite cazuri de utilizare pot fi complexe, cadrul în sine ar trebui să fie cât mai simplu posibil, astfel încât alții să îl poată înțelege, să poată reproduce rezultatele și să poată extinde cadrul cu o oboseală minimă.

Cadrul nostru de evaluare ușor, search_evals, atinge aceste obiective printr-un design modular simplu. Am dezvoltat două sisteme de agenți AI pentru a capta atât cazurile de utilizare clasice de căutare unică, cât și fluxurile de lucru agentice avansate (exemplificate de diverse produse de „Cercetare aprofundată” disponibile pe scară largă pe piața de consum). Ambele sisteme au fost implementate într-o manieră simplă care lasă puțin loc pentru avantaje ascunse.

Pentru a ne impulsiona evaluările, am adoptat patru repere de referință: SimpleQA și FRAMES pentru căutarea dintr-un singur pas, împreună cu BrowseComp și HLE pentru Cercetare aprofundată. În mod colectiv, aceste repere oferă etaloane bine acceptate pentru agenții de cunoaștere. Urmărind convenția stabilită, notăm toate reperele utilizând aceeași metodologie de clasificare promptă utilizată în lucrarea originală. Implementările precise ale reperelor (inclusiv logica de notare) pot fi examinate în depozitul nostru GitHub.

Am conceput cadrul având în vedere reproductibilitatea și extensibilitatea. Atât scorurile la nivel de sarcină, cât și rezultatele subiacente ale agenților sunt stocate la fiecare rulare. Sisteme suplimentare, repere și oferte de API de căutare pot fi integrate cu ușurință. Cercetătorii și dezvoltatorii pot citi documentația GitHub pentru mai multe informații despre extinderea cadrului pentru a răspunde nevoilor dumneavoastră exacte.

Rezultatele evaluării

Înarmați cu acest cadru de evaluare, ne-am propus să evaluăm Search API în comparație cu alte oferte de API. În toate reperele testate, Perplexity se remarcă drept cel mai rapid și cel mai calitativ API de pe piață.

Latența interogărilor la percentilele p50, p75 și p95 pentru toți furnizorii de căutare.

Am constatat că investițiile noastre descrise mai sus în eficiența indexului, a regăsirii și a clasificării au dat roade din plin. Latența mediană a Perplexity se situează la 358 ms, cu peste 150 ms înaintea celui de-al doilea cel mai rapid furnizor. Latența la percentila 95 rămâne confortabil sub 800 ms. Având în metricele lungi de timp până la primul token (TTFT) ale modelelor de frontieră de astăzi, fiecare milisecundă contează în crearea unor experiențe încântătoare pentru utilizatori. Am petrecut ultimii doi ani optimizând latența pentru propriii noștri utilizatori și suntem încântați că aceleași investiții vor aduce acum beneficii și comunității de dezvoltatori.

Latența API-ului de căutare

(cereri inițiate din AWS us-east-1)

p50

p75

p90

p95

Perplexity

358ms

443ms

604ms

763ms

Exa

1375ms

1499ms

1798ms

2188ms

Brave

513ms

637ms

728ms

808ms

Bazat pe SERP*

1342ms

1586ms

1743ms

1790ms

Percentilele de latență ale API-ului de căutare pentru cereri inițiate din AWS us-east-1.

* Mulți furnizori de API-uri de căutare utilizează extragerea de date SERP ca bază pentru rezultatele lor. Pentru a capta performanța unor astfel de abordări, folosim un API reprezentativ bazat pe Google SERP oferit de Tavily.

Acest avantaj de viteză nu vine în detrimentul calității. Perplexity Search API oferă performanțe de ultimă generație atât în setările de căutare unică, cât și în cele de Cercetare aprofundată. Pe fiecare reper testat, Perplexity este lider în furnizarea de rezultate de înaltă calitate care pot alimenta fluxuri de lucru AI de complexitate variată. Marja dintre Perplexity și cea mai bună alternativă este deosebit de pronunțată pe SimpleQA și HLE, ceea ce indică faptul că aceste rezultate sunt robuste pe întregul spectru de complexitate a sarcinilor.

Scorurile de calitate ale căutării pe benchmarkurile de căutare într-un singur pas SimpleQA și FRAMES și pe benchmarkurile de cercetare aprofundată BrowseComp și HLE.

La fel ca în cazul latenței, leadership-ul nostru în calitatea căutării decurge din leadership-ul nostru în crearea de produse de inteligență artificială încântătoare și foarte accesate. Milioanele noastre de utilizatori folosesc Perplexity pentru a-și satisface curiozitatea cu privire la orice subiect imaginabil, iar semnalele rezultate de calitate și relevanță permit modelelor noastre de căutare să se îmbunătățească cu fiecare oră care trece.

Repere de calitate ale API-ului de căutare

Căutare unică

Cercetare aprofundată

SimpleQA

FRAMES

BrowseComp

HLE

Perplexity

.930

.453

.371

.288

Exa

.781

.399

.265

.242

Brave

.822

.320

.221

.191

Bazat pe SERP*

.890

.437

.348

.248

Scorurile de calitate ale API-ului de căutare pe SimpleQA, FRAMES, BrowseComp și HLE.

Suntem încă la începuturile motoarelor de căutare native pentru inteligența artificială, iar arta și știința măsurării vor evolua cu siguranță. Invităm comunitatea să contribuie prin dezvoltarea unor metode riguroase și creative de evaluare a motoarelor de căutare în era agenților de inteligență artificială.

Blocul de construcție pentru următorul capitol al inteligenței artificiale

Viitorul sistemelor agentice și al asistenților inteligenți va depinde de disponibilitatea unor interfețe programatice bogate în cunoștințele colective ale lumii. Motoarele de căutare vechi de astăzi și-au atins saturația în utilizare la aproximativ 10¹⁰ interogări pe zi, o cifră care probabil și-a atins vârful. Următoarea generație de sisteme de căutare și regăsire va deservi ordine de mărime mai multe cereri, pe măsură ce un univers în continuă creștere de agenți AI se bazează pe acestea pentru a obține informații precise în timp real.

Eforturile noastre de până acum ne-au poziționat ca cel mai rapid și mai performant motor de căutare accesibil prin API. Dar va fi nevoie de inovații și mai ambițioase pentru ca noi să alimentăm următorul capitol al inteligenței artificiale. Cum putem scala eficient aceste sisteme în fața cererii în continuă creștere? Cum pot fi optimizate aceste sisteme de căutare în lumina noilor abordări ale ingineriei contextului și ale post-antrenamentului? Și cum navigăm prin tensiunea mereu prezentă dintre completitudine, actualitate și latență? Acestea sunt întrebări deschise pe care Perplexity, prin combinația noastră de prezență a produselor, amploare și talent tehnic, este poziționată în mod unic să le abordeze.

Citare

BibTeX
@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}