Architecting en evalueren van een AI-first Search API

Het bouwen van een schaalbare Search API die 200 miljoen dagelijkse zoekopdrachten verwerkt met hybride ontsluiting en intelligente contextcuratie voor AI-modellen

AuteursPerplexity Research

Het bouwen van een schaalbare, AI-gerichte Search API biedt unieke onderzoeksuitdagingen op het snijvlak van informatie-ontsluiting, AI en systeemontwerp. In tegenstelling tot traditionele diensten die werken met afgebakende gegevens, moet een search API voortdurend miljarden documenten indexeren, de intentie van zoekopdrachten begrijpen in verschillende talen en domeinen, en binnen milliseconden relevante resultaten presenteren. In een wereld van AI-agenten moet een search API ook zorgvuldig de context beheren die aan de modellen van ontwikkelaars wordt verstrekt, om te waarborgen dat deze modellen optimaal presteren en de meest nauwkeurige informatie bevatten. Effectieve context engineering vereist dat de API niet alleen relevantie op documentniveau vastlegt, maar ook individuele secties en delen van documenten als op zichzelf staande eenheden behandelt.

In dit artikel presenteren we het ontwerp en de evaluatie van de Perplexity Search API. We onderzoeken eerst de architectuur en de belangrijkste technische beslissingen achter onze productie-zoekinfrastructuur, die 200 miljoen zoekopdrachten per dag verwerkt. Onze architectuur combineert hybride ontsluitingsmechanismen, ranking-pijplijnen met meerdere fasen, gedistribueerde indexering en dynamische parsing via een zelfverbeterende module voor inhoudsbegrip.

Vervolgens beschrijven we onze aanpak voor het empirisch evalueren van de prestaties van de search API via een nieuw open-source evaluatiekader. Door middel van uitgebreide benchmarking naast bestaande commerciële API's tonen we toonaangevende prestaties aan op het gebied van zowel kwaliteit als latentie. De Perplexity Search API is vanaf vandaag beschikbaar voor ontwikkelaars wereldwijd.

[Vind search_evals op GitHub]

Het bouwen van een zoeksysteem geoptimaliseerd voor AI-modellen

Sinds onze oprichting begrepen we dat robuuste zoekmogelijkheden essentieel zouden zijn om de categoriebepalende AI-producten mogelijk te maken die we wilden uitbrengen. Oorspronkelijk hoopten we dat deze mogelijkheden al bestonden in een publiek beschikbare vorm. We experimenteerden met het portfolio van search API's dat eind 2022 beschikbaar was, en de allereerste versie van Perplexity's antwoordmachine bevatte inderdaad enkele van deze aanbiedingen. Concreet analyseerden we gebruikersvragen, formuleerden en verzonden verzoeken aan deze API's, en verzamelden we de resultaten als context voor onze downstream generatie-pijplijn.

Echter, naarmate gebruikers naar Perplexity stroomden, realiseerden we ons snel dat deze API's niet zouden meeschalen met onze groei. De prijzen die we tegenkwamen waren exorbitant, waarbij één toonaangevende API-aanbieder $200 per duizend zoekopdrachten rekende. Maar nog crucialer was dat deze legacy API's simpelweg niet waren ontworpen voor de nieuwe ontsluitingsparadigma's die door frontier AI-systemen werden geïntroduceerd.

Een van de vroegste versies van Perplexity's antwoordmachine.

Om te beginnen waren de verzoek- en antwoordformaten van deze legacy API's ontworpen voor een wereld waarin mensen de exclusieve consumenten van zoekresultaten zouden zijn. Als gevolg daarvan gaven deze API's voorrang aan resultaten op documentniveau, ten koste van meer fijnmazige informatie die door sub-documenteenheden werd onthuld. Het succes van een AI-model hangt af van de kwaliteit en compactheid van de verstrekte context, en we zagen uit de eerste hand hoe te brede ontsluiting AI-modellen kon ontsporen, ongeacht hoe relevant de opgehaalde documenten in hun geheel ook leken. Onze pogingen om precisie in onnauwkeurige resultaten te dwingen hadden slechts beperkt succes.

We merkten ook op dat de legacy API's ofwel te verouderd ofwel te traag waren. Onafhankelijk ontwikkelde search API's vertrouwden op indexen die onvolledig waren en te zelden werden bijgewerkt. Op scraping gebaseerde API's, zoals de diverse onofficiële SERP API's voor Google Search, profiteerden van een uitgebreidere index, maar boden een onacceptabel hoge latentie vanwege de inherente inefficiëntie van het bevragen van een zoekmachine van derden. Hoge latentie maakte API's ongeschikt voor toepassingen voor eindgebruikers, terwijl veroudering de resultaatsets onbruikbaar maakte voor elk AI-systeem dat accuraat en betrouwbaar wilde zijn.

Ten slotte zagen we dat het AI-ecosysteem uiteenviel tussen lexicaal zoeken en semantisch zoeken, waarbij systemen ontstonden die overgeoptimaliseerd waren voor de ene modaliteit boven de andere. We zagen de opkomst van vectordatabases die zelfs eenvoudige booleaanse filters niet adequaat konden ondersteunen. Traditionele zoekbackends deden het nauwelijks beter, met primitieve ondersteuning voor de mogelijkheden van semantische ranking en ontsluiting die door AI werden ontsloten.

Toen we ons realiseerden dat het nog beter maken van Perplexity het bouwen van onze eigen toegewijde zoekinfrastructuur vereiste, destilleerden we onze observaties tot drie kerncriteria:

Volledigheid, actualiteit en snelheid: de zoekindex moet alomvattend, voortdurend bijgewerkt en ontworpen zijn voor realtime latentie.

Fijnmazig inhoudsbegrip: de broosheid van AI-modellen en beperkte contextvensters vereisen dat zoekresultaten op het meest granulaire niveau mogelijk worden gepresenteerd en gerankt.

Hybride ontsluiting en ranking: zowel de ontsluitings- als de ranking-pijplijnen moeten lexicale en semantische signalen bevatten zodat de resultaten nuttig zijn voor AI.

Perplexity vandaag, aangedreven door onze internet-schaal zoekinfrastructuur, nu beschikbaar via Perplexity Search API.

Crawling- en indexeringsinfrastructuur

Opereren op de schaal van Perplexity vereist een infrastructuur die het web alomvattend in kaart kan brengen en kan reageren op de voortdurende evolutie ervan. Onze zoekindex volgt meer dan 200 miljard unieke URL's, met de capaciteit om nog vele honderden miljarden meer te volgen.

Het waarborgen dat onze index een voldoende uitgebreid deel van het internet beslaat en dat elk document de nieuwste status weerspiegelt, is een moeilijke prestatie. Er bestaat een inherente spanning tussen volledigheid en actualiteit: voor een vast indexeringsbudget moeten verversingsoperaties voor bestaande pagina's concurreren met indexeringsoperaties voor nieuwe, niet-bezochte pagina's. We balanceren deze spanning door een combinatie van schaling (die de optimalisatiebeperking versoepelt door het indexeringsbudget te vergroten) en ML-gestuurde prioritering (die waarborgt dat elke indexeringsoperatie maximaal waardevol is voor de index als geheel).

We hebben een index en crawling-apparaat op exabyte-schaal gebouwd dat horizontaal schaalt met zowel omvang als zoekvolume. De crawler- en indexeringsvloten van Perplexity bestaan gezamenlijk uit tienduizenden CPU's en honderden terabytes aan RAM, met aanzienlijke speelruimte voor verdere schaling. We combineren deze rekeninfrastructuur met een balans tussen koude en warme opslag. We gebruiken zowel geleerde modellen als getunede heuristieken om te bepalen welke documenten 'hot' gehouden moeten worden, waarbij voorrang wordt gegeven aan documenten van gezaghebbende domeinen, documenten over onderbelichte onderwerpen en andere categorieën met een buitengewoon potentieel om onze index te verrijken.

Deze infrastructuur stelt Perplexity in staat om tienduizenden indexeringsoperaties per seconde te verwerken. Maar zelfs met dit relatief genereuze budget is de schaal van het internet veel te groot om elke URL op een frequente en terugkerende basis te indexeren. Dit is waar ML om de hoek komt kijken. We trainen een ML-model om te voorspellen of een bepaalde kandidaat-URL moet worden geïndexeerd. Het trainingsdoel is opgesteld om te waarborgen dat we onze indexeringsbeslissing kalibreren op zowel het belang als de waarschijnlijke updatefrequentie van de specifieke URL. We vertrouwen ook op ML om ons precies te vertellen wanneer we de indexeringsoperatie moeten plannen. Voor sites met routinematige publicatie- en verversingsritmes stelt dit ons in staat om operaties uit te stellen tot het punt waarop ze waarschijnlijk het meest nuttig zullen zijn. Door voortdurende verfijning van deze ML-modellen zijn we in staat om een index te onderhouden die voldoet aan de norm voor zowel volledigheid als actualiteit.

Hoewel onze crawling-infrastructuur eenvoudig horizontaal schaalt, zijn we ons ervan bewust dat website-exploitanten met verschillende technische beperkingen te maken hebben. We zijn voorzichtig met het handhaven van een voorspelbare en beheerbare snelheid van verzoeken aan elk willekeurig domein. PerplexityBot, onze zoek-crawler, voldoet aan expliciete limieten in robots.txt-bestanden, of bij afwezigheid van domeinspecifieke limieten aan industriestandaardnormen betreffende verzoeksnelheden. We passen ons crawling-gedrag ook aan wanneer we site-onbeschikbaarheid detecteren. Ons gedistribueerde systeem is zo ontworpen dat deze limieten zelfs bij tienduizenden gelijktijdige operaties worden afgedwongen.

Zelfverbeterend inhoudsbegrip op internetschaal

Zelfs met een van de grootste en meest actuele zoekindexen ter wereld hangt de resultaatkwaliteit van elke zoekopdracht af van het begrip van ons systeem van de inhoud van elk document. Hier staan we voor een fundamentele uitdaging: het web is een rommelige plek. Geen enkele vaste set parseerregels kan de oneindige variëteit aan lay-outs, structuren en stijlen op het gehele internet aan.

We hebben deze uitdaging opgelost door een module voor inhoudsbegrip te ontwikkelen die websites ontleedt en semantisch betekenisvolle inhoud extraheert met behulp van dynamische regelsets. Een website met veel goed gestructureerde gegevens in lijst- of tabelvorm kan profiteren van meer formulaïsche parseer- en extractieregels, terwijl een andere website die voornamelijk vrije, door gebruikers gegenereerde inhoud bevat, een lossere regelset vereist. Omdat het web voor het grootste deel statisch is over korte tijdsbestekken, merken we dat de levensduur van een bepaalde regel relatief lang is. Maar naarmate sites in de loop van de tijd evolueren en we meer leren over de beste manieren om informatie te extraheren, vereisen onze regelsets ook voortdurend onderhoud.

Om deze dynamische aanpassing te vergemakkelijken, wenden we ons (natuurlijk) tot AI. Op de schaal van Perplexity observeren we een ongelooflijk rijke dwarsdoorsnede van het web tijdens het bedienen van miljoenen gebruikersvragen per uur. Dit vormt de basis voor een iteratieve zelfverbeteringslus. We observeren het parseergedrag en de geëxtraheerde resultaten van onze huidige regelsets in ons universum van zoekopdrachten. Vervolgens gebruiken we frontier LLM's om de prestaties te beoordelen langs twee primaire dimensies:

Volledigheid: onze index moet zoveel mogelijk semantisch betekenisvolle inhoud ontvangen, terwijl we valse extractie van niet-informatieve of onzinnige zaken vermijden.

Kwaliteit: onze index vertrouwt op inhoud van hoge kwaliteit in zowel inhoud als vorm. Informatie moet worden vastgelegd op een manier die de oorspronkelijke inhoudsstructuur en lay-out behoudt.

Merk op dat volledigheid en kwaliteit een andere inherente spanning presenteren: handmatig optimaliseren voor kwaliteit is mogelijk, maar de resulterende parseerregels slagen er wellicht niet in om kritieke inhoud vast te leggen. Evenzo zouden we tolerante regels kunnen programmeren die minimale filtering op de ruwe inhoud toepassen, wat de volledigheid zou kunnen verbeteren maar ten koste gaat van de kwaliteit. Daarom wenden we ons tot AI-gestuurde zelfverbetering om onze regelset zodanig te evolueren dat beide tegelijkertijd op een domein-adaptieve manier kunnen worden geoptimaliseerd.

Concreet formuleert ons systeem na elke LLM-gestuurde beoordeling van de parseerprestaties een set voorgestelde wijzigingen in de regelset om de meest significante foutklassen aan te pakken. Deze regelsets ondergaan verdere validatie, waarna we de nieuwe versie implementeren in onze indexeerder. Gezien het feit dat verbeteringen in parseer- en extractielogica alleen toekomstige indexeringsoperaties kunnen bevoordelen, zijn onze investeringen in ML-geoptimaliseerde herindexering bijzonder belangrijk: het voortdurend verversen van drukbezochte documenten met de nieuwste versie van deze logica waarborgt een strakke zelfverbeteringslus.

Deze regels zijn niet alleen van belang voor de basisprestaties van het parsen, maar ook voor de segmentatie in sub-documenteenheden. Als het op frontier LLM's aankomt, is elk token aan context kostbaar. Een groot aantal eerdere onderzoeken heeft gedocumenteerd hoe de prestaties van LLM's degraderen bij toename van de contextgrootte en de vervuiling van context met irrelevante informatie. Door goed gestructureerde, alomvattende parsing kunnen we documenten ontleden in op zichzelf staande delen, die elk afzonderlijk kunnen worden opgehaald en gerankt op het moment van de zoekopdracht.

Ontsluitings- en ranking-pijplijn

Modern zoeken vereist het waarborgen van zowel volledigheid als relevantie binnen een strikt latentiebudget. De ontsluitings- en ranking-pijplijn van Perplexity bereikt dit door een architectuur met meerdere fasen die resultaten geleidelijk verfijnt met een reeks steeds geavanceerdere modules. We lossen mogelijke knelpunten op door elk potentieel knelpunt zoveel mogelijk horizontaal te schalen.

De pijplijn begint met ontsluiting uit onze index. We dwingen geen keuze af tussen lexicale en semantische ontsluiting. In plaats daarvan bevragen we de zoekindex via beide modaliteiten en voegen we de resultaten samen in een hybride kandidatenset. In dit stadium heeft de prioriteit volledigheid boven precisie - latere fasen van de pijplijn zullen optimaliseren voor precisie.

De pijplijn gaat verder met voorfilterfasen, waarin we basisheuristieken en eerste filters toepassen om duidelijk niet-reagerende of verouderde inhoud uit de kandidatenset te verwijderen.

We gebruiken vervolgens meerdere fasen van progressief geavanceerde ranking. Eerdere fasen vertrouwen op lexicale en op embedding-gebaseerde scorers die zijn geoptimaliseerd voor snelheid. Terwijl de kandidatenset geleidelijk wordt verkleind, gebruiken we vervolgens krachtigere cross-encoder reranker-modellen om de definitieve vormgeving van de resultaatset uit te voeren. Dankzij onze talrijke investeringen in inferentieprestaties zijn we in staat om de allernieuwste modelarchitecturen voor deze latere fasen te benutten terwijl we de algehele ranking-latentie laag houden.

Gedurende deze hele pijplijn halen en scoren we resultaten op zowel document- als sub-documentniveau. Zoals hierboven besproken, vereist AI zorgvuldige context engineering. Onze pijplijn is ontworpen om de meest atomaire eenheden mogelijk aan het model te presenteren, zodat downstream consumenten die precieze eenheden kunnen integreren zonder irrelevante context van elders uit de brondocumenten op te halen.

Het waarborgen van hoge kwaliteit gedurende elke fase van deze pijplijn is alleen mogelijk door co-design met het portfolio van producten van Perplexity. Elk detail van de ranking-stack is ontworpen om het rijke signaal te benutten dat wordt geproduceerd door de miljoenen gebruikersverzoeken die we elk uur van de dag bedienen. Het overgrote deel van dit signaal is geautomatiseerd, waarbij elk gegenereerd Perplexity-antwoord een empirisch datapunt levert over de zoekkwaliteit zoals gebruikt in een live agent-workflow. We combineren AI-gestuurde evaluaties met live feedback van mensen om de trainingsgegevens voor onze embedding- en ranking-modellen ver voorbij te verrijken wat elke handmatig geconstrueerde dataset kan bieden.

Deze synergie tussen zoeken en product is uniek voor Perplexity. Legacy zoekmachines zijn beperkt tot het grove signaal dat wordt geleverd door blue-link telemetrie. Nieuwere zoekaanbiedingen hebben geprobeerd enkele van deze AI-gerichte concepten te implementeren, maar ze missen echte wereld-omgevingen die de zoekkwaliteit kunnen valideren en de rijkdom aan signalen kunnen bieden die nodig zijn voor snelle verbeteringslussen. We hebben het geluk het ontbrekende ingrediënt te hebben: een live proeftuin voor zoekkwaliteit, aangedreven door frontier LLM's en voortdurend in de praktijk getest door miljoenen nieuwsgierige gebruikers wereldwijd.

Een nieuwe grens voor kwaliteit en prestaties vestigen

Nadat we de Perplexity Search API en SDK hadden gebouwd om onze zoekinfrastructuur beschikbaar te stellen aan ontwikkelaars wereldwijd, wilden we begrijpen hoe de diverse commerciële API-aanbiedingen presteerden in reële AI-gebruiksscenario's. Het is gebruikelijk geworden om AI-modellen zelf te evalueren, maar we hadden een andere insteek op dit patroon nodig: het evalueren van de kwaliteit van search API's wanneer ze worden aangeroepen door AI-modellen.

We keken eerst naar het open-source ecosysteem om de stand van de techniek te begrijpen. We vonden veel van de belangrijkste ingrediënten voor rigoureuze evaluatie, maar geen enkel kader dat deze ingrediënten integreerde in een plug-and-play benchmarking-oplossing. We besloten daarom een evaluatiekader te ontwikkelen dat niet alleen door Perplexity, maar door elke onderzoeker of ontwikkelaar die search API's wil benchmarken, kan worden gebruikt.

Met behulp van dit evaluatiekader hebben we de Perplexity Search API rigoureus gebenchmarkt naast andere aanbiedingen. Het optimaliseren van zoekprestaties is complex, met veel genuanceerde afwegingen tussen kwaliteit en snelheid. In een overwinning voor ontwikkelaars ontdekten we dat de Perplexity Search API een nieuwe standaard zet voor zowel kwaliteit als latentie. Ontwikkelaars hoeven niet langer te kiezen tussen het bouwen van razendsnelle applicaties en het waarborgen van kwalitatief hoogwaardige resultaten: met Perplexity kunnen ze beide hebben.

Zoekkwaliteit versus latentie op SimpleQA, FRAMES, BrowseComp en HLE.

Betrouwbare evaluaties ontwerpen voor agent-gebaseerde zoekworkflows

We begonnen met het definiëren van drie leidende principes voor ons evaluatiekader:

Complexiteitsspectrum: het evaluatiekader moet de prestaties meten op zowel eenvoudige als complexe agent-gebaseerde AI-gebruiksscenario's.

Neutraliteit: het evaluatiekader moet alle API's op gelijke voet beoordelen.

Eenvoud: hoewel bepaalde gebruiksscenario's complex kunnen zijn, moet het kader zelf zo eenvoudig mogelijk zijn, zodat anderen het kunnen begrijpen, de resultaten kunnen reproduceren en het kader met minimale moeite kunnen uitbreiden.

Ons lichtgewicht evaluatiekader, search_evals, bereikt deze doelen door een eenvoudig modulair ontwerp. We hebben twee AI-agent-harnassen ontwikkeld om zowel klassieke single-shot zoekgebruiksscenario's als geavanceerde agent-gebaseerde workflows vast te leggen (geïllustreerd door diverse "diepgaand onderzoek"-producten die breed beschikbaar zijn op de consumentenmarkt). Beide harnassen zijn op een eenvoudige manier geïmplementeerd die weinig ruimte laat voor verborgen voordeel.

Om onze evaluaties aan te sturen, hebben we vier benchmarks aangenomen: SimpleQA en FRAMES voor zoeken in één stap, samen met BrowseComp en HLE voor diepgaand onderzoek. Gezamenlijk bieden deze benchmarks goed geaccepteerde meetlatten voor kennis-agenten. Volgens gevestigde conventie beoordelen we alle benchmarks met dezelfde 'prompted classifier'-methodologie die in het oorspronkelijke werk wordt gebruikt. De precieze implementaties van de benchmarks (inclusief grader-logica) kunnen worden bekeken in onze GitHub-repo.

We hebben het kader ontworpen met reproduceerbaarheid en uitbreidbaarheid in gedachten. Zowel de scores op taakniveau als de onderliggende agent-uitvoer worden opgeslagen bij elke run. Extra harnassen, benchmarks en search API-aanbiedingen kunnen eenvoudig worden geïntegreerd. Onderzoekers en ontwikkelaars kunnen onze GitHub-documentatie lezen voor meer informatie over het uitbreiden van het kader om aan uw precieze behoeften te voldoen.

Evaluatieresultaten

Gewapend met dit evaluatiekader besloten we onze Search API te beoordelen in vergelijking met andere API-aanbiedingen. Over alle geteste benchmarks heen staat Perplexity als zowel de snelste als de hoogste kwaliteit API op de markt.

Querylatentie op de p50-, p75- en p95-percentielen over zoekproviders.

We ontdekten dat onze bovengenoemde investeringen in index, ontsluiting en ranking-efficiëntie zich ruimschoots terugbetaalden. De mediane latentie van Perplexity klokt in op 358ms, meer dan 150ms vooruit op de op één na snelste aanbieder. De 95e-percentiellatentie blijft comfortabel onder 800ms. Met de lange TTFT (time-to-first-token) statistieken van de huidige frontier-modellen telt elke milliseconde bij het creëren van heerlijke gebruikerservaringen. We hebben de afgelopen twee jaar besteed aan het optimaliseren van de latentie voor onze eigen gebruikers, en we zijn verheugd dat diezelfde investeringen nu ook de ontwikkelaarsgemeenschap ten goede zullen komen.

Search API latentie

(verzoeken geïnitieerd vanuit AWS us-east-1)

p50

p75

p90

p95

Perplexity

358ms

443ms

604ms

763ms

Exa

1375ms

1499ms

1798ms

2188ms

Brave

513ms

637ms

728ms

808ms

SERP Based*

1342ms

1586ms

1743ms

1790ms

Latentiepercentielen van de Search API voor verzoeken die zijn gestart vanaf AWS us-east-1.

* Veel search API-leveranciers gebruiken SERP-scraping als basis voor hun resultaten. Om de prestaties van dergelijke benaderingen vast te leggen, gebruiken we een representatieve op Google SERP-gebaseerde API aangeboden door Tavily.

Dit snelheidsvoordeel gaat niet ten koste van de kwaliteit. De Perplexity Search API levert toonaangevende prestaties in zowel single-step zoeken als diepgaand onderzoek. Op elke geteste benchmark leidt Perplexity het veld in het bieden van resultaten van hoge kwaliteit die AI-workflows van wisselende complexiteit kunnen aandrijven. De marge tussen Perplexity en het beste alternatief is bijzonder uitgesproken bij SimpleQA en HLE, wat aangeeft dat deze resultaten robuust zijn over het hele spectrum van taakcomplexiteit.

Kwaliteitsscores van de zoekopdrachten op de eenstaps zoekbenchmarks SimpleQA en FRAMES en de diepgaande onderzoeksbenchmarks BrowseComp en HLE.

Zoals met latentie, vloeit ons leiderschap in zoekkwaliteit voort uit ons leiderschap in het bouwen van heerlijke, drukbezochte AI-producten. Onze miljoenen gebruikers gebruiken Perplexity om hun nieuwsgierigheid op elk denkbaar onderwerp te bevredigen, en de resulterende kwaliteits- en relevantiesignalen stellen onze zoekmodellen in staat om met elk uur dat voorbijgaat te verbeteren.

Search API kwaliteitsbenchmarks

Zoeken in één stap

Diepgaand onderzoek

SimpleQA

FRAMES

BrowseComp

HLE

Perplexity

.930

.453

.371

.288

Exa

.781

.399

.265

.242

Brave

.822

.320

.221

.191

SERP Based*

.890

.437

.348

.248

Kwaliteitsscores van de Search API op SimpleQA, FRAMES, BrowseComp en HLE.

We zitten nog in de vroege dagen van AI-native zoekmachines, en de kunst en wetenschap van meting zullen ongetwijfeld evolueren. We nodigen de gemeenschap uit om bij te dragen door rigoureuze en creatieve methoden te ontwikkelen voor het evalueren van zoekmachines in het tijdperk van AI-agenten.

De bouwsteen voor het volgende hoofdstuk van AI

De toekomst van agent-gebaseerde systemen en intelligente assistenten zal afhangen van de beschikbaarheid van rijke programmatische interfaces naar de collectieve kennis van de wereld. De legacy zoekmachines van vandaag hebben hun verzadiging in gebruik bereikt bij ongeveer 10¹⁰ zoekopdrachten per dag, een cijfer dat waarschijnlijk zijn piek heeft bereikt. De volgende generatie zoek- en ontsluitingssystemen zal ordes van grootte meer verzoeken bedienen, naarmate een steeds groeiend universum van AI-agenten erop vertrouwt voor nauwkeurige realtime informatie.

Onze inspanningen tot op heden hebben ons gepositioneerd als de snelste, meest performante zoekmachine toegankelijk via API. Maar er zal nog ambitieuzere innovatie nodig zijn om het volgende hoofdstuk van AI aan te wakkeren. Hoe schalen we deze systemen efficiënt in het licht van de steeds toenemende vraag? Hoe kunnen deze zoeksystemen worden geoptimaliseerd in het licht van nieuwe benaderingen van context engineering en post-training? En hoe navigeren we de altijd aanwezige spanning tussen volledigheid, recentheid en latentie? Dit zijn open vragen die Perplexity, met onze combinatie van productvoetafdruk, schaal en technisch talent, in een unieke positie verkeert om aan te pakken.

Citaat

BibTeX
@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}