Search API: Bedre ekstrahering, dynamiske benchmark-verdier

Kvaliteten på utdragene i Search API har blitt optimalisert langs to dimensjoner: relevans og størrelse.

I september publiserte vi en teknisk oversikt over arkitekturen til Perplexity Search API, og lanserte search_evals, vårt open-source-evalueringsrammeverk for benchmarking av søke-API-er i agentbaserte arbeidsflyter. Siden den gang har den største investeringen vært i utdragskvalitet, optimalisert langs to dimensjoner: relevans og størrelse. Å returnere riktig innhold i riktig mengde bestemmer direkte nøyaktigheten til nedstrøms svar og token-effektivitet. Arbeidet for å komme dit innebar å bygge nye systemer for ekstrahering, spenn-nivå-merking og evaluering, mest nevneverdig en spenn-merke-pipelene som identifiserer hvilke segmenter i et kildedokument som svarer på en gitt forespørsel.

Evaluering av utdrag på spenn-nivå

For å forbedre utdrag systematisk utviklet vi et nytt evalueringssystem. For en gitt forespørsel og et gitt dokument identifiserer og merker systemet spenn i dokumentet basert på deres forhold til forespørselen: «vitale» spenn som må inkluderes i utdraget, ulike klasser av «irrelevante» spenn som bør ekskluderes, duplikater og andre kategorier. Denne merkingen på spenn-nivå lar oss evaluere utdragskvaliteten med en presisjon som ikke var mulig tidligere, og måle både hva som ble korrekt inkludert og hva som ble korrekt utelatt.

I praksis gjør disse forbedringene det mulig for oss å generere mindre utdrag som er mer relevante for forespørselen. Vår selvforbedrende innholdsforståelsespipeline håndterer nå et bredere spekter av strukturerte dataformater, inkludert tabeller, nestede lister og dynamisk gjengitt innhold som tidligere regelsett ikke klarte å analysere på en pålitelig måte.

Disse forbedringene sprang ut fra våre egne produksjonssystemer. Ettersom vår interne forskning drev utdragsrelevans og -størrelse fremover, avdekket interne evalueringer at mindre innholdsbudsjetter faktisk produserte mer nøyaktige resultater etter en rekke kvalitetsforbedringer. Vi gjorde noen endringer i standardkonfigurasjonene våre for å gjenspeile funnene våre, noe som reduserer størrelsen på svarNyttelast og ventetid samtidig som det leverer mer nyttig innhold per resultat. For utviklere betyr mindre, mer relevante utdrag direkte lavere tokonkostnader og bedre kontextstyring for nedstrøms språkmodeller.

SEAL: benchmarking av tidsfølsom henting

SEAL-benchmarken tester om et hentesystem kan svare på spørsmål hvis korrekte svar endrer seg over tid. For å svare pålitelig kreves sanntidsindeksferskhet, smartere utdragsextrahering fra ulike kontinuerlig oppdaterte datakilder, og parsing som kan identifisere den gjeldende verdien fremfor en historisk.

Da vi kjørte search_evals mot SEAL-lanseringen 22. februar ved bruk av Claude Sonnet 4.5, økte Perplexity-skårene mens andre leverandører falt på SEAL-Hard:

Vi har utvidet vårt search_evals-rammeverk til å inkludere SEAL i tillegg til benchmarkene som ble rapportert i september-innleggene våre. Oppdaterte resultater og metodikk er tilgjengelig i det oppdaterte repositoriet på GitHub.

Støtte for flere forespørsler

API-et støtter nå opptil 5 forespørsler i en enkelt forespørsel. Resultatene returneres gruppert per forespørsel i samme rekkefølge som de ble sendt inn. Dette reduserer antall tur-returer for applikasjoner som trenger å utføre relaterte søk parallelt, som for eksempel agenter som bryter ned et komplekst spørsmål i flere hentings-underoppgaver.

Utvidet filtrering

I tillegg til domænefiltrering (tillatelsesliste og sperreliste, opptil 20 domener) og resensfiltrering, støtter API-et nå språkfiltrering etter ISO 639-1-kode og regionalt søk etter ISO-landskode. Disse kan kombineres for å avgrense resultater presist, for eksempel ved å begrense til engelskspråklige resultater fra tyske domener.

SDK og tilgjengelighet

Python SDK (pip install perplexityai) gir nå innebygd støtte for Search API i tillegg til Agent API og Sonar API.

Fullstendig dokumentasjon finnes på docs.perplexity.ai