Search API: Lepšia extrakcia, dynamické benchmarky

V septembri sme publikovali technický prehľad architektúry Perplexity Search API a vydali search_evals, náš open-source hodnotiaci rámec na porovnávanie vyhľadávacích API v rámci agentických pracovných postupov. Odvtedy bola najvýznamnejšia investícia smerovaná do kvality úryvkov, optimalizovaných v dvoch smeroch: relevantnosť a veľkosť. Vrtenie správneho obsahu v správnom množstve priamo určuje presnosť následných odpovedí a tokenovú efektivitu. Úsilie na dosiahnutie tohto cieľa zahŕňalo budovanie nových systémov na extrakciu, označovanie na úrovni úsekov a hodnotenie, pričom najvýznamnejší je kanál na označovanie úsekov, ktorý identifikuje, ktoré segmenty zdrojového dokumentu reagujú na daný dopyt.

Hodnotenie úryvkov na úrovni úsekov

Na systematické zlepšovanie úryvkov sme navrhli nový hodnotiaci systém. Pre daný dopyt a dokument systém identifikuje a označuje úseky v rámci dokumentu podľa ich vzťahu k dopytu: „dôležité“ úseky, ktoré musia byť zahrnuté v úryvku, rôzne triedy „nerelevantných“ úsekov, ktoré by mali byť vylúčené, duplikáty a ďalšie kategórie. Toto označovanie na úrovni úsekov nám umožňuje hodnotiť kvalitu úryvkov s úrovňou presnosti, ktorá predtým nebola možná, pričom meriame to, čo bolo správne zahrnuté, aj to, čo bolo správne vynechané.

V praxi nám tieto vylepšenia umožňujú generovať menšie úryvky, ktoré sú relevantnejšie pre dopyt. Náš samoslúžiaci kanál na porozumenie obsahu teraz spracováva širšiu škálu formátov štruktúrovaných údajov vrátane tabuliek, vnorených zoznamov a dynamicky vykresľovaného obsahu, ktorý predchádzajúce sady pravidiel nedokázali spoľahlivo analyzovať.

Tieto vylepšenia vyplynuli z našich vlastných produkčných systémov. Keďže náš interný výskum posúval relevantnosť a veľkosť úryvkov vpred, interné hodnotenia odhalili, že menšie rozpočty obsahu v skutočnosti priniesli presnejšie výsledky po sérii vylepšení kvality. Vykonali sme určité úpravy našich predvolených konfigurácií, aby odrážali naše zistenia, čím sme znížili veľkosť dátovej záťaže odpovedí a latenciu a zároveň priniesli užitočnejší obsah na jeden výsledok. Pre vývojárov menšie a relevantnejšie úryvky znamenajú priamo nižšie náklady na tokeny a lepšiu správu kontextu pre následné LLM.

SEAL: porovnávanie vyhľadávania citlivého na čas

Porovnávací test SEAL testuje, či systém vyhľadávania dokáže odpovedať na otázky, ktorých správna odpoveď sa časom mení. Spoľahlivé zodpovedanie si vyžaduje sviežosť indexu v reálnom čase, inteligentnejšiu extrakciu úryvkov z rôznych nepretržite aktualizovaných zdrojov údajov a analýzu, ktorá dokáže identifikovať aktuálnu hodnotu namiesto historickej.

Keď sme spustili search_evals oproti vydaniu SEAL z 22. februára pomocou Claude Sonnet 4.5, skóre Perplexity vzrástlo, zatiaľ čo ostatní poskytovatelia klesli na SEAL-Hard:

Zväčšiť

Rozšírili sme náš rámec search_evals tak, aby zahŕňal SEAL popri porovnávacích testoch uvedených v našom septembrovom príspevku. Aktualizované výsledky a metodika sú k dispozícii v aktualizovanom úložisku na GitHub.

Podpora viacerých dopytov

API teraz podporuje až 5 dopytov v jednej požiadavke. Výsledky sa vrátia zoskupené podľa dopytov v rovnakom poradí, v akom boli odoslané. To znižuje počet spiatočných ciest pre aplikácie, ktoré potrebujú paralelne vydávať súvisiace vyhľadávania, ako sú napríklad agenti, ktorí rozkladajú zložitú otázku na viaceré čiastkové úlohy vyhľadávania.

Rozšírené filtrovanie

Okrem filtrovania domén (zoznam povolených a blokovaných domén, až 20 domén) a filtrovania podľa aktuálnosti API teraz podporuje filtrovanie jazykov podľa kódu ISO 639-1 a regionálne vyhľadávanie podľa kódu krajiny ISO. Tie je možné kombinovať na presné vymedzenie výsledkov, napríklad obmedzenie na anglické výsledky z nemeckých domén.

SDK a dostupnosť

Python SDK (pip install perplexityai) teraz poskytuje natívnu podporu pre Search API popri Agent API a Sonar API.

Úplná dokumentácia je na docs.perplexity.ai