ЖИ бірінші орындағы Search API архитектурасын құру және бағалау

Масштабталатын, AI-ге бағдарланған Search API құру ақпаратты іздестіру, AI және жүйе жобалаудың тоғысындағы бірегей зерттеу міндеттерін тудырады. Шектелген деректермен жұмыс істейтін дәстүрлі қызметтерден айырмашылығы, search API миллиардтаған құжатты үздіксіз индекстеп, сұрау ниетін тілдер мен домендер бойынша түсініп, тиісті нәтижелерді миллисекундтар ішінде көрсетуі керек. AI агенттері дәуірінде search API әзірлеушілердің модельдеріне берілетін context мұқият іріктеп, сол модельдердің оңтайлы жұмыс істеуін және барынша дәл ақпаратты қамтуын қамтамасыз етуі тиіс. Тиімді context engineering API-ден құжат деңгейіндегі маңыздылықты ғана емес, сонымен бірге құжаттардың жекелеген бөлімдері мен үзінділерін өз алдына дербес бірліктер ретінде қарастыруды да талап етеді.

Бұл мақалада біз Perplexity Search API интерфейсінің дизайны мен бағалануын ұсынамыз. Алдымен күніне 200 миллион сұрауды өңдейтін өндірістік іздеу инфрақұрылымымыздың артындағы архитектура мен негізгі техникалық шешімдерді қарастырамыз. Біздің архитектурамыз гибридті іздеу механизмдерін, көп сатылы рейтинг конвейерлерін, бөлінген индекстеуді және өздігінен жетілетін мазмұнды түсіну модулі арқылы динамикалық талдауды біріктіреді.

Содан кейін біз жаңадан ашық бастапқы коды бар бағалау фреймворгы арқылы іздеу API өнімділігін эмпирикалық түрде бағалау тәсілін сипаттаймыз. Бар коммерциялық API интерфейстерімен қатар кешенді бенчмаркинг арқылы біз сапа мен кідіріс бойынша ең озық өнімділікті көрсетеміз. Perplexity Search API бүгінгі күннен бастап бүкіл әлем бойынша әзірлеушілер үшін қолжетімді.

[GitHub-тан search_evals табу]

ЖИ модельдері үшін оңтайландырылған іздеу жүйесін құру

Құрылған сәттен бастап біз біз шығарғымыз келетін санатты анықтайтын ЖИ өнімдерін қосу үшін берік іздеу мүмкіндіктерінің маңызды болатынын түсіндік. Бастапқыда бұл мүмкіндіктер қолжетімді түрде бұрыннан бар деп үміттендік. Біз 2022 жылдың соңында қолжетімді іздеу API интерфейстерінің портфолиосымен тәжірибе жасадық және Perplexity жауап беру қызметінің дәл ең бірінші нұсқасы шын мәнінде осы ұсыныстардың кейбірін қамтыды. Атап айтқанда, біз пайдаланушы сұрауларын талдап, осы API интерфейстеріне сұраулар құрастырып, жіберіп, нәтижелерін төменгі ағындағы генерация конвейері үшін контекст ретінде жинадық.

Алайда, пайдаланушылар Perplexity жүйесіне топтасқан сайын, біз бұл API интерфейстері біздің өсуімізбен бірге масштабталмайтынын тез түсіндік. Біз кездескен бағалар шамадан тыс жоғары болды, жетекші API провайдерлерінің бірі мың сұрау үшін $200 алды. Бірақ бұдан да қауіптісі, бұл ескі API интерфейстері заманауи ЖИ жүйелері енгізген жаңа іздеу парадигмаларына арналмаған болатын.

Ұлғайту

Бастау үшін, бұл ескі API интерфейстерінің сұрау және жауап форматтары іздеу нәтижелерін тек адамдар ғана пайдаланатын әлемге арналған болатын. Нәтижесінде бұл API интерфейстері шағын құжат бірліктері ашқан егжей-тегжейлі ақпаратты елемей, құжат деңгейіндегі нәтижелерге басымдық берді. ЖИ моделінің сәттілігі ұсынылған контексттің сапасы мен ықшамдылығына байланысты, және біз алынған құжаттар тұтастай алғанда өзекті болып көрінгеніне қарамастан, тым кең іздеудің ЖИ модельдерін қалай бұза алатынын өз көзімізбен көрдік. Дәл емес нәтижелерге дәлдікті мәжбүрлеп енгізу әрекеттеріміз шектеулі нәтиже берді.

Сондай-ақ біз ескі API интерфейстерінің тым ескірген немесе тым баяу екенін байқадық. Дербес әзірленген іздеу API интерфейстері толық емес және тым сирек жаңартылатын индекстерге сүйенді. Google Search-ке арналған әртүрлі бейресми SERP API сияқты скрейпингке негізделген API интерфейстері толығырақ индекстен пайда көрді, бірақ үшінші тарап іздеу жүйесіне сұрау жіберудің тиімсіздігіне байланысты қабылданбайтындай жоғары кідіріс көрсетті. Жоғары кідіріс API интерфейстерін пайдаланушыға бағытталған қосымшалар үшін жарамсыз етті, ал ескіру нәтижелер жиынын дәл және сенімді болуға үміттенетін кез келген ЖИ жүйесі үшін жарамсыз етті.

Соңында, біз ЖИ экологиялық жүйесінің лексикалық және семантикалық іздеу арасында екіге бөлінгенін байқадық, бір модальдылық үшін басқасына қарағанда шамадан тыс оңтайландырылған жүйелер пайда болды. Біз тіпті қарапайым буындық сүзгілерді де тиісті түрде қолдай алмайтын векторлық деректер базаларының пайда болғанын көрдік. Дәстүрлі іздеу серверлік бөліктері ЖИ ашқан семантикалық рейтинг пен іздеу мүмкіндіктерін бастапқы деңгейде қолдауымен жақсы нәтиже көрсете алмады.

Perplexity қызметін одан да жақсарту өз алдына арнайы іздеу инфрақұрылымын құруды талап ететінін түсінген кезде, біз өз бақылауларымызды үш негізгі критерийге жинақтадық:

Толықтық, өзектілік және жылдамдық: іздеу индексі жан-жақты, үнемі жаңартылып отыратын және нақты уақыт режиміндегі кідіріске оңтайландырылған болуы тиіс.

Мазмұнды егжей-тегжейлі түсіну: ЖИ моделінің сынғыштығы мен шектеулі контекст терезелері іздеу нәтижелерінің мүмкіндігінше егжей-тегжейлі деңгейде көрсетілуін және бағалануын талап етеді.

Гибридті іздеу және рейтинг: нәтижелер ЖИ үшін пайдалы болуы үшін іздеу және рейтинг конвейерлері де лексикалық және семантикалық сигналдарды қамтуы тиіс.

Ұлғайту

Кроулинг және индекстеу инфрақұрылымы

Perplexity ауқымында жұмыс істеу вебті жан-жақты картаға түсіріп, оның тұрақты эволюциясына жауап бере алатын инфрақұрылымды талап етеді. Біздің іздеу индексіміз 200 миллиардтан астам бірегей URL мекенжайын қадағалайды, тағы жүздеген миллиардтаған мекенжайды қадағалау мүмкіндігі бар.

Біздің индексіміз интернеттің жеткілікті түрде жан-жақты бөлігін қамтитынына және әрбір құжаттың ең соңғы күйін көрсететініне көз жеткізу — қиын міндет. Толықтық пен өзектілік арасында ішкі қайшылық бар: белгіленген индекстеу бюджеті үшін бар беттерді жаңарту операциялары жаңадан кірілмеген беттерді индекстеу операцияларымен бәсекелесуге тиіс. Біз бұл қайшылықты масштабтау (индекстеу бюджетін ұлғайту арқылы оңтайландыру шектеуін жеңілдететін) және ML арқылы басымдық беру (әрбір индекстеу операциясының тұтастай алғанда индекс үшін барынша құнды болуын қамтамасыз ететін) комбинациясы арқылы теңестіреміз.

Біз өлшем мен сұрау көлемімен көлденеңінен масштабталатын эксабайттық индекстеу және кроулинг құрылғысын жасадық. Perplexity кроулері мен индекстеу парктер тобы одан әрі масштабтау үшін едәуір резерві бар ондаған мың CPU мен жүздеген терабайт RAM-ды біріктіреді. Біз бұл есептеу инфрақұрылымын суық және жылы сақтау орнының тепе-теңдігімен біріктіреміз. Біз индексімізді байытуға ерекше әлеуеті бар авторлық домендердегі құжаттарға, қамтылмаған тақырыптарды қамтитын құжаттарға және басқа санаттарға басымдық бере отырып, қай құжаттардың ыстық күйде сақталуы керектігін анықтау үшін оқытылған модельдерді де, баптау эвристикаларын да қолданамыз.

Бұл инфрақұрылым Perplexity-ге секундына ондаған мың индекстеу операциясын өңдеуге мүмкіндік береді. Бірақ мұндай салыстырмалы түрде жомарт бюджет жағдайында да интернеттің ауқымы әрбір жеке URL-ді жиі әрі қайталанып индекстеу үшін тым үлкен. Дәл осы жерде ML іске қосылады. Біз кез келген кандидат URL индекстелуі керек пе, соны болжау үшін ML моделін үйретеміз. Оқыту мақсаты индекстеу туралы шешімімізді нақты URL-дің маңыздылығы мен оның ықтимал жаңару жиілігіне де сәйкес калибрлеуді қамтамасыз ететіндей етіп құрылады. Сондай-ақ индекстеу операциясын нақты қашан жоспарлау керегін білу үшін де ML-ге сүйенеміз. Тұрақты жариялау және жаңарту қарқыны бар сайттар үшін бұл бізге операцияларды олар ең пайдалы болуы ықтимал сәтке дейін кейінге қалдыруға мүмкіндік береді. Осы ML модельдерін үздіксіз жетілдіру арқылы біз толықтық пен өзектілік тұрғысынан талапқа сай келетін индексті ұстап тұра аламыз.

Кроулинг инфрақұрылымымыз көлденеңінен оңай масштабталғанымен, біз веб-сайт операторларының әртүрлі техникалық шектеулерге тап болатынын білеміз. Біз кез келген берілген доменге сұраулардың болжамды және басқарылатын жиілігін сақтауға мұқият боламыз. Біздің іздеу кроулеріміз PerplexityBot robots.txt файлдарында немесе доменде көрсетілген шектеулер болмаған жағдайда сұрау жиіліктеріне қатысты салалық стандартты нормаларда көрсетілген нақты шектеулерге сәйкес келеді. Сондай-ақ сайттың қолжетімсіздігін анықтаған кезде кроулинг әрекетімізді реттейміз. Біздің бөлінген жүйеміз тіпті ондаған мың қатар жүретін операциялар кезінде де осы шектеулерді орындау үшін жасалған.

Интернет ауқымында мазмұнды өзін-өзі жетілдіре түсіну

Ғаламдағы ең үлкен және ең өзекті іздеу индекстерінің бірі болса да, әрбір сұраудың нәтиже сапасы біздің жүйеміздің әр құжаттың мазмұнын түсінуіне байланысты. Мұнда біз негізгі қиындыққа тап боламыз: веб — бұл ретсіз орын. Ережелердің ешқандай бекітілген жиынтығы бүкіл интернеттен табылған макеттердің, құрылымдар мен стильдердің шексіз алуан түрлілігімен жұмыс істей алмайды.

Біз бұл қиындықты веб-сайттарды талдайтын және динамикалық ережелер жиынтығын қолдана отырып, семантикалық мағыналы мазмұнды шығарып алатын мазмұнды түсіну модулін жасау арқылы шештік. Тізім немесе кесте түріндегі жақсы құрылымдалған деректері бар веб-сайт формулярлық талдау мен шығарып алу ережелерінен пайда көруі мүмкін, ал негізінен еркін пішімдегі пайдаланушы жасаған мазмұнды қамтитын басқа веб-сайт бос ережелер жиынтығын талап етуі мүмкін. Веб қысқа уақыт аралығында көбінесе статикалық болатындықтан, белгілі бір ереженің өмір сүру ұзақтығы салыстырмалы түрде ұзақ боларын көреміз. Бірақ сайттар уақыт өте келе дамыған сайын және ақпаратты алудың ең жақсы жолдары туралы көбірек білген сайын, біздің ережелер жиынтығымыз да тұрақты күтімді қажет етеді.

Бұл динамикалық бейімделуді жеңілдету үшін біз (әрине) ЖИ-ге жүгінеміз. Perplexity ауқымында біз сағат сайын миллиондаған пайдаланушы сұрауларына қызмет көрсету барысында вебтің өте бай қиылысын байқаймыз. Бұл қайталанатын өзін-өзі жетілдіру циклінің негізін құрайды. Біз сұраулар әлемімізде ағымдағы ережелер жиынтығының талдау әрекеті мен шығарылған нәтижелерін бақылаймыз. Содан кейін екі негізгі өлшем бойынша өнімділікті бағалау үшін озық LLM модельдерін қолданамыз:

Толықтық: біздің индексіміз ақпараттық емес немесе мағынасыз материалдарды негізсіз шығарып алудан аулақ бола отырып, мүмкіндігінше көп семантикалық мағыналы мазмұнды алуы тиіс.

Сапа: біздің индексіміз мазмұны мен пішіні жағынан жоғары сапалы мазмұнға сүйенеді. Ақпарат түпнұсқа мазмұн құрылымы мен макетін сақтайтын тәсілмен жиналуы тиіс.

Толықтық пен сапа тағы бір ішкі қайшылықты тудыратынын ескеріңіз: сапа үшін қолмен оңтайландыру мүмкін, бірақ алынған талдау ережелері маңызды мазмұнды қамти алмауы мүмкін. Сол сияқты, біз шикі мазмұнға ең аз сүзгілеуді қолданатын рұқсат етуші ережелерді қолмен жасай аламыз, бұл толықтықты жақсартуы мүмкін, бірақ сапа есебінен. Дәл сондықтан біз доменге бейімделетін тәсілмен бір уақытта екеуін де оңтайландыра алатындай етіп ережелер жиынтығын дамыту үшін ЖИ басқаратын өзін-өзі жетілдіруге жүгінеміз.

Нақтырақ айтқанда, талдау өнімділігін әрбір LLM басқаратын бағалаудан кейін біздің жүйеміз ең маңызды қате кластарын жою үшін ұсынылған ережелер жиынтығының өзгерістер жиынтығын құрастырады. Бұл ережелер жиынтығы қосымша тексеруден өтеді, содан кейін біз жаңа нұсқаны индекстеушіге орналастырамыз. Талдау және шығарып алу логикасындағы жақсартулар тек болашақ индекстеу операцияларына ғана пайда әкеле алатынын ескерсек, ML оңтайландырылған қайта индекстеуге салған инвестицияларымыз ерекше маңызды: осы логиканың соңғы нұсқасын қолдана отырып, трафик жоғары құжаттарды үздіксіз жаңарту тығыз өзін-өзі жетілдіру циклін қамтамасыз етеді.

Бұл ережелер негізгі талдау өнімділігі үшін ғана емес, сонымен қатар ішкі құжат бірліктеріне сегменттеу үшін де маңызды. Озық LLM модельдеріне келетін болсақ, контексттің әрбір токені бағалы. Бұрынғы жұмыстардың үлкен көлемі контекст өлшемінің ұлғаюымен және контекстің маңызды емес ақпаратпен ластануымен ЖИ моделінің өнімділігі қалай төмендейтінін құжаттады. Жақсы құрылымдалған, жан-жақты талдау құжаттарды дербес ауқымдарға бөлуге мүмкіндік береді, олардың әрқайсысы сұрау кезінде жеке алынып, рейтингке ие бола алады.

Іздеу және рейтинг конвейері

Заманауи іздеу қатаң кідіріс бюджеті астында толықтық пен өзектілікті қамтамасыз етуді талап етеді. Perplexity іздеу және рейтинг конвейері мұны нәтижелерін барған сайын күрделі модульдер сериясымен біртіндеп жетілдіретін көп сатылы архитектура арқылы жүзеге асырады. Біз ықтимал кедергілерді кез келген ықтимал тар жерлерді мүмкіндігінше көлденеңінен масштабтау арқылы шешеміз.

Конвейер индексімізден іздеуден басталады. Біз лексикалық және семантикалық іздеу арасында таңдау жасауға мәжбүрлемейміз. Керісінше, біз іздеу индексіне екі модальдылық арқылы сұрау жібереміз және нәтижелерді гибридті үміткерлер жиынына біріктіреміз. Бұл кезеңде басымдық дәлдіктен гөрі жан-жақтылыққа беріледі — конвейердің кейінгі кезеңдері дәлдік үшін оңтайландырылады.

Конвейер үміткерлер жиынынан анық жауап бермейтін немесе ескірген мазмұнды жою үшін негізгі эвристикалар мен алғашқы сүзгілерді қолданатын алдын ала сүзгілеу кезеңдерімен жалғасады.

Содан кейін біз біртіндеп жетілдірілген рейтингтің бірнеше кезеңін қолданамыз. Ерте кезеңдер жылдамдыққа оңтайландырылған лексикалық және эмбеддингке негізделген ұпай жинаушыларға сүйенеді. Үміткерлер жиыны біртіндеп азайған сайын, біз нәтижелер жиынын соңғы қалыптастыруды жүзеге асыру үшін қуаттырақ кросс-энкодер қайта рейтинг модельдерін қолданамыз. Инференс өнімділігіне салған көптеген инвестицияларымыздың арқасында біз жалпы рейтинг кідірісін төмен деңгейде ұстай отырып, осы кейінгі кезеңдер үшін озық модель архитектураларын пайдалана аламыз.

Осы конвейер барысында біз құжат және ішкі құжат деңгейлерінде нәтижелерді алып, балл қоямыз. Жоғарыда талқыланғандай, ЖИ мұқият контекст инженериясын талап етеді. Біздің конвейеріміз төменгі ағындағы тұтынушылар бастапқы құжаттардың басқа жерлерінен маңызды емес контекстті тартпай-ақ сол дәл бірліктерді біріктіре алатындай етіп, модельге мүмкіндігінше атмарлық бірліктерді көрсетуге арналған.

Бұл конвейердің әрбір кезеңінде жоғары сапаны қамтамасыз ету тек Perplexity өнімдер портфолиосымен бірлескен дизайн арқылы ғана мүмкін болады. Рейтинг стекінің әрбір бөлшегі тәуліктің әр сағат сайын қызмет көрсететін миллиондаған пайдаланушы сұраулары арқылы жасалған бай сигналды пайдалануға арналған. Бұл сигналдың басым бөлігі автоматтандырылған, әрбір жасалған Perplexity жауабы тікелей агенттік жұмыс процесінде қолданылатын іздеу сапасы бойынша эмпирикалық деректер нүктесін қамтамасыз етеді. Біз эмбеддинг және рейтинг модельдерімізге арналған оқыту деректерін кез келген қолмен жасалған деректер жиыны ұсына алатын мүмкіндіктен әлдеқайда асырып байыту үшін ЖИ басқаратын бағалауларды тікелей адам кері байланысымен біріктіреміз.

Іздеу мен өнім арасындағы бұл синергия тек Perplexity-ге тән. Ескі іздеу жүйелері көк сілтеме телеметриясы ұсынатын дөрекі сигналмен шектеледі. Жаңа іздеу ұсыныстары осы ЖИ-ге бағытталған тұжырымдамалардың кейбірін енгізуге тырысты, бірақ оларда іздеу сапасын тексере алатын және жылдам жетілдіру циклдері үшін қажетті сигналдың байлығын қамтамасыз ете алатын нақты әлем орталары жоқ. Бізде жетіспейтін ингредиент бар: озық LLM модельдерімен жұмыс істейтін және бүкіл әлем бойынша миллиондаған қызығушылық танытқан пайдаланушылармен үнемі сынақтан өтетін іздеу сапасы үшін тікелей сынақ алаңы.

Сапа мен өнімділік үшін жаңа шекараны белгілеу

Іздеу инфрақұрылымымызды бүкіл әлем бойынша әзірлеушілер үшін қолжетімді ету үшін Perplexity Search API мен SDK жасағаннан кейін, біз әртүрлі коммерциялық API ұсыныстарының шынайы ЖИ қолдану жағдайларында қалай жұмыс істейтінін түсінгіміз келді. ЖИ модельдерінің өзін бағалау қалыпты жағдайға айналды, бірақ бізге бұл үлгіге басқаша қарау қажет болды: ЖИ модельдері шақырған кезде іздеу API интерфейстерінің сапасын бағалау.

Біз алдымен алдыңғы жұмысты түсіну үшін ашық бастапқы кодты экосистемаға жүгіндік. Біз қатаң бағалау үшін көптеген негізгі ингредиенттерді таптық, бірақ бұл ингредиенттерді қосып-қосатын бенчмаркинг шешіміне біріктірген бірде-бір фреймворк таппадық. Сондықтан біз тек Perplexity ғана емес, іздеу API интерфейстерін бенчмарктауға тырысатын кез келген зерттеуші немесе әзірлеуші пайдалана алатын бағалау фреймворгын жасауға кірістік.

Осы бағалау фреймворгын қолдана отырып, біз Perplexity Search API интерфейсін басқа ұсыныстармен қатар қатаң түрде бенчмарктадық. Іздеу өнімділігін оңтайландыру күрделі, сапа мен жылдамдық арасында көптеген нәзік ымыралар бар. Әзірлеушілер үшін жеңіс ретінде біз Perplexity Search API сапа мен кідіріс үшін жаңа заманауи деңгейді белгілейтінін анықтадық. Әзірлеушілерге өте жылдам қосымшалар жасау мен жоғары сапалы нәтижелерді қамтамасыз ету арасында таңдау жасаудың қажеті жоқ: Perplexity көмегімен олар екеуін де ала алады.

Ұлғайту

Агенттік іздеу жұмыс процестері үшін сенімді бағалауларды жобалау

Біз бағалау фреймворгымыз үшін үш жетекші қағидатты анықтаудан бастадық:

Күрделілік спектрі: бағалау фреймворгы қарапайым және күрделі агенттік ЖИ қолдану жағдайларындағы өнімділікті өлшеуі тиіс.

Бейтараптық: бағалау фреймворгы барлық API интерфейстерін бірдей жағдайда бағалауы тиіс.

Қарапайымдылық: кейбір қолдану жағдайлары күрделі болуы мүмкін болса да, фреймворктің өзі басқалардың оны түсінуі, нәтижелерді қайталауы және фреймворкті ең аз шаршаумен кеңейтуі үшін мүмкіндігінше қарапайым болуы тиіс.

Біздің жеңіл салмақты бағалау фреймворгымыз, search_evals, қарапайым модульдік дизайн арқылы осы мақсаттарға қол жеткізеді. Біз классикалық бір реттік іздеу қолдану жағдайларын да, жетілдірілген агенттік жұмыс процестерін де (тұтынушылар нарығында кеңінен қолжетімді әртүрлі «Терең зерттеу» өнімдерімен мысалға келтірілген) қамту үшін екі ЖИ агент құрылғысын әзірледк. Екі құрылғы да жасырын артықшылыққа аз орын қалдыратын қарапайым түрде іске асырылды.

Бағалауларымызды жүргізу үшін біз төрт бенчмаркты қабылдадық: бір қадамдық іздеу үшін SimpleQA және FRAMES, сонымен қатар терең зерттеу үшін BrowseComp және HLE. Біріктірілген бұл бенчмарктар білім агенттері үшін жақсы қабылданған өлшемдерді қамтамасыз етеді. Белгіленген конвенцияға сәйкес, біз барлық бенчмарктарды түпнұсқа жұмыста қолданылған бірдей сұралған классификатор әдістемесін қолдана отырып бағалаймыз. Дәл бенчмарк іске асыруларын (бағалаушы логикасын қоса алғанда) біздің GitHub репозиторийінде қарап шығуға болады.

Біз фреймворкті қайта өндіруге және кеңейтуге мүмкіндік беретіндей етіп жобаладық. Тапсырма деңгейіндегі ұпайлар да, негізгі агент нәтижелері де әр іске қосумен бірге сақталады. Қосымша құрылғыларды, бенчмарктарды және іздеу API ұсыныстарын оңай біріктіруге болады. Зерттеушілер мен әзірлеушілер фреймворкті нақты қажеттіліктеріңізге сай кеңейту туралы көбірек білу үшін біздің GitHub құжаттарын оқи алады.

Бағалау нәтижелері

Осы бағалау фреймворгын қолдана отырып, біз Search API интерфейсімізді басқа API ұсыныстарымен салыстырмалы түрде бағалауға кірістік. Барлық сыналған бенчмарктар бойынша Perplexity нарықтағы ең жылдам және ең жоғары сапалы API болып табылады.

Ұлғайту

Біздің жоғарыда сипатталған индекстеу, іздеу және рейтинг тиімділігіне салған инвестицияларымыздың өзін ақтағанын анықтадық. Perplexity медианалық кідірісі 358мс құрайды, бұл ең жылдам екінші провайдерден 150мс-тан астам озып тұр. 95-ші процентильдік кідіріс 800мс-тан жайлы түрде төмен қалады. Заманауи озық модельдердің ұзақ TTFT (бірінші токенге дейінгі уақыт) көрсеткіштерімен әрбір миллисекунд тамаша пайдаланушы тәжірибесін жасауда маңызды рөл атқарады. Біз соңғы екі жылды өз пайдаланушыларымыз үшін кідірісті оңтайландыруға жұмсадық және сол инвестициялардың енді әзірлеушілер қауымдастығына да пайда әкелетініне қуаныштымыз.

Search API кідірісі

(сұраулар AWS us-east-1 аймағынан бастапқырылған)

AWS us-east-1-ден басталған сұраулар үшін Search API кідірісінің пайыздық көрсеткіштері.

* Көптеген іздеу API жеткізушілері өз нәтижелерінің негізі ретінде SERP скрейпингін пайдаланады. Мұндай тәсілдердің өнімділігін көрсету үшін біз Tavily ұсынатын өкілді Google SERP негізіндегі API интерфейсін қолданамыз.

Бұл жылдамдық артықшылығы сапа есебінен келмейді. Perplexity Search API бір қадамдық іздеу мен терең зерттеу параметрлерінде ең озық өнімділікті береді. Әрбір сыналған бенчмаркта Perplexity әртүрлі күрделіліктегі ЖИ жұмыс процестерін қуаттай алатын жоғары сапалы нәтижелерді ұсыну бойынша көш бастап тұр. Perplexity пен ең жақсы балама арасындағы айырмашылық SimpleQA және HLE кезінде әсіресе айқын көрінеді, бұл бұл нәтижелердің тапсырма күрделілігі спектрі бойынша сенімді екенін көрсетеді.

Ұлғайту

Кідіріс сияқты, іздеу сапасындағы көшбасшылығымыз тамаша, трафигі жоғары ЖИ өнімдерін жасаудағы көшбасшылығымыздан туындайды. Біздің миллиондаған пайдаланушыларымыз Perplexity қызметін елестетуге болатын әрбір тақырып бойынша өз қызығушылығын қанағаттандыру үшін пайдаланады, ал нәтижелі сапа және өзектілік сигналдары іздеу модельдерімізге әр сағат сайын жақсаруға мүмкіндік береді.

Search API сапа бенчмарктері

SimpleQA, FRAMES, BrowseComp және HLE бойынша Search API сапа балдары.

Біз әлі де ЖИ-нативті іздеу жүйелерінің алғашқы күндеріндеміз, және өлшеу өнері мен ғылымы сөзсіз дамиды. Біз қауымдастықты ЖИ агенттері заманында іздеу жүйелерін бағалау үшін қатаң және креативті әдістерді әзірлеу арқылы үлес қосуға шақырамыз.

ЖИ келесі тарауының құрылыс блогы

Агенттік жүйелер мен зияткерлік көмекшілердің болашағы әлемнің ұжымдық біліміне бай бағдарламалық интерфейстердің қолжетімділігіне байланысты болады. Бүгінгі ескі іздеу жүйелері күніне шамамен 10¹⁰ сұрау бойынша қолдануда қанықты, бұл шыңға жеткен болуы мүмкін. Іздеу және іздеу жүйелерінің келесі буыны әлдеқайда көп сұрауларға қызмет көрсетеді, өйткені ЖИ агенттерінің үздіксіз өсіп келе жатқан әлемі оларға нақты уақыттағы дәл ақпарат үшін сүйенеді.

Бүгінгі күнге дейінгі күш-жігеріміз бізді API арқылы қолжетімді ең жылдам, ең өнімді іздеу жүйесі ретінде орналастырды. Бірақ ЖИ келесі тарауын қаржыландыру үшін бізге бұдан да өршіл инновация қажет болады. Үздіксіз өсіп келе жатқан сұраныс жағдайында бұл жүйелерді қалай тиімді масштабтаймыз? Контекст инженериясы мен оқытудан кейінгі жаңа тәсілдерді ескере отырып, бұл іздеу жүйелерін қалай оңтайландыруға болады? Және толықтық, өзектілік және кідіріс арасындағы тұрақты қайшылықты қалай шешеміз? Бұлар — өнімнің көлемі, ауқымы және техникалық дарындылығы комбинациясы бар Perplexity шешуге ерекше жағдайы бар ашық сұрақтар.

Дәйексөз

@online{perplexity2025ArchitectingAndEvaluatingAnAiFirstSearchApi,
  author = {{Perplexity} and Aleksandr Bogutskii and Aleksandr Nikolenko and Aleksei Bykov and Alexander Pecheny and Alexandr Yarats and Arsenii Shevchenko and Denis Bykov and Dmitry Pervukhin and Ismail Gadzhiev and James Liounis and Kevin Hu and Kirill Priemko and Maksim Gaiduk and Maksim Morozov and Marko Kevac and Michael Liang and Mikhail Galanin and Nandor Licker and Nataliya Pevgova and Nikita Kireev and Nikolai Tretiak and Paul Schofield and Saif Ali Raja and Saleh Alghusson and Sebastian Sepulveda and Sergei Miller and Svyatoslav Feldsherov and Vitalii Polshkov and Vladimir Zaytsev and Denis Yarats},
  title = {{Architecting and evaluating an AI-first Search API}},
  date = {2025-09-25},
  url = {https://www.perplexity.ai/hub/blog/architecting-and-evaluating-an-ai-first-search-api}
}