Agent API-дің барлық күш-жігер деңгейлеріндегі жақсартулар

Perplexity Agent API-дегі күш-жігер деңгейлері әзірлеушілерге әр тапсырма үшін құн, жылдамдық және зерттеу тереңдігі арасындағы тепе-теңдікті таңдауға мүмкіндік береді. Бүгіннен бастап әр күш-жігер деңгейінің бір сұрауға шаққандағы құны төмендеді, ал зерттеу сапасы жоғарылады немесе өзгеріссіз қалды. Ең ауқымды әрі жан-жақты зерттеулер үшін жаңа ultra деңгейі қолжетімді. Деңгейді атауы бойынша таңдайтын кез келген сұрау, мысалы effort="fast", жаңартылған конфигурацияны автоматты түрде алады.

Зерттеу агентін құру әр тапсырма үшін құн, жылдамдық және тереңдік арасындағы дұрыс тепе-теңдікті таңдауды білдіреді. Agent API-дегі күш-жігер деңгейлері бұл шешімді пайдаланушының орнына қабылдайды. Әр деңгей — белгілі бір тапсырма түрі үшін модельді, қадам бюджетін, іздеу параметрлерін және құралдарды анықтайтын біріктірілген конфигурация. Perplexity әр деңгейді уақыт өте келе бағалап, жаңартып отырады, осылайша ағымдағы құнмен немесе одан төмен құнмен ең үздік зерттеуді ұсынады.

Бұл жетістіктер өзгерістің екі түрінен туындады. Бюджеттер, контекстті басқару және мазмұнды шығарып алу әр іске қосудың құнын төмендетті, ал Skill-дер, модель таңдау және параллель агенттер жауап сапасын арттырды немесе сақтап қалды.

medium өнімділігі BrowseComp пен DSQA бойынша 55%-дан 77%-ға дейін артты, ал шығындар 90%-ға жуық азайды. BrowseComp пен DSQA — ашық зерттеу бенчмарктері; WANDR — Perplexity-дің көп нысанды ұзақ зерттеу тапсырмаларына арналған бенчмаркі. xhigh агенттік жұмыстарды орындайды: Sandbox-та код іске қосады, құралдарды пайдаланудың ұзақ циклдерін жүргізеді және бір мезгілде көптеген дереккөздермен жұмыс істейді. xhigh 2026 жылғы тамыздағы конфигурация құнының шамамен 25%-ымен жұмыс істей отырып, WANDR ұпайын 76,5% деңгейінде сақтап қалды.

Терең зерттеу сұрауы жауап бермес бұрын ондаған іздеу жүргізіп, жүздеген бетті оқып, дәлелдерді тексеруі мүмкін. Осы әрекеттердің әрқайсысы контекстке токен, ал шотқа доллар қосады. Шектеулер болмаса, агент жауапты жақсартпай-ақ құнды арттырып, контексті толтыратын әрекеттерді жасай береді. Бұл құнның басым бөлігін бес фактор анықтайды:

Бюджетті бөлу. Белгіленген бюджеті бар агенттердің қадамдары таусылып, тапсырманы аяқтамай тұрып жұмысын мерзімінен бұрын тоқтатуы мүмкін. Керісінше, тіркелген бюджеті жоқ агенттер соңғы жауапты жақсартпай, шығын шығара отырып жұмысын жалғастыра беруі мүмкін.
Контекст жүктемесі. Іздеу нәтижелері мен алынған беттер дәлелдерді қамтиды, бірақ бақыланбаса, контекст терезесі қатысы жоқ ақпаратқа тез толып кетуі мүмкін. Контекст терезелері шығындарды қадамнан қадамға өткізеді, ал шамадан тыс толған терезелер агенттің өнімділігін төмендетуі мүмкін.
Жұмыс процесін таңдау. Әр түрлі тапсырмаларға әр түрлі тәсіл қажет. Бір фактіні іздеу, көп сатылы сұрақ және дереккөздерге кең шолу жасау — әрқайсысы өзгеше жұмыс процесін талап етеді. Таңдауды өзіне қалдырса, модель көбіне тиімсіз жұмыс процесін таңдайды. Агент промптында барлық қолжетімді стратегияны егжей-тегжейлі сипаттау бұл мәселені шешпейді. Қосымша нұсқаулар әр қадамда токен ретінде жүктеледі, ал модель уақыт өте келе олардың әрқайсысын азырақ сенімділікпен орындайды.
Модель таңдау. Үлкенірек модельге ауысу қосымша шығынға сай өнімділікті жақсартпауы мүмкін. Жаңа модельдер жарқын тақырыптармен және жарияланған бенчмарк нәтижелерімен шығады. Алайда бенчмарктегі жетістіктер деректердің ластануынан туындауы немесе модельдің шамадан тыс бейімделуін көрсетуі мүмкін. Нақты тапсырмаларда бағаламай, модельді ауыстыру сапаны арттырмай, шығындарды арттыруы мүмкін.
Көп агентті масштабтау. Бір агент бір іске қосу барысында шектеулі дереккөздер санын іздеп, оқып, талдай алады. Бірнеше агентті параллель іске қосу ең күрделі тапсырмалардағы сапаны арттырады, бірақ шығындарды да көбейтеді және дұрыс басқарылмаса, күрделілік туғызады.

Осы мәселелердің әрқайсысын шешу өнімділікті төмендетпей, әр күш-жігер деңгейінің шығындарын азайтты.

Әр күш-жігер деңгейінің үш құрамдас бөліктен тұратын тіркелген зерттеу бюджеті бар:

Қадам шектері: агент жасай алатын жүрістер саны
Құрал шақырулары: сұраудағы құрал шақыруларының жалпы санына қойылатын шек. Бір қадам бір мезгілде бірнеше құралға бірнеше шақыру жасай алады, сондықтан тек қадам шегі бір қадам ішінде қанша әрекет орындалатынын бақыламайды.
Бюджет туралы еске салғыштар: қанша қадам қалғаны туралы мерзімді хабарламалар, осылайша агент тапсырма ортасында бюджеті таусылып қалмай, басымдықтарды белгілеп, жауап жазуға орын қалдыра алады.

Бюджет — басты компромисс: қадамдар көп болған сайын жауаптар жақсарады, бірақ әр қадам шығын әкеледі. openai/gpt-6-luna моделінде қадам шегін 1-ден 15-ке дейін көтеру BrowseComp + DSQA бойынша дәлдікті 41%-дан 80%-ға дейін арттырады, ал бір сұрауға шаққандағы құн 0,0017 $-дан 0,0152 $-ға дейін өседі: шамамен 2 есе жоғары ұпай үшін шамамен 9 есе көп шығын.

Тек қадам шегі зерттеу құнын бақыламайды. Бірдей бес қадамдық бюджетте openai/gpt-6.1-terra моделі openai/gpt-6-luna моделіне қарағанда көбірек құрал шақыруын жасайды, себебі қабілеттірек модельдер бір қадамда бірнеше шақыру жасауға бейім. Күш-жігер деңгейлері құрал шақыруларын да, қадамдарды да шектейді. Бұл модельдер үшін құрал шақыру шегі қадам шегі сияқты маңызды.

Әр күш-жігер деңгейі осы шектеулерді баптайды, бірақ агент сұрауды орындау үшін қанша қадам мен әрекет қалғанын да білуі керек. Бұл ақпарат болмаса, оның қадамдары не әрекеттері таусылып, зерттеу аяқталмай тұрып жауап беруге мәжбүр болуы мүмкін. Бюджет іске қосудың басында көрсетіледі, ал агент шектеулеріне жақындаған кезде еске салғыштар келеді, осылайша нәтижелерді тексеріп, ұсынуға мүмкіндік қалады. high деңгейінде еске салғыштар қадам бюджетін де, құрал шақыру бюджетін де қамтиды.

Екі агент — біреуі бюджет туралы еске салғышпен, екіншісі онсыз — BrowseComp тапсырмасында сыналды: үш актердің өмірбаяны бойынша 1990 жылдардағы телехикаяны анықтау керек болды. Еске салғышы бар агент бюджеттегі 40 қадамның 13-ін пайдаланып, дұрыс жауапты тапты. Бюджет туралы еске салғышы жоқ агент 40 қадамның бәрін жұмсап, дұрыс жауапты таппады. Сол агенттің циклі күтпеген жерден аяқталды, ал модель қалған зерттеу бюджеті туралы білмеді. Еске салғыштар агенттердің назарын шоғырландырып, қалған ресурстарға тиімді басымдық беруге көмектеседі.

Ұзақ зерттеу тапсырмалары модельдің контекст терезесін іздеу нәтижелерімен, алынған беттермен және аралық жазбалармен толтырады. Терезе толған соң агент жұмысын тоқтатуға мәжбүр болады.

Ықшамдау ұзақ іске қосуларды контекст терезесін толтырмай жалғастыруға мүмкіндік береді. Контекст белгілі бір шектен асқанда, агент осы уақытқа дейінгі жұмысты не тапқаны және не қалғаны туралы қысқаша түйінмен алмастырады да, жұмысын жалғастырады.

Ықшамдау кезінде контексте үнемі үш нәрсе сақталады: жүйелік промпт, бастапқы сұрау және агент бұрын жүктеген кез келген Skill-дер. Әр ықшамдаудан кейін агент екі қысқа нұсқау алады. Бірінші нұсқау: «Тапсырма орындалғанша жұмысты жалғастыр». Бұл агенттің қорытындыны тоқтау нүктесі ретінде қабылдауына жол бермейді. Екінші нұсқау агентке қанша ықшамдау болғанын хабарлайды, осылайша ол қалған зерттеу тапсырмаларын жоспарлай алады. Ұзақ іске қосулар бастапқы мақсат пен жоспарды назардан тыс қалдырмайды, ал ұзақ циклдердің құны сапа төмендемей азаяды.

Агент оқыған әр бет оның контекстіне қосылады және агент оны кейінгі әр қадамда өзімен бірге алып жүреді. Веб-бетте навигация, шаблондық мәтін және басқа мазмұн сияқты сұраққа қатысы жоқ ақпарат болады.

Агентке бүкіл бетті беру орнына, fetch_url алдымен мазмұнды шығарып алу кезеңін іске қосады. Бет мәтіні агенттің ағымдағы тапсырмасымен бірге кішірек модельге жіберіледі. Модель тек қатысты үзінділерді агент оларға сілтеме жасай алатындай етіп сөзбе-сөз дәйексөз түрінде қайтарады. Бағалау кезінде 5 561 токендік бет 293 токенге дейін қысқарып, қосымша қатысты контекстке орын босатты.

fetch_url құралын high күш-жігер деңгейінде мазмұнды шығарып алу функциясымен пайдалану бір сұрауға шаққандағы кіріс токендерін шамамен 50%-ға қысқартты. Мазмұнды шығарып алу бенчмарк нәтижелерін де жақсартты: бір сұрауға 0,073 $ шығынмен 88,0% көрсеткішке жетті, ал онсыз бұл көрсеткіш 0,094 $ шығынмен 83,5% болды.

Веб-іздеу — агенттің әрбір зерттеу сұрауының негізі. Агенттердің іздеу тәсіліне үш өзгеріс енгізілді:

Әр іздеуге көбірек контекст: Енді әр іздеу 2 мың токеннің орнына 4 мың токенге дейін нәтиже қайтарады. Агент қажетін тезірек табады, нәтижесінде іздеулер азаяды және құны төмендейді.

Жаңа үзінді қозғалтқышы: Іздеу нәтижелері сұрауға жақсырақ сәйкес келетін үзінділер алады, сондықтан агент қатысы жоқ мәтінге толып қалмайды.
Жылдам іздеу: 1 000 сұрауға 1,00 $ бағасымен Fast Search әр іздеу шақыруының құнын да, кідірісін де азайтады.

Perplexity Search командасы тапсырмалардың кең ауқымында іздеу сапасын үздіксіз жақсартып келеді. Соңғы жаңартулар код, әзірлеуші құжаттамасы, анықтамалық беттер, заң және нормативтік мазмұн бойынша жақсартулар әкелді.

Кейбір тапсырмалар көптеген іздеулерді параллель жүргізуді талап етеді; басқаларына бірнеше ұзақ құжатты мұқият оқу қажет.

Алайда әр жұмыс процесін агенттің жүйелік промптына жүктеу контекст жүктемесін арттырады және модельдің қарапайым тапсырмаларда нашар нәтиже көрсетуіне әкелуі мүмкін. Оның орнына Skill-дер біртіндеп ашылатын ағаш құрылымына ұйымдастырылған. Модель жұмыс барысында қатысты Skill-дер мен нұсқауларды жүктейді, ал қатысы жоқ ақпаратты контекстінен тыс қалдырады. Модель Skill тапсырмаға сәйкес келеді деп шешіп, оны жүктегенге дейін әр Skill тек атауы мен сипаттамасы көлемінде ғана орын алады; жүктелгеннен кейін толық нұсқаулар контекстке қосылады және модель белгіленген жұмыс процесін орындайды.

Жеке Skill-дердің үлесін өлшеу үшін базалық агент сол Skill-ді жүктеген тапсырмаларда сапа мен құнды салыстыру мақсатында әр Skill кезекпен бір-бірден алынып тасталады. Бұл абляциялар қандай жұмыс процестерінің агентке көмектесетінін және олардың зерттеу тиімділігіне қалай әсер ететінін көрсетеді.

Төмендегі WANDR бенчмаркінің іске қосулары агенттердің нақты тапсырмалар үшін дұрыс жұмыс процестерін таңдайтынын көрсетеді. Бірнеше нысанды зерттеу қажеттілігін ескере отырып, wide-search және fanout нұсқаулықтары әр тапсырма үшін жүктелді. People-search тапсырмалардың тек 6%-ында ғана, тек сұрақтар адамдарға қатысты болған кезде жүктелді.

WANDR-дың тағы бір тапсырмасын сынау кезінде агент Лондондағы инференс инженерлерін табу үшін fanout үлгісімен people-search Skill-ін жүктеді. Ол 39 рөл терминін 117 сұрауға кеңейтті, содан кейін бірінші өту нәтижелерін әрі қарай іріктеу үшін 43 бірегей профильге біріктірді. people-search Skill-і агентке қатысы жоқ контекст қоспай, осы кеңейту барысында бағыт берді. Төмендегі үзінді агенттің скриптінен бейімделген; көмекші атаулар мысал ретінде берілген.

code1

text

Python

# roles contains the 39 role variants selected by the agent.
queries = []
for role in roles:
    queries.extend([
        {"query": f"Google DeepMind {role} London"},
        {"query": f"Google {role} London"},
        {"query": role, "company": "Google", "location": "London"},
    ])

results = pplx_sdk.search.people_many(
    queries, limit_per_query=50, concurrency=8
)

profiles = {}
for result in results:
    if not result.ok:
        continue
    for profile in result.result:
        if "linkedin.com/in/" not in profile.url:
            continue
        url = profile.url.split("?")[0].rstrip("/")
        previous = profiles.get(url, {})
        if url not in profiles or len(profile.summary or "") > len(
            previous.get("summary") or ""
        ):
            profiles[url] = {
                "url": url,
                "title": profile.title,
                "summary": profile.summary,
            }

Бақылау нүктелерін сақтау — агенттерге ұзақ тапсырмаларда көмектесетін тағы бір жұмыс процесі. Бақылау нүктесі үлгісі пакеттік бағдарламалаудан шыққан. Скрипт ұзын тізімді өңдегенде, бәрін соңына дейін жадта ұстамай, әр нәтижені алған бойда дискке жазады. Егер скрипт жартылай жолда істен шықса немесе қателерге тап болса, ештеңе жоғалмайды: келесі іске қосу бұрын сақталғанды оқып, тоқтаған жерінен жалғастырады және тек сәтсіз аяқталған элементтерді қайталайды.

WANDR-дың тағы бір тапсырмасында агент 188 инженердің профилін іріктеуі керек болды. Ол жұмыс барысында әр нәтижені жазып отыру үшін бақылау нүктесі үлгісін жүктеді. Бірінші өту 160 профильді шығарып алды, бірақ 28 профильде сәтсіз аяқталды. Агент скриптті қайта іске қосқанда, бұрын жазылған профильдерді өткізіп жіберіп, тек қалған 28 профильді қайталап өңдеді. Бақылау нүктесі болмаса, бір ғана ақаулы жазба барлық 188 профильді қайта алуды талап етер еді.Бейімделген Python үзіндісі; кіріс беттері, іріктеу нұсқауы, схема және импорттар алынып тасталған; көмекші атаулар мысал ретінде берілген.

code 2

text

Python

checkpoint = Checkpoint("research/profile-screening")
config = instruction + json.dumps(schema)
config_id = hashlib.md5(config.encode()).hexdigest()[:6]

def checkpoint_key(page):
    url_id = hashlib.md5(page["url_in"].encode()).hexdigest()[:10]
    return config_id + url_id

pending = [
    page for page in pages if not checkpoint.has(checkpoint_key(page))
]
for offset in range(0, len(pending), 20):
    batch = pending[offset : offset + 20]
    inputs = [
        json.dumps({
            "url": page["url_in"], "content": page["content"][:30_000]
        })
        for page in batch
    ]
    results = pplx_sdk.llm.extract_many(
        inputs,
        instruction=instruction,
        output_schema=schema,
        chunk_size=5,
        concurrency=4,
    )
    for page, result in zip(batch, results):
        if not result.ok or result.result.error:
            continue
        checkpoint.record(
            checkpoint_key(page),
            [{"url": page["url_in"], **result.result.result}],
        )

Бақылау нүктесі сәтті нәтижелерді жазып алады; ол қайталап іске қосуларды бастамайды. Кілтке нұсқау мен схеманы енгізу іріктеу критерийлері өзгерген жағдайда деректердің қайта өңделуін қамтамасыз етеді.

Әрбір сынақ сапа мен тиімділікті арттыра бермеді. Агент тапсырманы бастамас бұрын барлық Skill-дерді алдын ала жүктеу тәсілі бағаланды. BrowseComp пен DSQA бойынша алдын ала жүктеу құнды 13%-ға арттырды. Ұзағырақ зерттеу траекториялары алынған мазмұнды кіріс токендерінің үлкенірек үлесіне айналдыратын WANDR-да алдын ала жүктеу ұпайларды да төмендетеді. Бұл нәтижелер біртіндеп ашу тәсілін қолдануды жалғастыруды негіздеді.

Модельдердің мүмкіндіктері дамыған сайын, әр күш-жігер деңгейі үшін ең үздік модель де өзгереді. Perplexity жаңа модельдер туралы хабарландырулар мен олардың қолжетімділігін бақылайтын автоматтандырылған зерттеу циклін пайдаланады. Модель қолжетімді болған бойда бағалау іске қосылады.

Жаңа модель шыққанда, автоматтандырылған агент оны бағалау harness-і арқылы өткізеді. Ол пайымдау күш-жігерін, қадам және құрал шақыру бюджеттерін, құрал конфигурацияларын жүйелі түрде сынап, әр іске қосуды ағымдағы күш-жігер деңгейлерімен салыстыра отырып, сапа мен құн бойынша бағалайды. Іске қосу нәтижесі нашарласа, агент оның себебін зерттеп, параметрлерді түзетеді де, бағалауды қайта жүргізеді. Үміткер модель ағымдағы модельді тек сол немесе одан төмен құнмен сапа жағынан озған жағдайда ғана алмастырады.

Ашық бенчмарктер пайдалы, бірақ олардың нәтижелері нақты өмірдегі тапсырмаларға әрдайым сәйкес келе бермейді. Мысалы, төмендегі диаграммада BrowseComp бойынша базалық деңгейден 13,3 ұпайға жоғары нәтиже көрсеткен, бірақ ішкі корпоративтік, заң және қаржы саласындағы зерттеу тапсырмаларында тиісті базалық деңгейлерден әлдеқайда төмен болған үміткер модель көрсетілген.

Бір агент бір циклде шектеулі дереккөздерді ғана қамти алады. Күрделі тапсырмаларда бірнеше агент параллель жұмыс істейді, әрқайсысы мәселенің әр түрлі бөлігімен айналысады.

Негізгі агент — оркестратор. Ол еншілес агенттерді құру үшін spawn_agent шақырады және әрқайсысына нақты, шоғырланған тапсырма береді. Әр еншілес агент өз моделін, құралдарын және қадам бюджетін пайдаланып, бөлек контекстпен өз зерттеу циклін жүргізеді. Еншілес агенттер нәтижелерін ата-агентке жібереді, ал ол еншілес агентке қосымша тапсырма жіберуі немесе оның барысын тексеруі мүмкін. Оркестратор мен оның еншілес агенттері дәлелдермен бөлісу, кедергілер туралы хабарлау және келесі қадамдарды түзету үшін хабар алмасады. Жаңа ақпарат түскен сайын оркестратор тапсырмаларды нақтылайды, ал жұмыс аяқталғанда нәтижелерді біртұтас жауапқа біріктіреді.

Agent API алдын ала анықталған агент рөлдерін қолдайды, ал оркестратор арнаулы нұсқаулары бар еншілес агенттерді құра алады.

ultra күш-жігер деңгейі бір тапсырмада үш агентті параллель іске қосады. Әр агент бүкіл тапсырманы өз бетінше зерттейді, нәтижесінде әр түрлі дәлелдер жинақталады. Төртінші агент олардың нәтижелерін біріктіріп, қайталануларды алып тастайды және соңғы жауапты жазады.

WANDR бойынша ultra бір тапсырмаға 21,71 $ шығынмен 85,9% ұпай жинайды. Бұл — сыналған конфигурациялар арасындағы ең жоғары көрсеткіш.

Күш-жігер деңгейлері үздіксіз бағаланып, жетілдіріліп отырады. Пайдаланушы таңдаған деңгей тапсырмаға қаншалықты зерттеу жүргізілетінін және оның қанша тұратынын анықтайды. Қадам және құрал шақыру бюджеттері мен олар таусылуға жақындағанда берілетін еске салғыштар сұрауларды бюджет шегінде ұстайды. Ықшамдау, мазмұнды шығарып алу және жақсартылған үзінділер контексті дәлелдерге шоғырландырады. Skill-дер жұмыс процесін тапсырмаға сәйкестендіреді, ал параллель агенттер бір цикл қамти алатын ауқымды кеңейтеді. Автоматтандырылған бағалау циклі жаңа модельді тек сол құнмен зерттеу сапасын жақсартқан жағдайда ғана қабылдайды.

Жаңа модельдер мен конфигурациялар бағалауда өздерін дәлелдеген сайын, әр күш-жігер деңгейі дами береді. Деңгейді атауы бойынша шақырғанда, бұл жақсартулар автоматты түрде қолданылады; нұсқаны бекіту конфигурацияны өзгеріссіз сақтайды.

Agent API-ді қолданып көріңіз және күш-жігер деңгейлерін өз жұмыс жүктемелеріңізде салыстырыңыз. Күш-жігер деңгейлері туралы толық ақпаратты Agent API күш-жігер құжаттамасынан табыңыз.

Зерттеудің құны

Зерттеу бюджетін басқару

Контекстті басқару

Ықшамдау

Тек маңыздысын алу

Шоғырланған веб-іздеу

Дұрыс жұмыс процесін таңдау

Модель таңдау

Көп агентті масштабтау

Алдағы жоспарлар