ప్రతి Agent API ప్రయత్న స్థాయికి మెరుగుదలలు

Perplexity Agent APIలోని ప్రయత్న స్థాయిలు డెవలపర్‌లు ప్రతి టాస్క్‌కు ఖర్చు, వేగం, పరిశోధన లోతుల మధ్య సమతుల్యాన్ని ఎంచుకునేలా చేస్తాయి. ఈ రోజు నుండి, ప్రతి ప్రయత్న స్థాయి ఒక్కో క్వెరీకి తక్కువ ఖర్చుతో లభిస్తుంది, పరిశోధన నాణ్యత మెరుగ్గా లేదా మునుపటిలాగే ఉంటుంది. అత్యంత విస్తృతమైన, సమగ్రమైన పరిశోధన కోసం కొత్త ultra స్థాయి అందుబాటులో ఉంది. effort="fast", వంటి పేరుతో స్థాయిని ఎంచుకునే ఏ అభ్యర్థన అయినా అప్‌డేట్ చేసిన కాన్ఫిగరేషన్‌ను ఆటోమేటిక్‌గా పొందుతుంది.

పరిశోధన ఏజెంట్‌ను రూపొందించడం అంటే ప్రతి టాస్క్‌కు ఖర్చు, వేగం, లోతుల మధ్య సరైన సమతుల్యాన్ని ఎంచుకోవడం. Agent APIలోని ప్రయత్న స్థాయిలు ఆ నిర్ణయాన్ని వినియోగదారుని తరఫున తీసుకుంటాయి. ప్రతి స్థాయి ఒక నిర్దిష్ట టాస్క్ రకం కోసం మోడల్, దశల బడ్జెట్, సెర్చ్ సెట్టింగ్‌లు, టూల్‌లను నిర్వచించే ఒక బండిల్ చేసిన కాన్ఫిగరేషన్. ప్రతి స్థాయి దాని ప్రస్తుత ఖర్చుతో లేదా అంతకంటే తక్కువ ఖర్చుతో అత్యుత్తమ పరిశోధనను అందించేలా Perplexity కాలక్రమేణా దానిని మూల్యాంకనం చేసి అప్‌డేట్ చేస్తుంది.

ఈ మెరుగుదలలు రెండు రకాల మార్పుల వల్ల వచ్చాయి. బడ్జెట్‌లు, కాంటెక్స్ట్ నిర్వహణ, ఎక్స్‌ట్రాక్షన్ ప్రతి రన్ ఖర్చును తగ్గించాయి; నైపుణ్యాలు, మోడల్ ఎంపిక, సమాంతర ఏజెంట్‌లు సమాధాన నాణ్యతను పెంచాయి లేదా నిలబెట్టాయి.

medium పనితీరు BrowseComp, DSQAలలో 55% నుండి 77%కి మెరుగుపడింది, అదే సమయంలో ఖర్చులు దాదాపు 90% తగ్గాయి. BrowseComp, DSQA పబ్లిక్ పరిశోధన బెంచ్‌మార్క్‌లు; WANDR అనేది సుదీర్ఘమైన, బహుళ-ఎంటిటీ పరిశోధన టాస్క్‌లపై Perplexity రూపొందించిన బెంచ్‌మార్క్. xhigh శాండ్‌బాక్స్‌లో కోడ్‌ను అమలు చేయడం, సుదీర్ఘ టూల్-వినియోగ లూప్‌లను కొనసాగించడం, ఒకేసారి అనేక సోర్స్‌లలో పని చేయడం వంటి ఏజెంటిక్ పనిని చేస్తుంది. xhigh ఆగస్టు 2026 కాన్ఫిగరేషన్ ఖర్చులో సుమారు 25% వద్ద నడుస్తూనే తన WANDR స్కోర్‌ను 76.5% వద్ద నిలుపుకుంది.

ఒక లోతైన పరిశోధన అభ్యర్థన సమాధానం ఇవ్వడానికి ముందు డజన్ల కొద్దీ సెర్చ్‌లను నడపవచ్చు, వందలాది పేజీలను చదవవచ్చు, ఆధారాలను తనిఖీ చేయవచ్చు. ఆ చర్యల్లో ప్రతి ఒక్కటీ కాంటెక్స్ట్‌కు టోకెన్‌లను, బిల్లుకు డాలర్లను జోడిస్తుంది. పరిమితులు లేకపోతే, ఏజెంట్ సమాధానాన్ని మెరుగుపరచకుండానే ఖర్చును పెంచే, కాంటెక్స్ట్‌ను నింపేసే చర్యలను తీసుకుంటూనే ఉంటుంది. ఆ ఖర్చులో ఎక్కువ భాగానికి ఐదు అంశాలు కారణమవుతాయి:

బడ్జెట్ కేటాయింపు. నిర్ణీత బడ్జెట్ ఉన్న ఏజెంట్‌లకు దశలు అయిపోయి, తమ టాస్క్‌ను పూర్తి చేయకముందే రన్ త్వరగా ముగిసిపోవచ్చు. దీనికి విరుద్ధంగా, స్థిర బడ్జెట్ లేని ఏజెంట్‌లు తుది సమాధానాన్ని మెరుగుపరచకుండానే ఖర్చులు పెంచుతూ నడుస్తూనే ఉండవచ్చు.
కాంటెక్స్ట్ ఓవర్‌హెడ్. సెర్చ్ ఫలితాలు, ఫెచ్ చేసిన పేజీలు ఆధారాలను అందిస్తాయి, కానీ నియంత్రించకపోతే కాంటెక్స్ట్ విండో త్వరగా అసంబద్ధమైన సమాచారంతో నిండిపోతుంది. కాంటెక్స్ట్ విండోల ఖర్చులు ఒక దశ నుండి మరో దశకు కొనసాగుతాయి, అతిగా నిండిన విండోలు ఏజెంట్ పనితీరును తగ్గించవచ్చు.
వర్క్‌ఫ్లో ఎంపిక. వేర్వేరు టాస్క్‌లకు వేర్వేరు విధానాలు అవసరం. ఒకే వాస్తవాన్ని వెతకడం, మల్టీ-హాప్ ప్రశ్న, సోర్స్‌ల విస్తృత సర్వే — ఒక్కో దానికి ఒక్కో వర్క్‌ఫ్లో అవసరం. సొంతంగా ఎంచుకునే అవకాశం ఇస్తే, మోడల్ తరచుగా అసమర్థమైన వర్క్‌ఫ్లోను ఎంచుకుంటుంది. అందుబాటులో ఉన్న ప్రతి వ్యూహాన్ని ఏజెంట్ ప్రాంప్ట్‌లో వివరించడం ఈ సమస్యను పరిష్కరించదు. అదనపు సూచనలు ప్రతి దశలోనూ టోకెన్‌లుగా మోసుకెళ్లబడతాయి, కాలక్రమేణా మోడల్ వాటిలో ప్రతిదాన్నీ తక్కువ విశ్వసనీయంగా పాటిస్తుంది.
మోడల్ ఎంపిక. పెద్ద మోడల్‌కు మారడం వల్ల అదనపు ఖర్చుకు తగిన మెరుగైన పనితీరు లభించకపోవచ్చు. కొత్త మోడల్‌లు ప్రచార శీర్షికలతో, ప్రచురించిన బెంచ్‌మార్క్ స్కోర్‌లతో వస్తాయి. అయితే, బెంచ్‌మార్క్ మెరుగుదలలు కలుషితమై ఉండవచ్చు లేదా మోడల్ ఓవర్‌ఫిట్టింగ్‌ను ప్రతిబింబించవచ్చు. వాస్తవ టాస్క్‌లపై మూల్యాంకనం లేకుండా, మోడల్ మార్పు నాణ్యతను పెంచకుండానే ఖర్చులను పెంచవచ్చు.
మల్టీ-ఏజెంట్ స్కేలింగ్. ఒకే ఏజెంట్ ఒక రన్‌లో పరిమిత సంఖ్యలో సోర్స్‌లను మాత్రమే సెర్చ్ చేయగలదు, చదవగలదు, విశ్లేషించగలదు. అనేక ఏజెంట్‌లను సమాంతరంగా నడపడం అత్యంత క్లిష్టమైన టాస్క్‌లలో నాణ్యతను మెరుగుపరుస్తుంది, కానీ ఖర్చులను కూడా పెంచుతుంది, సరిగ్గా నిర్వహించకపోతే సంక్లిష్టతను తెచ్చిపెడుతుంది.

ఈ సవాళ్లలో ప్రతిదాన్నీ పరిష్కరించడం వల్ల పనితీరు తగ్గకుండానే ప్రతి ప్రయత్న స్థాయి ఖర్చులు తగ్గాయి.

ప్రతి ప్రయత్న స్థాయికి మూడు భాగాలతో కూడిన స్థిరమైన పరిశోధన బడ్జెట్ ఉంటుంది:

దశల పరిమితులు: ఏజెంట్ తీసుకోగల టర్న్‌ల సంఖ్య
టూల్ కాల్‌లు: ఒక అభ్యర్థనలోని మొత్తం టూల్ కాల్‌ల సంఖ్యపై పరిమితి. ఒకే దశ ఒకేసారి అనేక టూల్‌లలో అనేక కాల్‌లు చేయగలదు, కాబట్టి కేవలం దశల పరిమితి ఒక దశలో ఎన్ని చర్యలు జరుగుతాయో నియంత్రించదు.
బడ్జెట్ రిమైండర్‌లు: ఎన్ని దశలు మిగిలి ఉన్నాయో తెలియజేసే ఆవర్తన నోటీసులు, తద్వారా టాస్క్ మధ్యలో బడ్జెట్ అయిపోకుండా, ఏజెంట్ ప్రాధాన్యతలను నిర్ణయించుకుని సమాధానం రాయడానికి అవకాశం ఉంచుకోగలదు.

బడ్జెట్ అనేది కీలకమైన ట్రేడ్‌ఆఫ్: ఎక్కువ దశలు అంటే మెరుగైన సమాధానాలు, కానీ ప్రతి దశకూ ఖర్చవుతుంది. openai/gpt-6-luna‌తో దశల పరిమితిని 1 నుండి 15కి పెంచితే, BrowseComp + DSQAలో కచ్చితత్వం 41% నుండి 80%కి పెరుగుతుంది, అదే సమయంలో ఒక్కో క్వెరీ ఖర్చు $0.0017 నుండి $0.0152కి పెరుగుతుంది — అంటే సుమారు 2x స్కోర్‌కు సుమారు 9x ఖర్చు.

కేవలం దశల పరిమితి పరిశోధన ఖర్చును నియంత్రించదు. అదే ఐదు దశల బడ్జెట్‌లో, openai/gpt-6.1-terra openai/gpt-6-luna కంటే ఎక్కువ టూల్ కాల్‌లు చేస్తుంది, ఎందుకంటే మరింత సామర్థ్యం గల మోడల్‌లు ఒకే దశలో అనేక కాల్‌లు చేసే ధోరణిని కలిగి ఉంటాయి. ప్రయత్న స్థాయిలు టూల్ కాల్‌లు, దశలు రెండింటిపైనా పరిమితి విధిస్తాయి. ఈ మోడల్‌లకు, దశల పరిమితి ఎంత ముఖ్యమో టూల్-కాల్ పరిమితి కూడా అంతే ముఖ్యం.

ప్రతి ప్రయత్న స్థాయి ఈ పరిమితులను ట్యూన్ చేస్తుంది, కానీ అభ్యర్థనను పూర్తి చేయడానికి తనకు ఇంకా ఎన్ని దశలు, చర్యలు మిగిలి ఉన్నాయో కూడా ఏజెంట్‌కు తెలియాలి. ఆ సమాచారం లేకపోతే, దశలు లేదా చర్యలు అయిపోయి, పరిశోధన పూర్తి కాకముందే సమాధానం ఇవ్వాల్సిన పరిస్థితి ఏర్పడవచ్చు. రన్ ప్రారంభంలోనే బడ్జెట్‌ను తెలియజేస్తారు, ఏజెంట్ తన పరిమితులను సమీపిస్తున్నప్పుడు రిమైండర్‌లు వస్తాయి, కాబట్టి ఫలితాలను ధృవీకరించి అందించడానికి తగినంత అవకాశం ఉంటుంది. high స్థాయిలో, రిమైండర్‌లు దశల బడ్జెట్, టూల్-కాల్ బడ్జెట్ రెండింటినీ కవర్ చేస్తాయి.

రెండు ఏజెంట్‌లను — ఒకదానికి బడ్జెట్ రిమైండర్ ఇచ్చి, మరొకదానికి ఇవ్వకుండా — ముగ్గురు నటీనటుల జీవిత చరిత్రల ఆధారంగా 1990ల నాటి ఒక టీవీ సిరీస్‌ను గుర్తించాల్సిన BrowseComp టాస్క్‌పై పరీక్షించారు. రిమైండర్ ఉన్న ఏజెంట్ బడ్జెట్‌లోని 40 దశల్లో 13 దశలను ఉపయోగించి సరైన సమాధానాన్ని కనుగొంది. బడ్జెట్ రిమైండర్ లేని ఏజెంట్ మొత్తం 40 దశలనూ ఉపయోగించినా సరైన సమాధానాన్ని కనుగొనలేదు. ఆ ఏజెంట్ లూప్ అనూహ్యంగా ముగిసింది, మిగిలిన పరిశోధన బడ్జెట్ గురించి మోడల్‌కు తెలియలేదు. రిమైండర్‌లు ఏజెంట్‌లు లక్ష్యంపై దృష్టి నిలిపేలా చేస్తాయి, మిగిలిన వనరులను సమర్థవంతంగా ప్రాధాన్యత క్రమంలో వినియోగించుకోవడంలో వాటికి సహాయపడతాయి.

సుదీర్ఘంగా నడిచే పరిశోధన టాస్క్‌లు మోడల్ కాంటెక్స్ట్ విండోను సెర్చ్ ఫలితాలు, ఫెచ్ చేసిన పేజీలు, మధ్యంతర నోట్స్‌తో నింపుతాయి. అది నిండిపోయాక, ఏజెంట్ పని ఆపేయాల్సి వస్తుంది.

కంపాక్షన్ కాంటెక్స్ట్ విండోను నింపకుండానే సుదీర్ఘ రన్‌లు పని చేస్తూ ఉండేలా చేస్తుంది. కాంటెక్స్ట్ ఒక పరిమితిని దాటినప్పుడు, ఏజెంట్ అప్పటివరకు చేసిన పనిని — తాను కనుగొన్నది, ఇంకా మిగిలి ఉన్నది — ఒక చిన్న సారాంశంతో భర్తీ చేసి, ఆపై కొనసాగుతుంది.

కంపాక్షన్ ఎల్లప్పుడూ మూడు అంశాలను కాంటెక్స్ట్‌లో నిలుపుకుంటుంది: సిస్టమ్ ప్రాంప్ట్, అసలు అభ్యర్థన, ఏజెంట్ ఇప్పటికే లోడ్ చేసిన నైపుణ్యాలు. ప్రతి కంపాక్షన్ తర్వాత, ఏజెంట్‌కు రెండు చిన్న సూచనలు అందుతాయి. మొదటి సూచన: ‘టాస్క్ పూర్తయ్యే వరకు పని కొనసాగించండి.’ ఇది ఏజెంట్ సారాంశాన్ని ఆపే స్థానంగా భావించకుండా నిరోధిస్తుంది. రెండవ సూచన ఇప్పటివరకు ఎన్ని కంపాక్షన్‌లు జరిగాయో ఏజెంట్‌కు తెలియజేస్తుంది, తద్వారా అది తన మిగిలిన పరిశోధన టాస్క్‌లను ప్లాన్ చేసుకోగలదు. సుదీర్ఘ రన్‌లు అసలు లక్ష్యాన్ని, ప్లాన్‌ను దృష్టిలో ఉంచుకుంటాయి, నాణ్యత తగ్గకుండానే సుదీర్ఘ లూప్‌ల ఖర్చు తగ్గుతుంది.

ఏజెంట్ చదివే ప్రతి పేజీ దాని కాంటెక్స్ట్‌కు జోడించబడుతుంది, తదుపరి ప్రతి దశలోనూ ఏజెంట్ దానిని మోసుకెళ్తుంది. ఒక వెబ్ పేజీలో నావిగేషన్, బాయిలర్‌ప్లేట్, ఇతర కంటెంట్ వంటి ప్రశ్నకు సంబంధం లేని సమాచారం ఉంటుంది.

ఏజెంట్‌కు మొత్తం పేజీని అందించే బదులు, fetch_url ముందుగా ఒక ఎక్స్‌ట్రాక్షన్ పాస్‌ను నడుపుతుంది. పేజీ టెక్స్ట్ ఏజెంట్ ప్రస్తుత టాస్క్‌తో పాటు ఒక చిన్న మోడల్‌కు పంపబడుతుంది. ఆ మోడల్ సంబంధిత భాగాలను మాత్రమే, ఏజెంట్ వాటిని ఉదహరించగలిగేలా యథాతథంగా కోట్ చేసి తిరిగి అందిస్తుంది. ఒక మూల్యాంకనంలో, 5,561 టోకెన్‌ల పేజీ 293 టోకెన్‌లకు తగ్గింది, దీని వల్ల అదనపు సంబంధిత కాంటెక్స్ట్ కోసం స్థలం ఖాళీ అయింది.

fetch_url ‌ను high ప్రయత్న స్థాయిలో ఎక్స్‌ట్రాక్షన్‌తో ఉపయోగించడం వల్ల ఒక్కో క్వెరీకి ఇన్‌పుట్ టోకెన్‌లు సుమారు 50% తగ్గాయి. ఎక్స్‌ట్రాక్షన్ బెంచ్‌మార్క్ పనితీరును కూడా మెరుగుపరిచింది: ఎక్స్‌ట్రాక్షన్ లేకుండా ఒక్కో క్వెరీకి $0.094 వద్ద 83.5% సాధించగా, ఎక్స్‌ట్రాక్షన్‌తో ఒక్కో క్వెరీకి $0.073 వద్ద 88.0% సాధించింది.

ప్రతి ఏజెంట్ పరిశోధన అభ్యర్థనకు వెబ్ సెర్చ్ కేంద్రబిందువు. ఏజెంట్‌లు సెర్చ్ చేసే విధానంలో మూడు మార్పులు చేశారు:

ప్రతి సెర్చ్‌కు మరింత కాంటెక్స్ట్: ప్రతి సెర్చ్ ఇప్పుడు 2K బదులుగా గరిష్ఠంగా 4K టోకెన్‌ల ఫలితాలను అందిస్తుంది. ఏజెంట్ తనకు అవసరమైనదాన్ని త్వరగా కనుగొంటుంది, దీని వల్ల సెర్చ్‌లు తగ్గి, ఖర్చు కూడా తగ్గుతుంది.

కొత్త స్నిప్పెట్ ఇంజిన్: సెర్చ్ ఫలితాలకు క్వెరీకి మరింత బాగా సరిపోయే స్నిప్పెట్‌లు లభిస్తాయి, కాబట్టి ఏజెంట్‌పై అసంబద్ధమైన టెక్స్ట్ భారం పడదు.
Fast search: 1K అభ్యర్థనలకు $1.00 ధరతో, Fast Search ప్రతి సెర్చ్ కాల్‌కు ఖర్చు, లేటెన్సీ రెండింటినీ తగ్గిస్తుంది.

Perplexity Search బృందం విస్తృత శ్రేణి టాస్క్‌లలో రిట్రీవల్ నాణ్యతను నిరంతరం మెరుగుపరుస్తుంది. ఇటీవలి అప్‌డేట్‌లు కోడ్, డెవలపర్ డాక్యుమెంటేషన్, రిఫరెన్స్ పేజీలు, లీగల్, రెగ్యులేటరీ కంటెంట్‌లలో మెరుగుదలలను అందించాయి.

కొన్ని టాస్క్‌లకు అనేక సెర్చ్‌లు సమాంతరంగా నడవాల్సి ఉంటుంది; మరికొన్నింటికి కొన్ని పొడవైన డాక్యుమెంట్‌లను జాగ్రత్తగా చదవాల్సి ఉంటుంది.

అయితే, ప్రతి వర్క్‌ఫ్లోనూ ఏజెంట్ సిస్టమ్ ప్రాంప్ట్‌లో లోడ్ చేయడం కాంటెక్స్ట్ ఓవర్‌హెడ్‌ను పెంచుతుంది, సాధారణ టాస్క్‌లలో మోడల్ పనితీరు తగ్గడానికి దారితీయవచ్చు. బదులుగా, నైపుణ్యాలు ప్రోగ్రెసివ్ డిస్‌క్లోజర్‌తో ఒక ట్రీ రూపంలో నిర్వహించబడతాయి. మోడల్ పని చేస్తున్నప్పుడు సంబంధిత నైపుణ్యాలను, సూచనలను లోడ్ చేస్తుంది, సంబంధం లేని సమాచారాన్ని తన కాంటెక్స్ట్‌కు దూరంగా ఉంచుతుంది. మోడల్ ఒక నైపుణ్యం టాస్క్‌కు సరిపోతుందని నిర్ణయించి దానిని లోడ్ చేసే వరకు, ఆ నైపుణ్యానికి దాని పేరు, వివరణకు మాత్రమే ఖర్చవుతుంది; లోడ్ చేసిన తర్వాత పూర్తి సూచనలు కాంటెక్స్ట్‌కు జోడించబడతాయి, మోడల్ నిర్దేశిత వర్క్‌ఫ్లోను అనుసరిస్తుంది.

ఒక్కో నైపుణ్యం ఎంతవరకు దోహదపడుతుందో కొలవడానికి, బేస్‌లైన్ ఏజెంట్ ఆ నైపుణ్యాన్ని లోడ్ చేసిన టాస్క్‌లపై నాణ్యత, ఖర్చులను పోల్చేందుకు ప్రతి నైపుణ్యాన్ని ఒక్కొక్కటిగా తొలగిస్తారు. ఏ వర్క్‌ఫ్లోలు ఏజెంట్‌కు సహాయపడతాయో, అవి పరిశోధన సామర్థ్యాన్ని ఎలా ప్రభావితం చేస్తాయో ఈ అబ్లేషన్‌లు చూపిస్తాయి.

కింది WANDR బెంచ్‌మార్క్ రన్‌లు నిర్దిష్ట టాస్క్‌ల కోసం ఏజెంట్‌లు సరైన వర్క్‌ఫ్లోలను ఎంచుకోవడాన్ని చూపిస్తాయి. అనేక ఎంటిటీలను పరిశోధించాల్సిన అవసరాన్ని ప్రతిబింబిస్తూ, ప్రతి టాస్క్‌కూ wide-search, fanout మార్గదర్శకాలు లోడ్ అయ్యాయి. people-search కేవలం 6% టాస్క్‌లకు మాత్రమే, అదీ ప్రశ్నలు వ్యక్తులకు సంబంధించినప్పుడు మాత్రమే లోడ్ అయింది.

మరో WANDR టాస్క్‌ను పరీక్షిస్తున్నప్పుడు, లండన్‌లోని ఇన్ఫరెన్స్ ఇంజనీర్లను కనుగొనడానికి ఏజెంట్ fanout ప్యాటర్న్‌తో people-search నైపుణ్యాన్ని లోడ్ చేసింది. అది 39 రోల్ పదాలను 117 క్వెరీలుగా విస్తరించి, ఆపై మొదటి దశ ఫలితాలను తదుపరి స్క్రీనింగ్ కోసం 43 విభిన్న ప్రొఫైల్‌లుగా విలీనం చేసింది. అసంబద్ధమైన కాంటెక్స్ట్‌ను జోడించకుండానే people-search నైపుణ్యం ఈ విస్తరణలో ఏజెంట్‌కు మార్గనిర్దేశం చేసింది. కింది కోడ్ భాగం ఏజెంట్ స్క్రిప్ట్ నుండి స్వీకరించబడింది; హెల్పర్ పేర్లు ఉదాహరణ కోసం మాత్రమే.

code1

text

Python

# roles contains the 39 role variants selected by the agent.
queries = []
for role in roles:
    queries.extend([
        {"query": f"Google DeepMind {role} London"},
        {"query": f"Google {role} London"},
        {"query": role, "company": "Google", "location": "London"},
    ])

results = pplx_sdk.search.people_many(
    queries, limit_per_query=50, concurrency=8
)

profiles = {}
for result in results:
    if not result.ok:
        continue
    for profile in result.result:
        if "linkedin.com/in/" not in profile.url:
            continue
        url = profile.url.split("?")[0].rstrip("/")
        previous = profiles.get(url, {})
        if url not in profiles or len(profile.summary or "") > len(
            previous.get("summary") or ""
        ):
            profiles[url] = {
                "url": url,
                "title": profile.title,
                "summary": profile.summary,
            }

చెక్‌పాయింటింగ్ అనేది సుదీర్ఘంగా నడిచే టాస్క్‌లలో ఏజెంట్‌లకు సహాయపడే మరో వర్క్‌ఫ్లో. చెక్‌పాయింటింగ్ ప్యాటర్న్ బ్యాచ్ ప్రోగ్రామింగ్ నుండి వచ్చింది. ఒక స్క్రిప్ట్ పొడవైన జాబితాను ప్రాసెస్ చేసేటప్పుడు, ప్రతిదాన్నీ చివరి వరకు మెమరీలో ఉంచుకోకుండా, ప్రతి ఫలితం అందిన వెంటనే దానిని డిస్క్‌లో రాస్తుంది. స్క్రిప్ట్ మధ్యలో క్రాష్ అయినా లేదా ఎర్రర్‌లు ఎదురైనా ఏదీ కోల్పోవడం జరగదు: తదుపరి రన్ ఇప్పటికే సేవ్ చేసినదాన్ని చదివి, ఆగిన చోట నుండి కొనసాగుతుంది, విఫలమైన అంశాలను మాత్రమే మళ్లీ ప్రయత్నిస్తుంది.

మరో WANDR టాస్క్‌లో, ఏజెంట్ 188 మంది ఇంజనీర్ల ప్రొఫైల్‌లను స్క్రీన్ చేయాల్సి వచ్చింది. పని చేస్తున్నప్పుడే ప్రతి ఫలితాన్ని నమోదు చేయడానికి అది చెక్‌పాయింట్ ప్యాటర్న్‌ను లోడ్ చేసింది. మొదటి పాస్ 160 ప్రొఫైల్‌లను సంగ్రహించింది, కానీ 28 ప్రొఫైల్‌లలో విఫలమైంది. ఏజెంట్ స్క్రిప్ట్‌ను మళ్లీ నడిపినప్పుడు, ఇప్పటికే నమోదైన ప్రొఫైల్‌లను దాటవేసి, మిగిలిన 28 ప్రొఫైల్‌లను మాత్రమే మళ్లీ ప్రయత్నించింది. చెక్‌పాయింట్ లేకపోతే, ఒక్క చెడ్డ రికార్డు వల్ల మొత్తం 188 ప్రొఫైల్‌లను మళ్లీ ఫెచ్ చేయాల్సి వచ్చేది.స్వీకరించిన Python కోడ్ భాగం; ఇన్‌పుట్ పేజీలు, స్క్రీనింగ్ సూచన, స్కీమా, ఇంపోర్ట్‌లు వదిలివేయబడ్డాయి; హెల్పర్ పేర్లు ఉదాహరణ కోసం మాత్రమే.

code 2

text

Python

checkpoint = Checkpoint("research/profile-screening")
config = instruction + json.dumps(schema)
config_id = hashlib.md5(config.encode()).hexdigest()[:6]

def checkpoint_key(page):
    url_id = hashlib.md5(page["url_in"].encode()).hexdigest()[:10]
    return config_id + url_id

pending = [
    page for page in pages if not checkpoint.has(checkpoint_key(page))
]
for offset in range(0, len(pending), 20):
    batch = pending[offset : offset + 20]
    inputs = [
        json.dumps({
            "url": page["url_in"], "content": page["content"][:30_000]
        })
        for page in batch
    ]
    results = pplx_sdk.llm.extract_many(
        inputs,
        instruction=instruction,
        output_schema=schema,
        chunk_size=5,
        concurrency=4,
    )
    for page, result in zip(batch, results):
        if not result.ok or result.result.error:
            continue
        checkpoint.record(
            checkpoint_key(page),
            [{"url": page["url_in"], **result.result.result}],
        )

చెక్‌పాయింట్ విజయవంతమైన ఫలితాలను నమోదు చేస్తుంది; అది రీట్రైలను ప్రారంభించదు. కీలో సూచనను, స్కీమాను చేర్చడం వల్ల స్క్రీనింగ్ ప్రమాణాలు మారినప్పుడు తిరిగి ప్రాసెసింగ్ జరుగుతుందని నిర్ధారించబడుతుంది.

ప్రతి పరీక్ష నాణ్యత, సామర్థ్యాల్లో మెరుగుదలలకు దారితీయలేదు. ఏజెంట్ తన టాస్క్‌ను ప్రారంభించే ముందే అన్ని నైపుణ్యాలను ముందుగా లోడ్ చేయడాన్ని కూడా మూల్యాంకనం చేశారు. BrowseComp, DSQAలలో ముందస్తు లోడింగ్ ఖర్చును 13% పెంచింది. సుదీర్ఘ పరిశోధన ట్రాజెక్టరీల వల్ల తిరిగి పొందిన కంటెంట్ ఇన్‌పుట్ టోకెన్‌లలో పెద్ద భాగం అయ్యే WANDRలో, ముందస్తు లోడింగ్ స్కోర్‌లను కూడా తగ్గిస్తుంది. ఈ ఫలితాలు ప్రోగ్రెసివ్ డిస్‌క్లోజర్‌ను కొనసాగించడాన్ని సమర్థించాయి.

మోడల్ సామర్థ్యాలు అభివృద్ధి చెందుతున్న కొద్దీ, ప్రతి ప్రయత్న స్థాయికి ఉత్తమమైన మోడల్ కూడా మారుతుంది. కొత్త మోడల్ ప్రకటనలను, లభ్యతను పర్యవేక్షించే ఆటోమేటెడ్ పరిశోధన లూప్‌ను Perplexity ఉపయోగిస్తుంది. ఒక మోడల్ అందుబాటులోకి రాగానే మూల్యాంకనాలు ప్రారంభమవుతాయి.

కొత్త మోడల్ విడుదలైనప్పుడు, ఒక ఆటోమేటెడ్ ఏజెంట్ దానిని మూల్యాంకన harness ద్వారా పరీక్షిస్తుంది. అది రీజనింగ్ ప్రయత్నం, దశల బడ్జెట్‌లు, టూల్-కాల్ బడ్జెట్‌లు, టూల్ కాన్ఫిగరేషన్‌లను విస్తృతంగా పరిశీలించి, ప్రతి రన్‌ను ప్రస్తుత ప్రయత్న స్థాయిలతో పోలుస్తూ నాణ్యత, ఖర్చుల ఆధారంగా స్కోర్ చేస్తుంది. ఏదైనా రన్‌లో పనితీరు తగ్గితే, ఏజెంట్ దానికి కారణాన్ని పరిశోధించి, సెట్టింగ్‌లను సర్దుబాటు చేసి, మూల్యాంకనాన్ని మళ్లీ నడుపుతుంది. అభ్యర్థి మోడల్ అదే లేదా తక్కువ ఖర్చుతో నాణ్యతలో మెరుగ్గా నిలిచినప్పుడు మాత్రమే ప్రస్తుత మోడల్‌ను భర్తీ చేస్తుంది.

పబ్లిక్ బెంచ్‌మార్క్‌లు ఉపయోగకరమైనవే, కానీ వాటి స్కోర్‌లు ఎల్లప్పుడూ వాస్తవ ప్రపంచ టాస్క్‌లలో ప్రతిఫలించవు. ఉదాహరణకు, BrowseCompలో బేస్‌లైన్ కంటే 13.3 పాయింట్లు ఎక్కువ స్కోర్ చేసినప్పటికీ, అంతర్గత ఎంటర్‌ప్రైజ్, న్యాయ, ఆర్థిక పరిశోధన టాస్క్‌లలో సంబంధిత బేస్‌లైన్‌ల కంటే చాలా తక్కువ స్కోర్ చేసిన ఒక అభ్యర్థి మోడల్‌ను కింది చార్ట్ చూపిస్తుంది.

ఒకే ఏజెంట్ ఒక లూప్‌లో పరిమిత సంఖ్యలో సోర్స్‌లను మాత్రమే కవర్ చేయగలదు. క్లిష్టమైన టాస్క్‌ల కోసం, అనేక ఏజెంట్‌లు సమాంతరంగా పని చేస్తాయి, ప్రతి ఏజెంట్ సమస్యలోని వేర్వేరు భాగంపై సమన్వయం చేస్తుంది.

ప్రాథమిక ఏజెంట్ ఆర్కెస్ట్రేటర్‌గా వ్యవహరిస్తుంది. ఇది చైల్డ్ ఏజెంట్‌లను సృష్టించడానికి spawn_agent‌ను కాల్ చేసి, ప్రతి దానికి ఒక నిర్దిష్టమైన, కేంద్రీకృత టాస్క్‌ను కేటాయిస్తుంది. ప్రతి చైల్డ్ తన సొంత మోడల్, టూల్‌లు, దశల బడ్జెట్‌ను ఉపయోగిస్తూ, ప్రత్యేక కాంటెక్స్ట్‌తో తన సొంత పరిశోధన లూప్‌ను నడుపుతుంది. చైల్డ్ ఏజెంట్‌లు తమ ఫలితాలను పేరెంట్‌కు నివేదిస్తాయి; పేరెంట్ ఒక చైల్డ్‌కు తదుపరి పనిని పంపవచ్చు లేదా దాని పురోగతిని తనిఖీ చేయవచ్చు. ఆధారాలను పంచుకోవడానికి, అడ్డంకులను సూచించడానికి, తదుపరి దశలను సర్దుబాటు చేయడానికి ఆర్కెస్ట్రేటర్, దాని చైల్డ్ ఏజెంట్‌లు సందేశాలను పరస్పరం పంపుకుంటాయి. కొత్త సమాచారం వచ్చినప్పుడు ఆర్కెస్ట్రేటర్ కేటాయింపులను మెరుగుపరుస్తుంది, పని పూర్తయ్యాక ఫలితాలన్నింటినీ కలిపి ఒకే సమాధానంగా రూపొందిస్తుంది.

Agent API ముందే నిర్వచించిన ఏజెంట్ పాత్రలకు మద్దతు ఇస్తుంది, ఆర్కెస్ట్రేటర్ కస్టమ్ సూచనలతో చైల్డ్ ఏజెంట్‌లను సృష్టించగలదు.

ultra ప్రయత్న స్థాయి ఒక టాస్క్‌పై మూడు ఏజెంట్‌లను సమాంతరంగా నడుపుతుంది. ప్రతి ఏజెంట్ మొత్తం టాస్క్‌ను స్వతంత్రంగా పరిశోధిస్తుంది, దీని వల్ల వేర్వేరు ఆధారాలు లభిస్తాయి. నాలుగో ఏజెంట్ వాటి ఫలితాలను విలీనం చేసి, నకిలీలను తొలగించి, తుది సమాధానాన్ని రాస్తుంది.

WANDRలో ultra ఒక్కో టాస్క్‌కు $21.71 ఖర్చుతో 85.9% స్కోర్ సాధిస్తుంది. పరీక్షించిన కాన్ఫిగరేషన్‌లలో ఇదే అత్యధిక స్కోర్.

ప్రయత్న స్థాయిలను నిరంతరం మూల్యాంకనం చేస్తూ మెరుగుపరుస్తూ ఉంటారు. వినియోగదారులు ఎంచుకునే స్థాయి ఒక టాస్క్‌కు ఎంత పరిశోధన జరుగుతుందో, దానికి ఎంత ఖర్చవుతుందో నిర్ణయిస్తుంది. దశల బడ్జెట్‌లు, టూల్-కాల్ బడ్జెట్‌లు — అవి తరిగిపోతున్న కొద్దీ వచ్చే రిమైండర్‌లతో పాటు — అభ్యర్థనలను బడ్జెట్‌లోనే ఉంచుతాయి. కంపాక్షన్, ఎక్స్‌ట్రాక్షన్, మెరుగైన స్నిప్పెట్‌లు కాంటెక్స్ట్‌ను ఆధారాలపైనే కేంద్రీకరించి ఉంచుతాయి. నైపుణ్యాలు టాస్క్‌కు తగిన వర్క్‌ఫ్లోను ఎంచుకుంటాయి, సమాంతర ఏజెంట్‌లు ఒకే లూప్ కవర్ చేయగల పరిధిని విస్తరిస్తాయి. ఒక ఆటోమేటెడ్ మూల్యాంకన లూప్ కొత్త మోడల్‌ను అదే ఖర్చుతో పరిశోధన నాణ్యతను మెరుగుపరిచినప్పుడు మాత్రమే ఆమోదిస్తుంది.

కొత్త మోడల్‌లు, కాన్ఫిగరేషన్‌లు మూల్యాంకనంలో తమ సత్తాను నిరూపించుకున్న కొద్దీ ప్రతి ప్రయత్న స్థాయి అభివృద్ధి చెందుతూనే ఉంటుంది. ఒక స్థాయిని పేరుతో కాల్ చేస్తే ఆ మెరుగుదలలు ఆటోమేటిక్‌గా వర్తిస్తాయి; ఒక వెర్షన్‌ను పిన్ చేస్తే కాన్ఫిగరేషన్ స్థిరంగా ఉంటుంది.

Agent APIని ప్రయత్నించండి, మీ సొంత వర్క్‌లోడ్‌లపై ప్రయత్న స్థాయిలను పోల్చి చూడండి. ప్రయత్న స్థాయి వివరాలను మా Agent API ప్రయత్న స్థాయి డాక్యుమెంటేషన్‌లో చూడండి.

పరిశోధన ఖర్చు

పరిశోధన బడ్జెట్‌ను నియంత్రించడం

కాంటెక్స్ట్ నిర్వహణ

కంపాక్షన్

అవసరమైనదాన్ని మాత్రమే ఫెచ్ చేయడం

కేంద్రీకృత వెబ్ సెర్చ్

సరైన వర్క్‌ఫ్లోను ఎంచుకోవడం

మోడల్ ఎంపిక

మల్టీ-ఏజెంట్ స్కేలింగ్

తర్వాత ఏమిటి