Staðbundið umboðsforrit fyrir einkareknar og hagkvæmar þekkingarvinnu

Perplexity Portable Computer er staðbundið umboðsforrit.

Allur staflinn keyrir sjálfgefið staðbundið. Líkanið, harness, samtalið og ferillinn búa öll á tæki notandans. Vinna sem þarfnast umheimsins, svo sem vefleit, tengingar eða stigun yfir í öflugra ráðgjafalíkan í skýinu, er aðeins kölluð til þegar nauðsyn krefur og alltaf háð leyfi notandans. Viðkvæm gögn yfirgefa því aldrei tækið án leyfis og staðbundin líkan bera engan ályktunarkostnað: kerfið er einkrýnt og hagkvæmt frá grunni.

Árangursríkt staðbundið umboðsforrit krefst þess að líkanið og harness séu hönnuð saman. Almenn harness gera ráð fyrir landamæralíkani sem getur gleypt langar samhengisupplýsingar, ratað um breitt tækjasvið og skipulagt til langs tíma. Staðbundin líkan eru óáreiðanlegri undir þeim kröfum. Í stað þess að biðja lítið líkan um að stjórna harness sem er smíðað fyrir stórt líkan, mótuðum við þau tvö í kringum hvert annað: harness sem er sniðið að getuprófíl líkansins og líkan sem var þjálfað áfram til að nota það harness á skilvirkan hátt.

Inngangur

Getuþættir umboðsforrita hafa fleygt fram á undanförnum mánuðum á fjölmörgum sviðum þekkingarvinnu. Þótt þessar framfarir skili mikilli aukningu á framleiðni and skilvirkni, vekja þær einnig upp tvær áskoranir.

Táknanotkun fer vaxandi hratt og með henni heildarkostnaður. Þegar upplýsingaöflun fer fram í gegnum smíðaskil (API) lokaðra líkana sem keyra á fjarlægum þyrpum, yfirgefa einkaupplýsingar og hugverk tæki notandans með hverri beiðni. Þegar umboðsmenn (agents) stækka yfir einstök verkflæði og allar stofnanir, verða táknakostnaður og gagnaflutningar sífellt erfiðari í stjórnun.

Á sama tíma hafa opinn hugbúnaðar líkön batnað enn hraðar. Framfarirnar sjást best í mjög smáum og skilvirkum líkönum eins og NVIDIA Nemotron 3.5 Lightning (30B samtals færibreytur), Qwen 3.6 (35B) og Qwen 3.8 (27B). Þessi smáu líkön standa sig fram úr sínum þyngdarflokki og eru nú fær um flókin verkflæði umboðsforrita. Vélbúnaður fyrir staðbundna ályktun þróast samhliða: kerfi eins og NVIDIA DGX Spark geta nú keyrt þessi líkan staðbundið. Saman gera þessar þróunarstraumar fulla virkni á tækjum hagnýta á meðan notendur geta valið um ytri eiginleika þegar þörf krefur, svo sem vefleit, tengingar eða stigmögnun skýjalíkana.

Þessi staðbundið-fyrst nálgun gerir kleift að spara töververðum kostnaði, þar sem staðbundin ályktun kemur í veg fyrir API-gjöld á hvert tákn. Hún leysir líka eðlilega persónuverndar- og hugverkaáhyggjur: einkatákn þurfa aldrei að vera send til fjarlægra þyrpa og eru örugg innan marka staðbundna tækisins.

Í júní kynntum við fyrsta blandaða staðbundna-miðlara ályktunarstjórnunartækið sem ákveður hvaða vinna á að keyra á tækinu og hvaða vinna á að fara til umboðsforrita í skýinu. Hér útskýrum við hvernig við byggðum slíkt staðbundið umboðsforrit, þar á meðal harness og líkönin sem voru hönnuð saman fyrir hvert annað.

Við gefum yfirlit yfir helstu hönnunarval, metum Computer gegn vinsælum opnum almennum harnessum (Hermes og Pi) yfir þrjú opinber viðmið og okkar innra Local Knowledge Work Bench. Á okkar viðmiði, með Qwen 3.8 27B líkaninu sem keyrir á NVIDIA DGX Spark, nær Computer hæstu einkunn, 82,6% á móti 77,6% fyrir Pi og 74,0% fyrir Hermes. PPLX 27B, líkanið okkar sem var þjálfað ofan á Qwen 3.8 27B, hækkar einkunnina enn frekar í 85.4%.

Stækka

Hannaðu harness í kringum staðbundna líkanið

Þó að fyrirferðarlítil líkan á tækjum séu þegar nokkuð fær, dragast þau enn aftur úr stærri landamæralíkönum í afköstum. Vandlega hannað harness þarf til að stýra þessum líkönum á áhrifaríkan hátt og bregðast við takmörkunum þeirra.

Vinsæl opinber harness eins og Pi og Hermes hafa reynst almenn: þau virka vel með fjölmörgum líkönum af öllum stærðum og gerðum. En þau eru ekki fínstillt fyrir getu staðbundinna líkana. Við hönnuðum staðbundna harness-ið sérstaklega fyrir þetta umhverfi, í kringum nokkrar lykilreglur.

Samhengisnýtni

Aðaláherslan við hönnun á harness okkar var að nýta samhengi líkansins sem best.

Þó að staðbundin líkan eins og Qwen 3.8 27B bjóði upp á samhengisglugga upp á 260K tákn, komst við að því með reynslu að þau byrja að eiga í erfiðleikum um er 100K tákn er komið. Við höfum því kjarna harness-sins hnitmiðaðan: lágmarks kerfisskilaboð og lítið safn af kjarnatólum.

Allir aðrir eiginleikar eru modularíseraðir í beiðni-færni (on-demand skills) sem hlaðast inn og út í gegnum ferilinn. Við hönnuðum þessa færni fyrir algeng þekkingarvinnuverkefni: rannsóknir, gagnafræði, gagnasýningu, skjalagerð, hugbúnaðarverkfræði og fleira.

Harness styður einnig samhengissamþjöppun, þar sem gamalt samhengi er teknar saman þegar ferill verður langur svo líkanið haldist innan síns áhrifaríka glugga.

Tengingar sem skipanalínuverkfæri

Dagleg þekkingarvinna krefst oft tenginga eins og Gmail, GitHub, Outlook og Google Calendar. Þessum er venjulega útvegað fyrir harness sem MCP netþjóna, en stórar tólaskilgreiningar þeirra taka upp verulegan hluta af samhengfinu. Í staðinn breyttum við mestsnotuðu MCP-tækjunum í samþjappað, auðveld í notkun skipanalínuverkfæri, sem eru stóðin með sérsniðinni færni sem nýtir takmarkað áhrifaríkt samhengi mun betur.

Sjálfsstaðfesting

Afköst batna einnig þegar umboðsforritið staðfestir sína eigin vinnu. Staðfesting bætir við auka skrefum, en hún bætir lokaniðurstöður verulega og þrengir bilið til landamæralíkana verulega. Hún getur verið sett af stað af líkaninu sjálfu eða af safni króka (hooks) sem fylgjast með heilsu ferilsins og biðja um sjálfsstaðfestingu þegar eitthvað fer úrskeiðis.

Sandkassakeyrsla

Harness keyrir tól í stýrikerfis-sandkassa á tæki notandans. Mörkin takmarka ferli, skráarkerfisslóðir og netaðgang samkvæmt stefnu. Þetta takmarkar sprengingarsvæði rangrar skipunar. Ef sandkassinn er ekki tiltækur slökkvar harness á sér áður en nein tólaköll eiga sér stað í stað þess að versna í ósandkassaða keyrslu.

Þetta er frábrugðið opnum harnessum eins og Pi og Hermes, sem keyra skipanir beint með heimildum notandans sjálfgefið. Í Computer er einangrun alltaf virk, krefst enginnar uppsetningar og tól geta ekki keyrt án hennar.

Skýringarmyndin hér að neðan sýnir hvernig þessar reglur passa saman í framkvæmdalykkjunni. Stjórntækið er ákveðinn harness-kóði, ekki LLM: það viðheldur lykkjunni, setur saman samhengi og framfylgir stefnu. Staðbundna líkanið leggur til næstu aðgerð; stjórntækið framkvæmir samþykktar tólaköll í sandkassanum og skilar niðurstöðum þeirra til líkansins. Vefleit, tengingar og ráðgjafaköll fara yfir mörk tækisins aðeins þegar þau eru virkjuð og samþykkt.

Stækka

Staðbundið harness nýtir meira af sama líkaninu

Með því að nota sama staðbundið grunntæki berum við saman staðbundið harness okkar við almenna valkosti á vefrannsóknum og fjölþættum skjalaskilningi. Öll harness nota Qwen 3.8 27B líkanið með miðlungs röksemdafærslu, sem keyrir á NVIDIA DGX Spark. Þessi samanburður einangrar getuna sem harnessið sjálft leggur til, áður en nokkur eftirþjálfun líkans á sér stað.

Við leggjum áherslu á þessar tvær getur vegna þess að þekkingarvinna sameinar oft einkaskjöl á tæki notandans með opinberum upplýsingum af vefnum til að framleiða grundaða afurð. Vefleit krefst tengingar, en líkan-ályktun ogvinnsla einkaskjala eru áfram staðbundin. Staðbundnar skrár þjóna sem áreiðanleg uppspretta, opinberar heimildir bæta við samhengi og notendur geta gert vefleit óvirka að fullu fyrir algjörlega ótengda vinnu.

Vefrannsóknir

Við smíðum okkar staðbundna harness samhliða leitarvél Perplexity, sem hefur náð efstu sætum í sjálfstæðum mati. Harnessið nálgast hana í gegnum Search as Code viðmótið.

Við metum rannsóknargæði á 1.266 BrowseComp verkefnum. Computer notar leitarinnviði Perplexity ásamt staðbundnu harness okkar, á meðan Pi og Hermes treysta á Brave, þeirra ráðlagða leitarveitu. Computer nær 66.7% nákvæmni, samanborið við 50.2% fyrir Pi og 43.9% fyrir Hermes.

Computer er einnig með lægsta meðaltal skráðan veggtíma og táknanotkun: 402.1 sekúndur og 852k tákn á verkefni, samanborið við 1.020.9 sekúndur og 1,01 milljón tákn fyrir Hermes, og 826.0 sekúndur og 2,82 milljónir tákna fyrir Pi. Computer notar því 61% minni veggtíma og 16% færri tákn en Hermes, og 51% minni veggtíma og 70% færri tákn en Pi.

Stækka

Fjölþættur skjalaskilningur á tæki

Mörg skjöl bera upplýsingar sjónrænt og er erfitt að greina sem venjulegan texta: PDF-skjöl, skannaðar síður, skjámyndir, línurit og kynningar. Þessi verkflæði reiða sig á OCR og myndskilning, og njóta góðs af fjölþættu líkani.

Harness sendir skjalasíður og myndir beint til líkansins, sem skilur þær og sameinar sjónrænar sannanir við útdrátt textans. Vinnsla þessara skjala á tæki heldur viðkvæmum skjölum og úrdráttarinnihaldi þeirra einkareknu.

Við metum fjölþættan skjalaskilning á ParseBench-100, 100 verkefna hlutmengi af ParseBench viðmiðinu, með 20 verkefni hvárt um sig fyrir línurit, útlit, töflur, textainnihald og snið.

Computer nær meðaleinkunn upp á 65.1%, samanborið við 34.6% fyrir Hermes og 13.9% fyrir Pi. Það klárar einnig verkefni með minnstum tíma og fæstum táknum: að meðaltali 60.6 sekúndur og 20.1k tákn á verkefni, samanborið við 108.3 sekúndur og 32.1k tákn fyrir Hermes, og 410.5 sekúndur og 829.1k tákn fyrir Pi. Computer leiðir í öllum fimm skjalflokkum, með stærsta forskot á línuritum. Útlit er enn erfitt fyrir öll þrjú harnessin.

Stækka

Tafla 1. ParseBench-100 meðaleinkunn eftir skjalflokki fyrir Computer, Hermes og Pi harnessin með Qwen 3.8 27B líkaninu á tæki. Computer leiðir í öllum fimm flokkum.

Þrenging bilsins að landamærum með ráðgjafastigun

Jafnvel með vandlega hönnuðu harness fara erfiðustu verkefnin enn fram úr getu fyrirferðarlítils líkans á tæki. Fyrir slík verkefni býður harness upp á ráðgjafatól: staðbundna líkanið getur ráðfært sig við sterkara landamæralíkan þegar það þarf hjálp við skipulagningu, úrlausn óvissu, endurheimt eftir endurteknar bilanir eða staðfestingu á lokaniðurstöðu.

Staðbundið líkan ákveður hvenær á að biðja um ráðgjöf, á meðan harness-stjórntækið heldur tólavaldi og stjórnar því hvaða samhengi er sent. Stigun er valfrjáls. Notandinn ákveður hvort hann eigi að virkja hana og hvort hann eigi að samþykkt hvert ráðgjafakall handvirkt eða sjálfkrafa.

Fyrir ráðgjafakall velur harness viðeigandi samhengi, beitir PII flokkara til að merkja viðkvæmar upplýsingar og sýnir notandanum hvað myndi yfirgefa tækið. Ráðgjafinn fær aðeins samþykkt samhengi og skilar textaleiðbeiningum; hann hefur engan beinan aðgang að skrám, tólum eða samræðum tækisins. Þetta bætir bæði kostnað og persónuvernd, og við áformum að kanna þessa stefnu frekar í framtíðarvinnu.

Stækka

Við prófum þessa nálgun á krefjandi hugbúnaðarverkfræðiverkefnum, sem krefjast sterkrar röksemdafærslu og eru þar sem staðbundið líkan bregst oftast. Til þessa notum við Terminal Bench 2.1, vinsælt 89 verkefna viðmið fyrir kóðunarumboðsforrit.

Við viljum svara tveimur spurningum: hversu miklu af bilinu að landamæralíkani getur ráðgjafastigun lokað, og á hvaða kostnaði. Fullkomnlega staðbundin líkan kosta nánast ekkert í keyrslu, þar sem ályktun á sér stað á vélbúnaði notandans. Þegar líkanið byrjar að kalla á ráðgjafann byrjar það hins vegar að safna API-kostnaði.

Sem grunnlína fyrir afköst landamæra notum við Claude Opus 5 sem starfar í staðbundna harnessinu; staðbundið líkan er Qwen 3.8 27B. Að lokum pöruðum við þau saman: Qwen 3.8 27B framkvæmir verkefnið og stigrar upp í Claude Opus 5 ráðgjafa þegar það þarf hjálp. Við metum ekki ráðgjafastigun með Pi eða Hermes vegna þess að hvortugt útvegar jafngilt ráðgjafatól; að bæta einu við myndi krefjast þess að breyta tólaskreytingu og skipulagsrökfræði, þannig að niðurstaðan myndi ekki lengur tákna tilbúna harnessið.

Ráðgjafastigun hækkar einkunn Computer úr 59.6% í 73.0%, sem er aukning um 13.5 prósentustig, á áætluðum API-kostnaði upp á $0.415 á úrvinnslu. Keyrsla á Claude Opus 5 einum og sér nær 82.4% á $0.65 á úrvinnslu. Stigun endurheimtir því um það bil þrjá fimmtu hluta bilsins að landamærunum á um tveimur þriðju hluta kostnaðar landamæranna, og notandinn ákveður hvenær sá skiptimynt er þess virði að gera.

Stækka

Eftirþjálfun fyrir harness og þekkingarvinnu

Hingað til höfum við haldið staðbundna líkaninu óbreyttu til að einangra það sem harness leggur til. Með hönnun harnessins kominni á sinn stað koma stærstu eftirstandandi ávinningarnir frá því að laga líkanið sjálft. Notkunargögn Perplexity Computer sýna okkur hvað fólk gerir í raun og veru við þekkingarvinnu, sem við notum til að mynda þjálfunargögn. Við þjálfum staðbundið líkan áfram innan Computer harness, stýrt af raunverulegri dreifingu verkefna sem notendur framkvæma.

Nánar tiltekið auðkennum við fjölbreytt safn notkunartilvika sem æfa mismunandi getu líkans, tól og tengingar. Úr þessum notkunartilvikum myndum við raunhæf styrkingarnámsumhverfi og skilgreinum krefjandi en sannreynanleg verkefni: hvert verkefni samanstendur af leiðbeiningum, umhverfi og sannreynanda sem gefur einkunn fyrir lokaniðurstöðuna, þar sem umhverfið er Docker-ílát sem harness starfar í. Mikilvægast er að vegna þess að verkefnin eru tilbúin innihalda þau engin raunveruleg skjöl eða upplýsingar um notendur.

Við notum þessi umhverfi fyrir tveggja þrepa þjálfun: höfnunarfínstillingu fylgt eftir með styrkingarnámi. Í fyrsta þrepi keyrum við líkanið gagnvart hverju verkefni mörgum sinnum, veljum bestu ferlana eftir einkunn sannreynanda, og þjálfum á þeim með stýrðu námi. Þetta þrep frumstillir líkanið fyrir tiltekið harness og verkefnadreifingu. Í öðru þrepi fínstillir styrkingarnám líkanið frekar og gerir það öflugra.

Hlutmengi verkefna er haldið frá þjálfun og notað fyrir lokamat; við köllum þetta frátekið safn Local Knowledge Work Bench: 53 verkefni sem spannar sjö flokka dagspaglegrar þekkingarvinnu, frá ítarlegri rannsókn til skjalagerðar. Við munum bráðum gefa út tækniskýrslu sem lýsir þjálfun líkansins í smáatriðum, og við áformum að gefa þetta matið út sem opinn hugbúnað.

Við þjálfuðum Qwen 3.8 27B áfram með þessari nálgun, sem framleiddi líkan sem við köllum PPLX 27B, og metuðum það á Local Knowledge Work Bench. Með grunni Qwen 3.8 27B líkansins nær Computer hæstu einkunn (82.6%, samanborið við 77.6% fyrir Pi og 74.0% fyrir Hermes) og notar fæst tákn (520k, á móti 681k fyrir Pi og 634k fyrir Hermes). Pi klárar verkefni hraðast á 176 sekúndum á verkefni, samanborið við 218 sekúndur fyrir Computer og 292 sekúndur fyrir Hermes. PPLX 27B hækkar einkunn Computer í 85.4%, á kostnað fleiri tákna (678k á móti 520k). Áætlaður veggtími þess er 250 sekúndur.

Stækka

Tafla 2. Verkefnaflokkar Local Knowledge Work Bench.

Niðurstaða

Rannsóknir okkar sýna að sterkt opið líkan, með færri staðbundinn vélbúnað og harness byggt fyrir þau getur ráðið við raunverulega þekkingarvinnu á nánast núll ályktunarkostnaði án þess að krefjast þess að viðkvæm gögn yfirgefi tækið.

Yfir hin ýmsu viðmið passaði Computer við eða fór fram úr Hermes og Pi í nákvæmni á meðan það keyrði Qwen 3.8 27B á NVIDIA DGX Spark. Meðal þessara þriggja viðmiða sem tilkynna um töf og táknanotkun var Computer hraðast á BrowseComp og ParseBench-100 og notaði fæst tákn á öllum þremur; Pi var hraðast á Local Knowledge Work Bench.

Ávinningurinn kom frá valinu sem við gerðum. Við byggðum hnitmiðað staðbundið harness með færni sem hleðst inn eftir þörfum. Við breyttum tengingum í samþjappað CLI-verkfæri í stað MCP netþjóna. Keyrsla var sandkassað til öryggis.

Niðurstöðurnar sýna einnig hvar fyrirferðarlítil líkön hafa svigrúm til umbóta. Til dæmis, á krefjandi kóðunarverkefnum í Terminal Bench 2.1, drógst staðbundið líkan aftur úr landamæralíkaninu yfir öll þrjú harnessin. Ráðgjafastigun þrengir en lokar ekki bilinu að fullu; áframhaldandi endurbætur á getu líkans og staðbundnum vélbúnaði eru enn nauðsynlegar til að knýja frammistöðu enn lengra.

Tilgangurinn með því að smíða harness og líkan fyrir staðbundnar þvinganir er að veita notendum skýra stjórn á því hvaða upplýsingar yfirgefa vélarnar þeirra. Það eru líka kostnaðarávinningar fyrir notandann. Við lítum á þetta sem hluta af breiðari breytingu þar sem sífellt færri færari umboðsforrit færa sig frá fjarinnviðum yfir á einstök og staðbundin tæki. Við væntum þess að framfarir í flísum, líkönum og tækjum muni stöðugt stækka svið og gæði þekkingarvinnu sem Portable Computer meðhöndlar staðbundið.

Tilvitnun

@online{perplexity2026ALocalFirstAgentForPrivateAndCostEffectiveKnowledgeWork,
  author = {{Perplexity} and Denis Yarats and Jack Ma and Joey Zhong and Phi Hoang and Jeremy Yang and Jesse Dwyer},
  title = {{A local-first agent for private and cost-effective knowledge work}},
  date = {2026-08-25},
  url = {https://www.perplexity.ai/hub/blog/a-local-first-agent-for-private-and-cost-effective-knowledge-work}
}