Sjálfbætandi Skill
Hvernig Perplexity Brain lærir af reynslunni verklag sem endurtekur sig og heldur því uppfærðu.
Inngangur
Notendur hafa óskir og kröfur sem eru bundnar við tiltekin verkflæði og almennt líkan getur ekki vitað fyrir fram. Gervigreindarfulltrúi þarf að læra þessi atriði til að laga vinnu sína að notandanum, í stað þess að notandinn þurfi að útskýra sama verkferlið eða gera sömu leiðréttingar í hverju samtali. Samfellt nám gerir þetta mögulegt: reynsla af loknum verkefnum ætti að móta hvernig gervigreindarfulltrúinn nálgast framtíðarverkefni.
Brain, persónulega sjálfsumbótakerfið í Computer, gerir nám af reynslu mögulegt. Kerfið heldur nú þegar úti skipulögðum wiki-þekkingargrunni sem tengir upplýsingar um notandann og vinnu hans við gögnin sem styðja þær. Gervigreindarfulltrúar í bakgrunni uppfæra wiki-grunninn eftir því sem nýjar upplýsingar safnast upp, svo minniskerfið batnar með tímanum.
Skill-pakkar fyrir gervigreindarfulltrúa eru önnur leið til að stýra hegðun gervigreindarfulltrúa án þess að breyta undirliggjandi líkaninu. Skill-pakkar eru endurnýtanlegar leiðbeiningar sem leiða gervigreindarfulltrúa í gegnum tiltekin verkefni. Þeir fanga kröfur og stuðningsgögn fyrir endurtekin verkflæði sem gervigreindarfulltrúinn þyrfti annars að álykta út frá minni eða fá frá notandanum í hvert skipti, og bæta þannig frammistöðu í verkefnum utan þjálfunardreifingar. Þeir geta einnig innihaldið skriftur fyrir endurtekin verkferli eða vinnslu sem hægt er að tjá áreiðanlega í kóða, svo gervigreindarfulltrúinn getur einfaldlega keyrt þær skriftur þegar þær eiga við. Með harness-kerfinu verða tiltækir Skill-pakkar finnanlegir og leiðbeiningar þeirra hlaðnar inn í samhengið þegar gervigreindarfulltrúinn biður um þær. Notendur geta einnig tilgreint beint í fyrirmælunum hvaða Skill-pakka á að nota.
Við erum að útvíkka Brain til að búa sjálfkrafa til og uppfæra Skill-pakka fyrir gervigreindarfulltrúa. Brain byggir á minni og samtalasögu notanda til að skrifa og fínstilla persónulega Skill-pakka sem fanga verkferla fyrir verkflæði þess notanda. Við beitum svipaðri nálgun til að uppfæra innbyggða Skill-pakka, sem standa öllum notendum Perplexity til boða, út frá heildarmynstrum í öllum samtölum.
Fyrst lýsum við sjálfsumbótavélinni okkar sem er sameiginleg fyrir allar gerðir Skill-pakka og útskýrum hvernig hún virkar fyrir persónulega og innbyggða Skill-pakka.
Sameiginleg sjálfsumbótavél
Gagnlegur Skill-pakki þarf samt að breytast þegar nýjar óskir koma fram eða reynslan leiðir í ljós göt í leiðbeiningum hans. Brain ber ábyrgð á að finna út hvernig hegðun gervigreindarfulltrúans ætti að breytast næst þegar Computer fær svipað verkefni og ákvarða hvernig Skill-pakkinn ætti að breytast til að ná betur tilætluðum árangri.
Þetta umbótaferli myndar hringrás með fjórum stigum:
- Gögn. Brain finnur fyrri samtöl þar sem Skill-pakkinn var notaður, einkum þau þar sem hann stóð ekki undir væntingum.
- Ígrundun. Gervigreindarfulltrúi fyrir umbætur greinir þessi gögn og leggur til uppfærslur á Skill-pakkanum.
- Staðfesting. Prófanir staðfesta að tillagan sé rétt mótuð og líkleg til að bæta niðurstöður.
- Virkjun. Staðfesta breytingin er tekin í notkun. Framtíðarsamtöl nota nýju útgáfuna og skapa gögn fyrir næstu umferð.
Þessi hringrás byggir á mörgum fyrirliggjandi eiginleikum sem smíðaðir voru fyrir Computer og Brain. Hér lýsum við sameiginlega búnaðinum sem gerir gagnaöflun og ígrundun mögulega. Staðfestingar- og virkjunarferlin ráðast af því hvort breyting nær til eins notanda eða allra notenda Perplexity, svo við fjöllum um þau í köflunum hér á eftir um umbótahringrásir fyrir persónulega og innbyggða Skill-pakka.
Gögn úr fyrri samtölum
Ígrundun krefst þess að finna samtöl þar sem Skill-pakki var notaður, einkum þau þar sem svigrúm er til umbóta. Í Computer skráir harness-kerfið merki sem gera þetta mögulegt. Þegar gervigreindarfulltrúinn hleður Skill-pakka skráir harness-kerfið hleðsluatburð sem tengir Skill-pakkann við samtalið. Þegar gervigreindarfulltrúinn verður var við pirring notanda, bilaða hegðun eða augljósa óskilvirkni skráir hann stutta, skipulega greiningu og harness-kerfið hengir við þá Skill-pakka sem eru í notkun. Þetta kemur sér sérstaklega vel fyrir innbyggða Skill-pakka, þar sem hvaða samtal sem er gæti mögulega skipt máli, og því þarf kerfið leið til að þrengja gagnamengið hratt.
Gervigreindarfulltrúar njóta góðs af aðgangi að allri skránni í stað þess að leggja mat á grundvelli útkomunnar eða stuttrar samantektar. Computer geymir fyrri samtöl sem framsetningu keyrsluferla sem er óháð þjónustuaðila og fangar skilaboð, tólaköll, röksemdafærslu og niðurstöður. Við höfum einnig smíðað safn skipanalínutóla sem gervigreindarfulltrúar geta notað til að afkóða þessa keyrsluferla og endurgera heil samtöl. Þetta gerir gervigreindarfulltrúanum sem sér um ígrundun kleift að skoða tiltekin tólaköll og hleðslur á Skill og finna nákvæmlega hvar vandamál komu upp eða hvar mætti gera umbætur.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlDæmi um notkun innri verkfæra Computer til að skoða keyrsluferla. Slóðir og auðkenni eru einfölduð til skýringar; heiti skipana og viðföng fylgja útfærslunni.
Ígrundun með gervigreindarfulltrúum í bakgrunni
Brain notar teymi gervigreindarfulltrúa í bakgrunni til að bæta upplifun hvers notanda stöðugt. Til dæmis fara Dream-gervigreindarfulltrúar yfir uppsafnaða reynslu til að uppfæra wiki-þekkingargrunninn. Á sama hátt knýja gervigreindarfulltrúar fyrir umbætur áfram umbætur á Skill-pökkum með því að ígrunda gögn um notkun þeirra og leggja til uppfærslur.
Hver gervigreindarfulltrúi vinnur í eigin sandkassa með leiðandi gervigreindarlíkani, viðeigandi gögnum og núverandi Skill-safni, með leiðsögn frá viðbótum og Skill-pökkum. Hann ákveður hvaða samtöl hann les, dregur áþreifanlegan lærdóm af hverju þeirra og flokkar saman lærdóma sem kalla á sömu endurnýtanlegu hegðun. Þar sem lagfæring á einni bilun getur stangast á við aðra leiðbeiningu eða aukið vinnu annars staðar les hann allan Skill-pakkann áður en hann leggur til breytingu og sleppir því þegar gögnin styðja hana ekki.
Gervigreindarfulltrúar fyrir umbætur keyra á sama harness-kerfi og Computer. Við gerðum harness-kerfið einingaskipt, svo nýtt forrit fyrir gervigreindarfulltrúa getur endurnýtt búnað þess fyrir röksemdafærslu, notkun tóla og stjórnun samhengis en skilgreint eigin leiðbeiningar og getu með viðbótum. Sérstakur floti bakgrunnsvinnsluþjóna gerir okkur kleift að skala þessa vinnslu óháð verkefnum í forgrunni.
Umbótahringrás persónulegra Skill-pakka
Fyrst lýsum við því hvernig sameiginlegu sjálfsumbótavélinni er beitt í persónulegu umbótahringrásinni, sem breytir verkefnasögu notanda í nýja eða uppfærða persónulega Skill-pakka. Myndin hér að neðan rekur dæmi um Skill-pakka í gegnum alla hringrásina og endar á endurskoðuðu útgáfunni.
Í daglegri vinnslukeyrslu fer gervigreindarfulltrúinn fyrir umbætur yfir nýleg samtöl notandans til að ákvarða hvaða breytingar eru þess virði að gera. Nokkur nýleg samtöl eru forhlaðin í sandkassann ásamt gögnum um notkun Skill-pakka; afganginn af samtalasögu notandans er hægt að sækja eftir þörfum. Gervigreindarfulltrúinn fyrir umbætur fær einnig skrá yfir fyrirliggjandi Skill-pakka. Hann hefur ekki aðgang að internetinu eða öðrum tengingum.
Viðbætur og Skill-pakkar sem hannaðir eru fyrir verkflæðið um umbætur á persónulegum Skill-pökkum stýra ígrundunarferlinu og byggja á meginreglum okkar um hvað einkennir góða uppfærslu. Gervigreindarfulltrúinn greinir fyrst heila keyrsluferla til að finna áþreifanlegan lærdóm í hverju samtali. Síðan ber hann lærdómana saman við fyrirliggjandi leiðbeiningar og ákveður hvort uppfæra eigi Skill-pakka, búa til nýjan eða gera enga breytingu. Til að búa til Skill-pakka þarf tvö óháð tilvik af sömu endurnýtanlegu hegðun, en uppfærslu á fyrirliggjandi Skill-pakka má rökstyðja með einu vel grunduðu tilviki.
Gervigreindarfulltrúinn breytir Skill-pakkanum ekki beint. Þess í stað útbýr hann tillögu þar sem fyrirhugaðar breytingar eru skráðar ásamt rökstuðningi og gögnum sem styðja þær. Uppfærslur takmarkast við eina breytingu á hvern Skill-pakka í hverri keyrslu. Löggengar prófanir staðfesta að tillögur séu rétt mótaðar og að hægt sé að beita þeim á Skill-pakkann. Auk þess fer LLM-dómari yfir úrtak tillagna og kannar hvort gögnin styðji breytinguna og hvort Skill-pakkinn sem af henni leiðir veiti gagnlegar leiðbeiningar.
Virkjun breytir staðfestri tillögu í breytingu á Skill-safni notandans svo hægt sé að hlaða nýju útgáfunni og nota hana í framtíðarsamtölum. Þar sem harness-kerfið hleður skrá yfir alla tiltæka Skill-pakka í upphafi hvers samtals getur stórt Skill-safn fyllt samhengisgluggann og gert gervigreindarfulltrúanum erfiðara að finna og hlaða viðeigandi Skill-pakka. Því heldur kerfið aðeins í verðmætustu Skill-pakkana og leggur niður þá sem ekki er þörf á til að viðhalda litlu, vel völdu safni. Nánar tiltekið setjum við hámark á 10 sjálfvirkt stofnaða Skill-pakka á hvern notanda. Þegar hámarkinu er náð getur gervigreindarfulltrúinn fyrir umbætur enn uppfært eða fjarlægt Skill-pakka, en til að bæta við nýjum Skill-pakka verður hann að leggja niður fyrirliggjandi Skill-pakka og rökstyðja hvers vegna sá nýi gagnist betur í vinnu notandans.
Umbótahringrás innbyggðra Skill-pakka
Við útvíkkum einnig ramma Brain um stöðugar umbætur á Skill-pökkum til innbyggðra Skill-pakka. Í stað þess að nota minni og samtalasögu eins notanda til að bæta persónulega Skill-pakka þess notanda notar innbyggða hringrásin gögn frá mörgum notendum til að bæta Skill-pakkana sem standa öllum notendum Perplexity til boða. Þar sem allir geta notað innbyggða Skill-pakka eru gerðar miklar kröfur til breytinga; uppfærslur sem óvart draga úr afköstum geta haft áhrif á þúsundir samtala. Innbyggði gervigreindarfulltrúinn fyrir umbætur breytir aðeins tillöguútgáfum Skill-pakka. Til að komast í aðalútgáfu Skill-pakkans verða þessar uppfærslur að fara í gegnum paraða endurspilun og innri mannlega yfirferð. Enn á ný rekjum við alla hringrásina með dæmi um Skill-pakka og gögnum sem styðja hann.
Innbyggða umbótahringrásin notar hreinsuð gögn úr samtölum sem heimilt er að nota í þjálfun. Greiningar og bilanamerki eru notuð til að velja viðeigandi gögn, ásamt viðmiðunarsamtölum þar sem Skill-pakkinn var notaður án þess að nokkur viðvörun kæmi upp. Hreinsunarferli fjarlægir aðgangsupplýsingar og önnur leynigögn, auk viðhengja og miðlaskráa.
Gervigreindarfulltrúi sem býr til sviðsmyndir breytir hreinsuðum gögnum í áþreifanlegar bilanasviðsmyndir. Hann heldur aðeins því samhengi sem þarf til að skilja bilunartilvikið og bæta Skill-pakkann; afgangurinn af samtalinu er endurgerður með tilbúnum gögnum, sem skapar sjálfstætt próf fyrir staðfestingarferlið. Sviðsmyndir verða að keyra án tengdra forrita eða innskráningar; ef upphaflega verkefnið var háð tengingu er því inntaki skipt út fyrir tilbúnar skrár í sviðsmyndinni. Sérstök prófun staðfestir að Skill-pakkinn bregðist í sviðsmyndinni sem búin var til.
Ígrundun fer fram í vikulegri endurskoðunarkeyrslu sem breytir greindum bilunum í lagfæringar. Hún leitar að bilunum í Skill-pökkum sem endurtaka sig í mörgum samtölum, svo eitt slæmt samtal knýr ekki fram breytingu. Fyrir hverja endurtekna bilun er keyrður sérstakur gervigreindarfulltrúi fyrir umbætur. Gervigreindarfulltrúinn fær lýsingu á rótarorsökinni ásamt hreinsuðum skrám úr vel heppnuðum samtölum. Hann notar þessi gögn til að skrifa tillögu að endurskoðun Skill-pakkans. Hann fær ekki bilanasviðsmyndirnar í heild, þar sem þær eru notaðar í matinu.
Sérstök endurspilunarkeyrsla notar sviðsmyndirnar sem búnar voru til til að bera saman upprunalegu og endurskoðuðu útgáfuna af Skill-pakkanum. LLM-dómari metur svör og keyrsluferla gervigreindarfulltrúa út frá matskvarða hverrar sviðsmyndar. Til að tillaga standist þarf hver prófunarsviðsmynd að standast með endurskoðaða Skill-pakkanum og að minnsta kosti ein að bregðast með þeim upprunalega. Sviðsmyndir sem byggðar eru á viðmiðunarsamtölunum eru einnig endurspilaðar til að staðfesta að ekkert hafi hætt að virka. Í bilanasviðsmyndunum kannar dómarinn einnig að tiltekna bilunin hafi átt sér stað, í stað þess að líta á misheppnað verkefni sem vísbendingu um sama vandamál.
Verkflæðið pakkar breytingatillögunum og matsniðurstöðunum í pull request til innri mannlegrar yfirferðar. Breytingarnar taka aðeins gildi ef verkfræðingur samþykkir þetta PR.
Mat
Sjálfvirkar umbætur á Skill-pökkum hafa aukið verulega gerð og notkun Skill-pakka. Brain skrifaði yfir 80.000 persónulega Skill-pakka fyrir yfir 20.000 notendur á tímabilinu 1. ágúst til 14. nóvember. Auk þess voru yfir 100.000 sjálfvirkar uppfærslur gerðar á yfir 30.000 fyrirliggjandi persónulegum Skill-pökkum á tímabilinu 4. september til 14. nóvember.
Þessir Skill-pakkar spanna fjölbreytt svið og verkefni, allt frá sannprófun hugbúnaðar til afstemmingar launa og hönnunar skýringarmynda. Við flokkuðum Skill-pakka sem Brain bjó til eftir verkflæðunum sem þeir lýsa. Jafnvel stærsta sviðið, hugbúnaðarverkfræði, stóð aðeins fyrir 11% Skill-pakka; þar á eftir koma rannsóknir og samantektir (10,1%), sala og rekstur (9,9%) og fjármál og fjárfestingar (9,9%).
Við gerðum átta vikna slembiraðaða prófun á raunumferð þar sem notendur með sjálfvirkar umbætur á persónulegum Skill-pökkum virkar voru bornir saman við samanburðarhóp þar sem slökkt var á þeim. Alls fengu 72,9% fólks með umbætur á Skill-pökkum virkar að minnsta kosti einn nýjan persónulegan Skill-pakka, en aðeins 6,5% fólks án þeirra bættu handvirkt við nýjum Skill-pakka. Meira en helmingur meðferðarhópsins (53%) var með persónulegan Skill-pakka hlaðinn í samtali sem notandinn hóf sjálfur, samanborið við 13% í samanburðarhópnum; í samtalsumferðum þeirra var persónulegur Skill-pakki hlaðinn um 3,6 sinnum oftar. Af þeim viðskiptavinum sem fengu Skill-pakka skrifaðan af Brain notuðu 63% slíkan aftur í síðara samtali innan fjögurra vikna.
Með mati okkar viljum við komast að því hvaða áhrif þessir nýju og uppfærðu Skill-pakkar hafa á framkvæmd verkefna og heildarafköst.
Niðurstöður úr sömu slembiröðuðu tilraun sýna fækkun misheppnaðra tólakalla og minni óánægju notenda. Hjá notendum með sjálfvirkar umbætur á Skill-pökkum lækkaði hlutfall misheppnaðra tólakalla um 11% í allri virkni Computer. Þegar bakgrunnskeyrslur kerfisins sjálfs eru undanskildar mistókust tólaköll samt um 7% sjaldnar, sem bendir til þess að áreiðanleiki hafi aukist í vinnu notandans. Óánægja notenda, mæld sem fjöldi þráða með miðlungs eða mikla óánægju á hvern notanda, minnkaði um 7,6%. Við sáum enga mælanlega breytingu á kostnaði eða svartíma. Þessar fyrstu prófanir sýna lofandi niðurstöður og við gerum ráð fyrir að umbæturnar aukist með tímanum eftir því sem við fínstillum kerfið og gerum sjálfbætandi Skill-pakka aðgengilega fleiri notendum.
Tilraunir utan raunumhverfis hafa einnig sýnt umbætur við þrengri aðstæður. Í tilraun með SkillLearnBench notaði Computer fyrri keyrsluferla verkefna til að búa til einn persónulegan Skill-pakka fyrir hverja af níu verkefnafjölskyldum. Í 16 pöruðum matstilvikum jókst árangur í verkefnum úr 43,8% án Skill-pakka í 62,5% með Skill-pökkum sem búnir voru til, sem bendir til þess að Skill-pakkar sem byggjast á fyrri reynslu geti bætt frammistöðu í endurteknum verkefnum. Í einni tilviksrannsókn á innbyggðum Skill-pakka leiddu breytingar á Skill-pakka fyrir netverslun til 6% aukningar á gæðum með 32% lægri kostnaði, þar sem gæði voru mæld af sjálfvirkum dómara.
Niðurstaða
Sjálfbætandi Skill-pakkar gefa Computer aðra leið til að læra af eigin vinnu. Þeir útvíkka Brain til að búa til og viðhalda verklagsminni og bæta frammistöðu í flóknum verkflæðum. Sjálfvirkar umbætur á Skill-pökkum hafa þegar aukið notkun Skill-pakka, lækkað bilanatíðni tóla og dregið úr óánægju notenda.
Umbætur á persónulegum Skill-pökkum eru nú í boði fyrir alla Max-áskrifendur í Bandaríkjunum. Kveikt er á þeim sjálfgefið hjá notendum sem uppfylla skilyrði, en hægt er að slökkva á þeim. Flipinn Viðbætur sýnir tiltæka Skill-pakka, auðkennir þá sem Brain skrifaði og gerir notendum kleift að velja hvaða Skill-pakkar eru virkir.
Næst munum við útvíkka umbæturnar til fleiri flokka Skill-pakka, þar á meðal Skill-pakka sem notendur skrifa, Skill-pakka sem deilt er innan verkefna og Skill-pakka fyrirtækja. Við munum halda áfram að fínstilla umbótaferlið og mat þess svo að endurskoðanir leiði til áreiðanlegri verkferla og betri niðurstaðna.
Tilvísun
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}