Isetäiustuvad Skillid
Kuidas Perplexity Brain õpib kogemustest korduvaid toiminguid ja hoiab neid ajakohasena.
Sissejuhatus
Kasutajatel on töövoopõhised eelistused ja nõuded, mida üldotstarbeline mudel ei saa ette teada. Agent peab need üksikasjad selgeks õppima, et oma tööd kasutaja vajadustele kohandada, selle asemel et nõuda kasutajalt igas seansis sama protseduuri selgitamist või samade paranduste tegemist. Pidevõpe teeb selle võimalikuks: lõpetatud ülesannetest saadud kogemus peaks suunama seda, kuidas agent tulevast tööd käsitleb.
Brain, Computeri isikupärastatud enesetäiustussüsteem, võimaldab kogemuse kaudu õppimist. See haldab juba struktureeritud teadmiste vikit, mis seob teabe kasutaja ja tema töö kohta seda toetavate tõenditega. Taustaagendid uuendavad vikit uue teabe kogunedes, nii et mälusüsteem aja jooksul paraneb.
Agendi Skillid pakuvad veel üht võimalust agendi käitumise suunamiseks ilma aluseks olevat mudelit muutmata. Skillid on korduvkasutatavad juhised, mis juhatavad agenti konkreetsete ülesannete täitmisel. Need talletavad korduvate töövoogude nõuded ja abiressursid, mida agent peaks muidu mälu põhjal järeldama või iga kord kasutajalt saama, parandades jõudlust jaotusväliste ülesannete puhul. Need võivad sisaldada ka skripte korduvate protseduuride või töötluse jaoks, mida saab koodis usaldusväärselt väljendada, nii et agent saab need skriptid lihtsalt käivitada, kui need on asjakohased. Agendi harness teeb saadaolevad Skillid leitavaks ja laadib nende juhised konteksti, kui agent neid küsib. Kasutajad saavad ka viibas otse määrata, milliseid Skille kasutada.
Laiendame Braini, et see looks ja uuendaks agendi Skille automaatselt. Brain tugineb kasutaja mälule ja seansiajaloole, et kirjutada ja täiustada isiklikke Skille, mis talletavad selle kasutaja töövoogude protseduure. Sarnast lähenemist kasutame ka sisseehitatud Skillide puhul, mis on saadaval kõigile Perplexity kasutajatele: neid uuendatakse kõigi seansside koondmustrite põhjal.
Esmalt kirjeldame kõigi Skillide tüüpide jaoks ühist enesetäiustusmootorit ja selgitame, kuidas see töötab isiklike ja sisseehitatud Skillide puhul.
Jagatud enesetäiustusmootor
Ka kasulik Skill peab muutuma, kui tekivad uued eelistused või kogemus paljastab lünki selle juhistes. Brain vastutab selle väljaselgitamise eest, kuidas agendi käitumine peaks muutuma järgmine kord, kui Computer puutub kokku sarnase ülesandega, ning otsustab, kuidas Skilli muuta, et soovitud tulemust paremini saavutada.
See täiustusprotsess moodustab neljaetapilise tsükli:
- Tõendid. Brain leiab varasemad seansid, kus Skilli kasutati, eriti need, kus see jäi ootustele alla.
- Refleksioon. Täiustusagent uurib neid tõendeid ja pakub välja Skilli uuendusi.
- Verifitseerimine. Kontrollid kinnitavad, et ettepanek on korrektselt vormistatud ja parandab tõenäoliselt tulemusi.
- Aktiveerimine. Kontrollitud muudatus rakendatakse. Tulevased seansid kasutavad uut versiooni ja annavad tõendeid järgmiseks vooruks.
See tsükkel tugineb paljudele olemasolevatele võimekustele, mis on loodud Computeri ja Braini jaoks. Siin kirjeldame jagatud mehhanismi, mis võimaldab tõendite kogumist ja refleksiooni. Verifitseerimis- ja aktiveerimisprotseduurid sõltuvad sellest, kas muudatus jõuab ühe kasutajani või iga Perplexity kasutajani, seega käsitleme neid järgmistes jaotistes, mis kirjeldavad isiklike ja sisseehitatud Skillide täiustustsükleid.
Tõendid varasematest seanssidest
Refleksioon eeldab seansside leidmist, kus Skilli kasutati, eriti selliste, kus on arenguruumi. Computeri harness salvestab signaale, mis seda võimaldavad. Kui agent laadib Skilli, salvestab harness Skilli laadimise sündmuse, mis seob Skilli seansiga. Kui agent märkab kasutaja frustratsiooni, katkist käitumist või ilmset ebatõhusust, koostab agent lühikese struktureeritud diagnostika ja harness lisab sellele kasutusel olevad Skillid. Need on eriti kasulikud sisseehitatud Skillide puhul, kus asjakohane võib olla iga seanss, seega vajab süsteem viisi, kuidas tõendite kogumit kiiresti kitsendada.
Agentidele on kasulik juurdepääs täielikule kirjele, selle asemel et teha otsus tulemuse või lühikokkuvõtte põhjal. Computer salvestab varasemad seansid teenusepakkujast sõltumatute trajektooriesitustena, mis hõlmavad sõnumeid, tööriistakutseid, arutlust ja tulemusi. Oleme loonud ka käsurea tööriistade komplekti, mille abil agendid saavad neid trajektoore dekodeerida ja täielikke seansse rekonstrueerida. See võimaldab refleksiooniagendil uurida konkreetseid Skillide laadimisi ja tööriistakutseid ning tuvastada täpsed kohad, kus probleemid tekkisid või kus saaks midagi parandada.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlNäide Computeri sisemiste trajektooride kontrollimise tööriistade kasutamisest. Teed ja identifikaatorid on illustreerimiseks lihtsustatud; käskude nimed ja argumendid vastavad teostusele.
Refleksioon taustaagentidega
Brain kasutab taustaagentide meeskonda, et iga kasutaja kogemust pidevalt optimeerida. Näiteks Dream-agendid vaatavad üle kogunenud kogemuse, et uuendada teadmiste vikit. Samamoodi toetavad Skillide täiustamist täiustusagendid, mis analüüsivad Skillide kasutamise tõendeid ja pakuvad välja uuendusi.
Iga agent töötab oma liivakastis, kus tal on tipptasemel mudel, asjakohased tõendid ja praegune Skillide kogu, ning seda juhivad pluginad ja Skillid. Agent otsustab, milliseid seansse lugeda, teeb igast konkreetse järelduse ja rühmitab järeldused, mis eeldavad sama korduvkasutatavat käitumist. Kuna ühe tõrke parandus võib olla vastuolus mõne teise juhisega või lisada tööd mujal, loeb agent enne muudatuse väljapakkumist läbi kogu Skilli ja hoidub ettepanekust, kui tõendid seda ei toeta.
Täiustusagendid töötavad samal harnessil kui Computer. Tegime harnessi modulaarseks, nii et uus agendirakendus saab taaskasutada selle mehhanismi arutluseks, tööriistade kasutamiseks ja konteksti haldamiseks, määratledes samal ajal pluginate kaudu oma juhised ja võimekused. Eraldi taustatöötajate park võimaldab meil seda töötlust skaleerida esiplaani ülesannetest sõltumatult.
Isiklike Skillide täiustustsükkel
Esmalt kirjeldame, kuidas jagatud enesetäiustusmootorit rakendatakse isiklikus täiustustsüklis, mis muudab kasutaja ülesannete ajaloo uuteks või uuendatud isiklikeks Skillideks. Allolev joonis jälgib näidis-Skilli kogu tsükli vältel kuni redigeeritud versioonini.
Igapäevase genereerimiskäivituse ajal vaatab täiustusagent üle kasutaja hiljutised seansid, et välja selgitada tegemist väärivad muudatused. Hulk hiljutisi seansse laaditakse eelnevalt liivakasti koos Skillide kasutusandmetega; ülejäänud seansiajaloo saab vajaduse korral hankida. Täiustusagent saab ka olemasolevate Skillide kataloogi. Tal puudub juurdepääs internetile ja teistele konnektoritele.
Isiklike Skillide täiustamise töövoo jaoks loodud pluginad ja Skillid juhivad refleksiooniprotsessi, tuginedes meie põhimõtetele selle kohta, mis teeb uuendusest hea uuenduse. Agent analüüsib esmalt täielikke trajektoore, et tuvastada igas seansis konkreetne järeldus. Seejärel võrdleb see järeldusi olemasolevate juhistega ja otsustab, kas Skilli uuendada, luua uus või jätta kõik muutmata. Skilli loomiseks on vaja sama korduvkasutatava käitumise kahte sõltumatut esinemist, samas kui olemasoleva Skilli uuendust saab põhjendada ühe tõenditega toetatud esinemisega.
Agent ei muuda Skilli otse. Selle asemel koostab see ettepaneku, milles on kirjas kavandatud muudatused ning neid toetav arutluskäik ja tõendid. Uuendused piirduvad ühe muudatusega Skilli kohta ühes käivituses. Deterministlikud kontrollid kinnitavad, et ettepanekud on korrektselt vormistatud ja neid saab Skillile rakendada. Lisaks auditeerib LLM-hindaja valimisse võetud ettepanekuid, kontrollides, kas tõendid toetavad muudatust ja kas tulemuseks olev Skill annab kasulikke juhiseid.
Aktiveerimine muudab kontrollitud ettepaneku muudatuseks kasutaja Skillide kogus, nii et uut versiooni saab tulevastes seanssides laadida ja kasutada. Kuna harness laadib iga seansi alguses kõigi saadaolevate Skillide indeksi, võib suur Skillide kogu kontekstiakna ummistada ning muuta agendil asjakohaste Skillide leidmise ja laadimise keerulisemaks. Seetõttu hoiab süsteem alles ainult kõige väärtuslikumad Skillid ja eemaldab need, mis pole vajalikud, et säilitada väike ja hoolikalt valitud kogu. Täpsemalt kehtestame kasutaja kohta piirangu 10 automaatselt loodud Skillile. Piirangu täitumisel saab täiustusagent endiselt Skille uuendada või eemaldada, kuid uue Skilli lisamiseks peab see eemaldama olemasoleva Skilli ja põhjendama, miks uus Skill on kasutaja töö jaoks kasulikum.
Sisseehitatud Skillide täiustustsükkel
Laiendame Braini pideva Skillide täiustamise raamistikku ka sisseehitatud Skillidele. Selle asemel et kasutada ühe kasutaja mälu ja seansiajalugu selle kasutaja isiklike Skillide täiustamiseks, kasutab sisseehitatud tsükkel paljude kasutajate tõendeid, et täiustada Skille, mis on saadaval igale Perplexity kasutajale. Kuna sisseehitatud Skille saab kasutada igaüks, on muudatuste lävend kõrge; uuendused, mis kogemata jõudlust halvendavad, võivad mõjutada tuhandeid seansse. Sisseehitatud täiustusagent muudab ainult Skillide kandidaatversioone. Et jõuda Skilli kanoonilisse versiooni, peavad need uuendused läbima paaristaasesituse ja sisemise inimülevaatuse. Taas jälgime kogu tsüklit näidis-Skilli ja seda toetavate tõendite abil.
Sisseehitatud täiustustsükkel kasutab puhastatud tõendeid seanssidest, mida on lubatud treenimiseks kasutada. Asjakohaste tõendite valimiseks kasutatakse diagnostikat ja tõrkesignaale ning lisaks kontrollseansse, kus Skilli kasutati ilma ühtegi hoiatust tekitamata. Puhastuskonveier eemaldab mandaadid ja muud saladused ning manustatud failid ja meedia.
Stsenaariumide genereerimise agent muudab puhastatud tõendid konkreetseteks tõrkestsenaariumideks. See säilitab ainult konteksti, mis on vajalik tõrkejuhtumi mõistmiseks ja Skilli täiustamiseks; ülejäänud seanss luuakse sünteetiliselt uuesti, mis annab verifitseerimisprotsessi jaoks iseseisva testi. Stsenaariumid peavad töötama ilma ühendatud rakenduste ja sisselogimiseta; kui algne ülesanne sõltus konnektorist, asendatakse see sisend stsenaariumis sünteetiliste failidega. Eraldi kontroll kinnitab, et Skill genereeritud stsenaariumis ebaõnnestub.
Refleksioon toimub iganädalase redigeerimistöö kaudu, mis muudab täheldatud tõrked parandusteks. See otsib Skillide tõrkeid, mis korduvad mitmes seansis, et üksik halb seanss ei tingiks muudatust. Iga korduva tõrke jaoks käivitatakse eraldi täiustusagent. Agent saab algpõhjuse kirjelduse koos edukate seansside puhastatud kirjetega. Nende tõendite põhjal kirjutab see Skilli kandidaatredaktsiooni. Agent ei saa täielikke tõrkestsenaariume, sest neid kasutatakse hindamisel.
Eraldi taasesitustöö kasutab genereeritud stsenaariume, et võrrelda Skilli algset ja redigeeritud versiooni. LLM-hindaja hindab agendi vastuseid ja trajektoore iga stsenaariumi hindamisjuhendi alusel. Ettepaneku läbimiseks peab iga teststsenaarium redigeeritud Skilliga õnnestuma ja vähemalt üks peab algse Skilliga ebaõnnestuma. Ka kontrollseanssidest loodud stsenaariumid esitatakse uuesti, et kinnitada, et miski pole töötamast lakanud. Tõrkestsenaariumide puhul kontrollib hindaja ka seda, et esines just konkreetne tõrge, selle asemel et käsitleda ebaõnnestunud ülesannet sama probleemi tõendina.
Töövoog pakendab kandidaatmuudatused ja hindamistulemused pull requestiks sisemiseks inimülevaatuseks. Muudatused jõustuvad ainult siis, kui insener PR-i heaks kiidab.
Hindamised
Automaatne Skillide täiustamine on Skillide loomist ja kasutamist märkimisväärselt suurendanud. Ajavahemikus 1. augustist 14. novembrini kirjutas Brain üle 80 000 isikliku Skilli enam kui 20 000 kasutajale. Lisaks rakendati ajavahemikus 4. septembrist 14. novembrini üle 30 000 olemasolevale isiklikule Skillile rohkem kui 100 000 automaatset uuendust.
Need Skillid hõlmavad laia valikut valdkondi ja ülesandeid alates tarkvara kontrollimisest ja palgaarvestuse kooskõlastamisest kuni jooniste kujundamiseni. Liigitasime Braini loodud Skillid nende kirjeldatud töövoogude alusel. Isegi suurima valdkonna, tarkvaratehnika, osakaal oli vaid 11% Skillidest; sellele järgnevad uurimistöö ja ülevaated (10,1%), müük ja operatsioonid (9,9%) ning rahandus ja investeerimine (9,9%).
Viisime tootmisliikluses läbi kaheksanädalase randomiseeritud testi, võrreldes kasutajaid, kellel oli automaatne isiklike Skillide täiustamine lubatud, kontrollrühmaga, kellel see oli keelatud. Inimestest, kellel oli Skillide täiustamine lubatud, said 72,9% vähemalt ühe uue isikliku Skilli, samas kui ilma selleta lisas uue Skilli käsitsi vaid 6,5% inimestest. Üle poole katserühmast (53%) oli enda alustatud vestluses laadinud isikliku Skilli, kontrollrühmas aga 13%; nende vestlusvoorudes laaditi isiklik Skill umbes 3,6 korda sagedamini. Klientidest, kes said Braini kirjutatud Skilli, kasutas 63% mõnda neist nelja nädala jooksul hilisemas vestluses uuesti.
Meie hindamiste eesmärk on välja selgitada, kuidas need uued ja uuendatud Skillid mõjutavad ülesannete täitmist ja üldist jõudlust.
Sama randomiseeritud eksperimendi tulemused näitavad tööriistakutsete tõrgete ja kasutajate rahulolematuse vähenemist. Automaatse Skillide täiustamisega kasutajatel vähenes tööriistakutsete tõrgete määr kogu Computeri tegevuses 11% võrra. Kui süsteemi enda taustakäivitused välja jätta, ebaõnnestusid tööriistakutsed siiski umbes 7% harvemini, mis viitab, et töökindlus paranes kasutaja enda töös. Kasutajate rahulolematus, mõõdetuna keskmise või suure rahulolematusega lõimede arvuna kasutaja kohta, vähenes 7,6% võrra. Kuludes ega vastamisajas mõõdetavat muutust ei täheldatud. Need varajased testid näitavad paljulubavaid tulemusi ja eeldame, et paranemine aja jooksul suureneb, kui süsteemi täiustame ja enesetäiustuvad Skillid rohkematele kasutajatele kättesaadavaks teeme.
Tootmisvälistes katsetes on täheldatud parandusi ka kitsamates tingimustes. Võrdlusaluse SkillLearnBench katses kasutas Computer varasemate ülesannete trajektoore, et luua üheksast ülesandeperest igaühe jaoks üks isiklik Skill. 16 paarishindamise juhtumi lõikes tõusis ülesannete edukus 43,8%-lt ilma Skillideta 62,5%-ni genereeritud Skillidega, mis annab tõendeid, et varasemast kogemusest tuletatud Skillid võivad korduvate ülesannete puhul jõudlust parandada. Ühes sisseehitatud Skilli juhtumiuuringus tõid e-kaubanduse Skilli muudatused kaasa 6% kvaliteedikasvu 32% väiksema kuluga, kusjuures kvaliteeti mõõtis automaatne hindaja.
Kokkuvõte
Enesetäiustuvad Skillid annavad Computerile veel ühe võimaluse oma tööst õppida. Need laiendavad Braini nii, et see loob ja haldab protseduurilist mälu, parandades jõudlust keerukates töövoogudes. Automaatne Skillide täiustamine on juba suurendanud Skillide kasutamist, vähendanud tööriistade tõrgete määra ja kasutajate rahulolematust.
Isiklike Skillide täiustamine on nüüd saadaval kõigile USA Max-tellijatele. Nõuetele vastavatel kasutajatel on see vaikimisi sisse lülitatud, kuid selle saab välja lülitada. Vahekaart Pluginad näitab saadaolevaid Skille, tuvastab Braini loodud Skillid ja võimaldab kasutajatel valida, millised Skillid on lubatud.
Järgmisena laiendame täiustamist rohkematele Skillide klassidele, sealhulgas kasutajate loodud Skillidele, projektides jagatud Skillidele ja organisatsiooni Skillidele. Jätkame täiustamiskonveieri ja selle hindamiste täiustamist, et redaktsioonid viiksid usaldusväärsemate protseduuride ja paremate tulemusteni.
Viitamine
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}