Selvforbedrende skills
Sådan lærer Perplexity Brain tilbagevendende procedurer af erfaring og holder dem opdaterede.
Introduktion
Brugere har præferencer og krav, der er specifikke for deres arbejdsprocesser, og som en generel model ikke kan kende på forhånd. En agent er nødt til at lære disse detaljer for at tilpasse sit arbejde til brugeren i stedet for at kræve, at brugeren forklarer den samme procedure eller foretager de samme rettelser i hver session. Kontinuerlig læring gør dette muligt: Erfaring fra afsluttede opgaver bør præge, hvordan agenten griber fremtidigt arbejde an.
Brain, Computers personaliserede selvforbedringssystem, muliggør læring gennem erfaring. Det vedligeholder allerede en struktureret videns-wiki, der forbinder oplysninger om brugeren og brugerens arbejde med den evidens, der understøtter dem. Baggrundsagenter opdaterer wikien, efterhånden som nye oplysninger akkumuleres, så hukommelsessystemet forbedres over tid.
Agent-Skills giver endnu en måde at styre agenters adfærd på uden at ændre den underliggende model. Skills er genanvendelige instruktioner, der guider en agent gennem bestemte opgaver. De indfanger krav og understøttende ressourcer for tilbagevendende arbejdsprocesser, som agenten ellers skulle udlede fra hukommelsen eller modtage fra brugeren hver gang, hvilket forbedrer ydeevnen på opgaver uden for træningsfordelingen. De kan også indeholde scripts til gentagne procedurer eller behandling, der pålideligt kan udtrykkes i kode, så agenten blot kan køre disse scripts, når de er relevante. Harnessen gør tilgængelige Skills synlige og indlæser deres instruktioner i konteksten, når agenten anmoder om dem. Brugere kan også direkte angive i prompten, hvilke Skills der skal bruges.
Vi udvider Brain til automatisk at oprette og opdatere agent-Skills. Brain bygger på en brugers hukommelse og sessionshistorik for at skrive og forfine personlige Skills, der indfanger procedurer for den pågældende brugers arbejdsprocesser. Vi anvender en lignende tilgang til at opdatere indbyggede Skills, som er tilgængelige for alle Perplexity-brugere, baseret på samlede mønstre på tværs af alle sessioner.
Vi beskriver først vores selvforbedringsmotor, der deles på tværs af alle typer Skills, og forklarer, hvordan den fungerer for personlige og indbyggede Skills.
Delt selvforbedringsmotor
En nyttig Skill skal stadig ændres, efterhånden som nye præferencer opstår, eller erfaringen afslører mangler i dens instruktioner. Brain har ansvaret for at finde ud af, hvordan agentens adfærd skal ændres, næste gang Computer støder på en lignende opgave, og for at afgøre, hvordan den pågældende Skill skal ændres for bedre at opnå det ønskede resultat.
Denne forbedringsproces danner en løkke med fire faser:
- Evidens. Brain finder tidligere sessioner, hvor den pågældende Skill blev brugt, især dem, hvor den kom til kort.
- Refleksion. En forbedringsagent studerer denne evidens og foreslår opdateringer af den pågældende Skill.
- Verificering. Tjek bekræfter, at forslaget er korrekt udformet og sandsynligvis vil forbedre resultaterne.
- Aktivering. Den verificerede ændring anvendes. Fremtidige sessioner bruger den nye version og giver evidens til næste runde.
Denne løkke bygger på mange eksisterende funktioner, der er udviklet til Computer og Brain. Her beskriver vi det delte maskineri, der muliggør evidens og refleksion. Procedurerne for verificering og aktivering afhænger af, om en ændring når én bruger eller alle Perplexity-brugere, så vi gennemgår dem i de følgende afsnit om forbedringsløkkerne for personlige og indbyggede Skills.
Evidens fra tidligere sessioner
Refleksion kræver, at man finder sessioner, hvor en Skill blev brugt, især dem, hvor der er plads til forbedring. Computers harness registrerer signaler, der gør dette muligt. Når agenten indlæser en Skill, registrerer harnessen en hændelse for indlæsning af Skill, der knytter den pågældende Skill til sessionen. Når agenten ser brugerfrustration, defekt adfærd eller tydelig ineffektivitet, indsender agenten en kort, struktureret diagnostik, og harnessen vedhæfter de Skills, der er i brug. Disse er særligt nyttige for indbyggede Skills, hvor enhver session potentielt kan være relevant, så systemet har brug for en måde til hurtigt at indsnævre evidenspuljen på.
Agenter har gavn af at have adgang til hele forløbet i stedet for at foretage en vurdering ud fra resultatet eller et kort resumé. Computer gemmer tidligere sessioner ved hjælp af udbyderuafhængige repræsentationer af forløb, der indfanger beskeder, værktøjskald, ræsonnering og resultater. Vi har også bygget en suite af kommandolinjeværktøjer, som agenter kan bruge til at afkode disse forløb og rekonstruere hele sessioner. Det gør det muligt for refleksionsagenten at undersøge specifikke indlæsninger af Skills og værktøjskald og identificere de præcise punkter, hvor der opstod problemer, eller hvor der kunne foretages forbedringer.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlEksempel på brug af Computers interne værktøjer til inspektion af forløb. Stier og identifikatorer er forenklet til illustration; kommandonavne og argumenter følger implementeringen.
Refleksion med baggrundsagenter
Brain bruger et team af baggrundsagenter til løbende at optimere oplevelsen for hver bruger. For eksempel gennemgår Dream-agenter akkumuleret erfaring for at opdatere videns-wikien. På samme måde drives forbedring af Skills af forbedringsagenter, der reflekterer over evidens for brug af Skills for at foreslå opdateringer.
Hver agent arbejder i sin egen sandbox med en frontier-model, den relevante evidens og det nuværende Skill-bibliotek, vejledt af plugins og Skills. Den beslutter, hvilke sessioner den skal læse, uddrager en konkret lærdom af hver enkelt og grupperer lærdomme, der kræver den samme genanvendelige adfærd. Fordi en rettelse af én fejl kan modsige en anden instruktion eller tilføje arbejde andre steder, læser den hele den pågældende Skill, før den foreslår en redigering, og afstår, når evidensen ikke understøtter en.
Forbedringsagenter kører på samme harness som Computer. Vi har gjort harnessen modulær, så en ny agentapplikation kan genbruge dens maskineri til ræsonnering, værktøjsbrug og kontekststyring, mens den definerer sine egne instruktioner og funktioner via plugins. En dedikeret flåde af baggrundsworkers lader os skalere denne behandling uafhængigt af forgrundsopgaver.
Forbedringsløkken for personlige Skills
Vi beskriver først, hvordan den delte selvforbedringsmotor anvendes i den personlige forbedringsløkke, som omdanner en brugers opgavehistorik til nye eller opdaterede personlige Skills. Figuren nedenfor følger et eksempel på en Skill gennem hele løkken og slutter med den reviderede version.
Under en daglig genereringskørsel gennemgår forbedringsagenten brugerens seneste sessioner for at afgøre, hvilke ændringer der er værd at foretage. Et sæt af seneste sessioner indlæses på forhånd i sandboxen sammen med data om brug af Skills; resten af brugerens sessionshistorik kan hentes efter behov. Forbedringsagenten modtager også kataloget over eksisterende Skills. Den har ikke adgang til internettet eller andre connectors.
Plugins og Skills, der er designet til arbejdsprocessen for forbedring af personlige Skills, styrer refleksionsprocessen og trækker på vores principper for, hvad der kendetegner en god opdatering. Agenten analyserer først hele forløb for at identificere en konkret lærdom i hver session. Derefter sammenligner den lærdommene med de eksisterende instruktioner og beslutter, om den skal opdatere en Skill, oprette en eller ikke foretage nogen ændring. Oprettelse af en Skill kræver to uafhængige forekomster af den samme genanvendelige adfærd, mens en opdatering af en eksisterende Skill kan begrundes med en enkelt velfunderet forekomst.
Agenten ændrer ikke den pågældende Skill direkte. I stedet udarbejder den et forslag, der registrerer de tilsigtede ændringer samt den understøttende begrundelse og evidens. Opdateringer er afgrænset til én ændring pr. Skill pr. kørsel. Deterministiske tjek verificerer, at forslagene er korrekt udformet og kan anvendes på den pågældende Skill. Separat gennemgår en LLM-dommer et udsnit af forslagene og kontrollerer, om evidensen understøtter ændringen, og om den resulterende Skill giver nyttige instruktioner.
Aktivering omdanner et verificeret forslag til en ændring i brugerens Skill-bibliotek, så den nye version kan indlæses og bruges i fremtidige sessioner. Fordi harnessen indlæser et indeks over alle tilgængelige Skills i starten af hver session, kan et stort bibliotek af Skills fylde kontekstvinduet op og gøre det sværere for agenten at finde og indlæse relevante Skills. Derfor beholder systemet kun de mest værdifulde Skills og udfaser Skills, der ikke er nødvendige, for at bevare et lille, kurateret bibliotek. Konkret håndhæver vi en grænse på 10 automatisk oprettede Skills pr. bruger. Når grænsen er nået, kan forbedringsagenten stadig opdatere eller fjerne Skills, men for at tilføje en ny Skill skal den udfase en eksisterende Skill og begrunde, hvorfor den nye Skill er mere nyttig for brugerens arbejde.
Forbedringsløkken for indbyggede Skills
Vi udvider også Brains ramme for løbende forbedring af Skills til indbyggede Skills. I stedet for at bruge én brugers hukommelse og sessionshistorik til at forbedre den brugers personlige Skills bruger den indbyggede løkke evidens fra mange brugere til at forbedre de Skills, der er tilgængelige for alle Perplexity-brugere. Fordi indbyggede Skills kan bruges af alle, er kravene til ændringer høje; opdateringer, der utilsigtet forringer ydeevnen, kan påvirke tusindvis af sessioner. Den indbyggede forbedringsagent ændrer kun kandidatversioner af Skills. For at nå den kanoniske version af en Skill skal disse opdateringer gennem parret genafspilning og intern menneskelig gennemgang. Endnu en gang følger vi hele løkken med et eksempel på en Skill og understøttende evidens.
Den indbyggede forbedringsløkke bruger renset evidens fra sessioner, der er berettigede til brug i træning. Diagnostik og fejlsignaler bruges til at udvælge relevant evidens sammen med kontrolsessioner, hvor den pågældende Skill blev brugt uden at udløse nogen advarsler. En rensningspipeline fjerner loginoplysninger og andre hemmeligheder samt vedhæftede filer og medier.
En agent til scenariegenerering omdanner renset evidens til konkrete fejlscenarier. Den beholder kun den kontekst, der er nødvendig for at forstå fejltilfældet og forbedre den pågældende Skill; resten af sessionen genopbygges syntetisk, så der skabes en selvstændig test til verificeringsprocessen. Scenarier skal kunne køre uden forbundne apps eller login; hvis den oprindelige opgave var afhængig af en connector, erstattes dette input af syntetiske filer i scenariet. Et separat tjek verificerer, at den pågældende Skill fejler på det genererede scenarie.
Refleksion sker gennem et ugentligt revisionsjob, der omdanner observerede fejl til rettelser. Det leder efter fejl i Skills, der gentager sig på tværs af flere sessioner, så en enkelt dårlig session ikke udløser en redigering. Hver tilbagevendende fejl får sin egen kørsel af forbedringsagenten. Agenten modtager en beskrivelse af grundårsagen sammen med rensede registreringer fra vellykkede sessioner. Den bruger denne evidens til at skrive en kandidatrevision af den pågældende Skill. Den modtager ikke de fulde fejlscenarier, da de bruges i evalueringen.
Et separat genafspilningsjob bruger de genererede scenarier til at sammenligne den oprindelige og den reviderede version af den pågældende Skill. En LLM-dommer evaluerer en agents svar og forløb ud fra hvert scenaries bedømmelseskriterier. For at et forslag kan bestå, skal alle testscenarier bestå med den reviderede Skill, og mindst ét skal fejle med den oprindelige. Scenarier, der er bygget ud fra kontrolsessionerne, genafspilles også for at bekræfte, at intet er holdt op med at virke. For fejlscenarierne kontrollerer dommeren også, at den specifikke fejl opstod, i stedet for at behandle en mislykket opgave som evidens for det samme problem.
Arbejdsprocessen samler kandidatændringerne og evalueringsresultaterne i en pull request til intern menneskelig gennemgang. Ændringerne træder kun i kraft, hvis en ingeniør godkender PR'en.
Evalueringer
Automatisk forbedring af Skills har øget oprettelsen og brugen af Skills markant. Brain skrev over 80.000 personlige Skills til over 20.000 brugere mellem 1. august og 14. november. Derudover blev der anvendt mere end 100.000 automatiske opdateringer på over 30.000 eksisterende personlige Skills mellem 4. september og 14. november.
Disse Skills spænder over en bred vifte af domæner og opgaver, fra verificering af software til lønafstemning og design af figurer. Vi kategoriserede Skills genereret af Brain ud fra de arbejdsprocesser, de beskriver. Selv det største domæne, softwareudvikling, tegnede sig kun for 11 % af Skills, efterfulgt af research og briefinger (10,1 %), salg og drift (9,9 %) samt økonomi og investering (9,9 %).
Vi gennemførte en otte uger lang randomiseret test på produktionstrafik, hvor vi sammenlignede brugere med automatisk forbedring af personlige Skills aktiveret med en kontrolgruppe, hvor funktionen var deaktiveret. 72,9 % af personerne med forbedring af Skills aktiveret fik mindst én ny personlig Skill, mens kun 6,5 % af personerne uden funktionen manuelt tilføjede en ny Skill. Mere end halvdelen af behandlingsgruppen (53 %) havde en personlig Skill indlæst i en samtale, de startede, sammenlignet med 13 % i kontrolgruppen; i deres samtaleture blev en personlig Skill indlæst omkring 3,6 gange så ofte. Blandt kunder, der fik en Skill skrevet af Brain, brugte 63 % en igen i en senere samtale inden for fire uger.
Vores evalueringer søger at fastslå, hvordan disse nye og opdaterede Skills påvirker opgaveudførelsen og den samlede ydeevne.
Resultater fra det samme randomiserede eksperiment viser et fald i fejlslagne værktøjskald og brugerutilfredshed. For brugere med automatisk forbedring af Skills faldt fejlraten for værktøjskald med 11 % på tværs af al aktivitet i Computer. Når systemets egne baggrundskørsler blev udeladt, fejlede værktøjskald stadig omkring 7 % sjældnere, hvilket tyder på, at pålideligheden blev forbedret i brugerens arbejde. Brugerutilfredshed, målt som tråde med middel/høj utilfredshed pr. bruger, faldt med 7,6 %. Vi så ingen målbar ændring i omkostninger eller svartid. Disse tidlige tests viser lovende resultater, og vi forventer, at forbedringerne vil vokse over tid, efterhånden som vi forfiner systemet og udruller selvforbedrende Skills til flere brugere.
Offline-eksperimenter har også registreret forbedringer i mere afgrænsede sammenhænge. I et SkillLearnBench-eksperiment brugte Computer tidligere opgaveforløb til at oprette én personlig Skill for hver af ni opgavefamilier. På tværs af 16 parrede evalueringsinstanser steg opgavesuccesen fra 43,8 % uden Skills til 62,5 % med genererede Skills, hvilket giver evidens for, at Skills udledt af tidligere erfaring kan forbedre ydeevnen på gentagne opgaver. I et casestudie med indbyggede Skills førte redigeringer af en e-handels-Skill til en kvalitetsforbedring på 6 % til 32 % lavere omkostninger, hvor kvaliteten blev målt af en automatiseret dommer.
Konklusion
Selvforbedrende Skills giver Computer endnu en måde at lære af det arbejde, den udfører. De udvider Brain til at oprette og vedligeholde proceduremæssig hukommelse og forbedrer ydeevnen på komplekse arbejdsprocesser. Automatisk forbedring af Skills har allerede øget brugen af Skills, reduceret fejlraten for værktøjer og mindsket brugerutilfredsheden.
Forbedring af personlige Skills er nu tilgængelig for alle Max-abonnenter i USA. Funktionen er slået til som standard for berettigede brugere, men kan slås fra. Fanen Plugins viser tilgængelige Skills, angiver dem, der er skrevet af Brain, og lader brugerne vælge, hvilke Skills der er aktiveret.
Dernæst udvider vi forbedringen til flere typer Skills, herunder Skills skrevet af brugere, Skills delt i projekter og organisationers Skills. Vi vil fortsætte med at forfine forbedringspipelinen og dens evalueringer, så revisioner fører til mere pålidelige procedurer og bedre resultater.
Kildehenvisning
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}