Zelfverbeterende Skills

Hoe Perplexity Brain terugkerende procedures uit ervaring leert en ze actueel houdt.

AuteursPerplexity Engineering

Inleiding

Gebruikers hebben workflowspecifieke voorkeuren en vereisten die een algemeen model niet vooraf kan kennen. Een agent moet deze details leren om zijn werk op de gebruiker af te stemmen, in plaats van dat de gebruiker in elke sessie dezelfde procedure moet uitleggen of dezelfde correcties moet aanbrengen. Continu leren maakt dit mogelijk: ervaring uit voltooide taken moet bepalen hoe de agent toekomstig werk aanpakt.

Brain, het gepersonaliseerde zelfverbeteringssysteem van Computer, maakt leren door ervaring mogelijk. Het onderhoudt al een gestructureerde kenniswiki die informatie over de gebruiker en diens werk koppelt aan het bewijs dat die informatie onderbouwt. Achtergrondagents werken de wiki bij naarmate er nieuwe informatie bijkomt, zodat het geheugensysteem in de loop van de tijd beter wordt.

Agent-Skills bieden een andere manier om het gedrag van agents te sturen zonder het onderliggende model te wijzigen. Skills zijn herbruikbare instructies die een agent door bepaalde taken leiden. Ze leggen vereisten en ondersteunende bronnen vast voor terugkerende workflows die de agent anders uit het geheugen zou moeten afleiden of elke keer van de gebruiker zou moeten krijgen, waardoor de prestaties bij taken buiten de trainingsdistributie verbeteren. Ze kunnen ook scripts bevatten voor repetitieve procedures of verwerking die betrouwbaar in code kan worden uitgedrukt, zodat de agent die scripts gewoon kan uitvoeren wanneer ze van toepassing zijn. De harness maakt beschikbare Skills vindbaar en laadt hun instructies in de context wanneer de agent erom vraagt. Gebruikers kunnen in de prompt ook direct aangeven welke Skills moeten worden gebruikt.

We breiden Brain uit zodat het automatisch agent-Skills aanmaakt en bijwerkt. Brain bouwt voort op het geheugen en de sessiegeschiedenis van een gebruiker om persoonlijke Skills te schrijven en te verfijnen die procedures voor de workflows van die gebruiker vastleggen. We passen een vergelijkbare aanpak toe om ingebouwde Skills, die voor elke Perplexity-gebruiker beschikbaar zijn, bij te werken op basis van gezamenlijke patronen in alle sessies.

Een agent combineert algemene capaciteiten met geselecteerde taakcontext en persoonlijke ervaring. Het onderliggende model gebruikt de werkcontext om te bepalen wat er hierna komt, en die context verandert naarmate de taak vordert. Brain levert Geheugen en persoonlijke Skills en gebruikt vervolgens geselecteerd bewijs uit sessies voor latere updates, onder voorbehoud van controles en autorisatie. Personalisatie verandert context en instructies, niet de modelgewichten. Bronnen worden naar behoefte geselecteerd en niet allemaal tegelijk geladen; deze conceptuele weergave vereenvoudigt de updatemechanismen.

We beschrijven eerst onze zelfverbeteringsengine die voor alle soorten Skills wordt gedeeld, en leggen uit hoe die werkt voor persoonlijke en ingebouwde Skills.

Gedeelde zelfverbeteringsengine

Een nuttige Skill moet nog steeds veranderen wanneer er nieuwe voorkeuren ontstaan of wanneer ervaring hiaten in de instructies blootlegt. Brain is verantwoordelijk voor het ontdekken hoe het gedrag van de agent moet veranderen de volgende keer dat Computer een vergelijkbare taak tegenkomt, en voor het bepalen hoe de Skill moet veranderen om het gewenste resultaat beter te bereiken.

Dit verbeterproces vormt een lus met vier fasen:

  1. Bewijs. Brain zoekt eerdere sessies waarin de Skill is gebruikt, vooral sessies waarin die tekortschoot.
  2. Reflectie. Een verbeteragent bestudeert dat bewijs en stelt updates voor de Skill voor.
  3. Verificatie. Controles bevestigen dat het voorstel goed gevormd is en de resultaten waarschijnlijk verbetert.
  4. Activering. De geverifieerde wijziging wordt toegepast. Toekomstige sessies gebruiken de nieuwe versie en leveren zo bewijs voor de volgende ronde.
Brain selecteert eerdere sessies waarin de Skill werd gebruikt, vooral sessies waarin deze tekortschoot. Een verbeteragent stelt een update voor en controles beoordelen of die goed gevormd is en de resultaten waarschijnlijk verbetert. Na toepassing wordt de nieuwe versie gebruikt in toekomstige sessies, wat bewijs oplevert voor de volgende ronde.

Deze lus steunt op veel bestaande mogelijkheden die voor Computer en Brain zijn gebouwd. Hier beschrijven we de gedeelde machinerie die bewijs en reflectie mogelijk maakt. De procedures voor verificatie en activering hangen ervan af of een wijziging één gebruiker of elke Perplexity-gebruiker bereikt. Daarom behandelen we ze in de volgende secties over de verbeterlussen voor persoonlijke en ingebouwde Skills.

Bewijs uit eerdere sessies

Voor reflectie moeten we sessies vinden waarin een Skill is gebruikt, vooral sessies waarin ruimte voor verbetering is. De harness van Computer registreert signalen die dit mogelijk maken. Wanneer de agent een Skill laadt, registreert de harness een laadgebeurtenis die de Skill aan de sessie koppelt. Wanneer de agent frustratie bij de gebruiker, defect gedrag of duidelijke inefficiëntie opmerkt, dient de agent een korte, gestructureerde diagnose in en voegt de harness de gebruikte Skills toe. Deze signalen zijn vooral nuttig voor ingebouwde Skills, waarbij elke sessie mogelijk relevant kan zijn, zodat het systeem een manier nodig heeft om de verzameling bewijs snel te verkleinen.

Agents hebben er baat bij om toegang te hebben tot het volledige verslag, in plaats van een oordeel te vellen op basis van het resultaat of een korte samenvatting. Computer slaat eerdere sessies op met provider-onafhankelijke trajectrepresentaties die berichten, toolaanroepen, redeneringen en resultaten vastleggen. We hebben ook een reeks command-linetools gebouwd waarmee agents deze trajecten kunnen decoderen en volledige sessies kunnen reconstrueren. Zo kan de reflectieagent specifieke momenten waarop een Skill werd geladen en specifieke toolaanroepen inspecteren, en precies vaststellen waar problemen optraden of verbeteringen mogelijk waren.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Voorbeeldgebruik van de interne tools van Computer voor het inspecteren van trajecten. Paden en ID’s zijn ter illustratie vereenvoudigd; opdrachtnamen en argumenten volgen de implementatie.

Reflectie met achtergrondagents

Brain gebruikt een team van achtergrondagents om de ervaring voor elke gebruiker voortdurend te optimaliseren. Dream-agents bekijken bijvoorbeeld opgebouwde ervaring om de kenniswiki bij te werken. Op dezelfde manier wordt de verbetering van Skills aangedreven door verbeteragents die reflecteren op bewijs over het gebruik van Skills om updates voor te stellen.

Elke agent werkt in een eigen sandbox met een frontiermodel, het relevante bewijs en de huidige Skill-bibliotheek, en laat zich leiden door plugins en Skills. De agent beslist welke sessies hij leest, haalt uit elke sessie een concrete les en groepeert lessen die om hetzelfde herbruikbare gedrag vragen. Omdat een oplossing voor één fout in strijd kan zijn met een andere instructie of elders extra werk kan opleveren, leest de agent de volledige Skill voordat hij een bewerking voorstelt, en ziet hij ervan af wanneer het bewijs geen bewerking rechtvaardigt.

Verbeteragents draaien op dezelfde harness als Computer. We hebben de harness modulair gemaakt, zodat een nieuwe agenttoepassing de machinerie ervan kan hergebruiken voor redeneren, toolgebruik en contextbeheer, terwijl die via plugins eigen instructies en mogelijkheden definieert. Dankzij een speciale vloot van achtergrondworkers kunnen we deze verwerking onafhankelijk van taken op de voorgrond schalen.

De interactieve agent en de verbeteragent op de achtergrond draaien op dezelfde Computer-harness. De verbeteragent gebruikt bewijs uit sessies en de huidige Skills om een wijziging voor te stellen of daarvan af te zien. Een voorstel moet controles doorstaan die specifiek zijn voor het Skill-type voordat een nieuwe versie beschikbaar komt voor toekomstige sessies.

De verbeterlus voor persoonlijke Skills

We beschrijven eerst hoe de gedeelde zelfverbeteringsengine wordt toegepast op de persoonlijke verbeterlus, die de taakgeschiedenis van een gebruiker omzet in nieuwe of bijgewerkte persoonlijke Skills. De onderstaande afbeelding volgt een voorbeeld-Skill door de volledige lus, tot en met de herziene versie.

De lus voor persoonlijke Skills loopt van bewijs uit sessies via een verbeteragent, controles van voorstellen en activering. Huidige Skills dienen ook als input voor de verbeteragent; geactiveerde wijzigingen worden beschikbaar voor toekomstige sessies.

Tijdens een dagelijkse generatierun bekijkt de verbeteragent de recente sessies van de gebruiker om te bepalen welke wijzigingen de moeite waard zijn. Een reeks recente sessies wordt vooraf in de sandbox geladen, samen met gegevens over het gebruik van Skills; de rest van de sessiegeschiedenis van de gebruiker kan zo nodig worden opgehaald. De verbeteragent ontvangt ook de catalogus van bestaande Skills. Hij heeft geen toegang tot internet of andere connectors.

Plugins en Skills die zijn ontworpen voor de workflow voor het verbeteren van persoonlijke Skills sturen het reflectieproces, op basis van onze principes over wat een goede update is. De agent analyseert eerst volledige trajecten om in elke sessie een concrete les te vinden. Daarna vergelijkt hij de lessen met de bestaande instructies en beslist hij of hij een Skill bijwerkt, een Skill aanmaakt of niets wijzigt. Voor het aanmaken van een Skill zijn twee onafhankelijke voorvallen van hetzelfde herbruikbare gedrag nodig, terwijl een update van een bestaande Skill al kan worden gerechtvaardigd met één onderbouwd voorval.

De agent wijzigt de Skill niet rechtstreeks. In plaats daarvan stelt hij een voorstel op waarin de beoogde wijzigingen en de onderbouwende redenering en het bewijs worden vastgelegd. Updates zijn beperkt tot één wijziging per Skill per run. Deterministische controles verifiëren dat voorstellen goed gevormd zijn en op de Skill kunnen worden toegepast. Daarnaast controleert een LLM-beoordelaar een steekproef van voorstellen en gaat na of het bewijs de wijziging ondersteunt en of de resulterende Skill nuttige instructies biedt.

Activering zet een geverifieerd voorstel om in een wijziging in de Skill-bibliotheek van de gebruiker, zodat de nieuwe versie in toekomstige sessies kan worden geladen en gebruikt. Omdat de harness aan het begin van elke sessie een index van alle beschikbare Skills laadt, kan een grote bibliotheek het contextvenster verstoppen en het voor de agent moeilijker maken om relevante Skills te vinden en te laden. Daarom houdt het systeem alleen de waardevolste Skills aan en worden overbodige Skills uitgefaseerd, zodat de bibliotheek klein en zorgvuldig samengesteld blijft. Concreet hanteren we een limiet van 10 automatisch aangemaakte Skills per gebruiker. Wanneer die limiet is bereikt, kan de verbeteragent nog steeds Skills bijwerken of verwijderen, maar om een nieuwe Skill toe te voegen moet hij een bestaande Skill uitfaseren en onderbouwen waarom de nieuwe Skill nuttiger is voor het werk van de gebruiker.

De verbeterlus voor ingebouwde Skills

We breiden het framework van Brain voor continue verbetering van Skills ook uit naar ingebouwde Skills. In plaats van het geheugen en de sessiegeschiedenis van één gebruiker te gebruiken om de persoonlijke Skills van die gebruiker te verbeteren, gebruikt de ingebouwde lus bewijs van veel gebruikers om de Skills te verbeteren die voor elke Perplexity-gebruiker beschikbaar zijn. Omdat ingebouwde Skills door iedereen kunnen worden gebruikt, ligt de lat voor wijzigingen hoog; updates die onbedoeld de prestaties verslechteren, kunnen duizenden sessies treffen. De ingebouwde verbeteragent wijzigt alleen kandidaatversies van Skills. Om de canonieke versie van de Skill te bereiken, moeten deze updates een gepaarde replay en een interne menselijke review doorlopen. Ook hier volgen we de volledige lus met een voorbeeld-Skill en onderbouwend bewijs.

Mislukte sessies leveren een hoofdoorzaak en achtergehouden faalscenario's op. De verbeteragent gebruikt de hoofdoorzaak en schone voorbeelden om een revisie voor te stellen; de scenario's krijgt hij nooit te zien. Gepaarde replay vergelijkt de huidige en herziene Skill op dezelfde tests, waarna succesvolle kandidaten naar menselijke review gaan voordat ze worden goedgekeurd en gemerged.

De ingebouwde verbeterlus gebruikt opgeschoond bewijs uit sessies die in aanmerking komen voor gebruik bij training. Diagnoses en faalsignalen worden gebruikt om relevant bewijs te selecteren, naast controlesessies waarin de Skill werd gebruikt zonder dat er signalen werden afgegeven. Een opschoningspipeline verwijdert inloggegevens en andere geheimen, evenals bijgevoegde bestanden en media.

Een agent voor scenariogeneratie zet opgeschoond bewijs om in concrete faalscenario's. Hij behoudt alleen de context die nodig is om de fout te begrijpen en de Skill te verbeteren; de rest van de sessie wordt synthetisch opnieuw opgebouwd, waardoor een op zichzelf staande test voor het verificatieproces ontstaat. Scenario's moeten zonder gekoppelde apps of aanmelding kunnen draaien; als de oorspronkelijke taak afhankelijk was van een connector, wordt die invoer in het scenario vervangen door synthetische bestanden. Een afzonderlijke controle verifieert dat de Skill faalt in het gegenereerde scenario.

Reflectie vindt plaats via een wekelijkse revisietaak die waargenomen fouten omzet in oplossingen. Die taak zoekt naar fouten in Skills die in meerdere sessies terugkeren, zodat één slechte sessie niet tot een bewerking leidt. Voor elke terugkerende fout wordt een afzonderlijke run van een verbeteragent gestart. De agent ontvangt een beschrijving van de hoofdoorzaak, samen met opgeschoonde gegevens uit geslaagde sessies. Met dit bewijs schrijft hij een kandidaat-revisie van de Skill. Hij ontvangt niet de volledige faalscenario's, omdat die worden gebruikt voor de evaluatie.

Een afzonderlijke replaytaak gebruikt de gegenereerde scenario's om de oorspronkelijke en herziene versie van de Skill te vergelijken. Een LLM-beoordelaar evalueert de antwoorden en trajecten van een agent aan de hand van de beoordelingscriteria van elk scenario. Om een voorstel te laten slagen, moet elk testscenario slagen met de herziene Skill en moet ten minste één scenario falen met de oorspronkelijke versie. Scenario's die zijn opgebouwd uit de controlesessies worden ook opnieuw afgespeeld, om te bevestigen dat alles nog steeds werkt. Bij de faalscenario's controleert de beoordelaar ook of de specifieke fout zich voordeed, in plaats van een mislukte taak te beschouwen als bewijs van hetzelfde probleem.

De workflow bundelt de kandidaatwijzigingen en evaluatieresultaten in een pull request voor interne menselijke review. De wijzigingen worden pas van kracht als een engineer de PR goedkeurt.

Evaluaties

Automatische verbetering van Skills heeft het aanmaken en gebruik van Skills aanzienlijk vergroot. Brain schreef tussen 1 augustus en 14 november meer dan 80.000 persoonlijke Skills voor meer dan 20.000 gebruikers. Daarnaast werden tussen 4 september en 14 november meer dan 100.000 automatische updates toegepast op meer dan 30.000 bestaande persoonlijke Skills.

Deze Skills bestrijken een breed scala aan domeinen en taken, van het verifiëren van software en het afstemmen van salarisadministraties tot het ontwerpen van figuren. We hebben door Brain gegenereerde Skills ingedeeld op basis van de workflows die ze beschrijven. Zelfs het grootste domein, software engineering, was goed voor slechts 11% van de Skills; daarna volgen onderzoek en briefings (10,1%), sales en operations (9,9%) en financiën en beleggen (9,9%).

Van de 64.230 persoonlijke Skills die van 1 augustus tot 4 november automatisch zijn aangemaakt, had software engineering het grootste aandeel (11,0%), gevolgd door onderzoek en briefings (10,1%). De tien getoonde domeinen zijn samen goed voor 80,3% van alle Skills in de steekproef.

We hebben een gerandomiseerde test van acht weken uitgevoerd op productieverkeer, waarbij we gebruikers met automatische verbetering van persoonlijke Skills vergeleken met een controlegroep waarbij die functie was uitgeschakeld. Van de mensen met verbetering van Skills kreeg 72,9% ten minste één nieuwe persoonlijke Skill, terwijl slechts 6,5% van de mensen zonder deze functie handmatig een nieuwe Skill toevoegde. Bij meer dan de helft van de testgroep (53%) werd een persoonlijke Skill geladen in een gesprek dat ze zelf begonnen, tegenover 13% in de controlegroep; bij hun beurten werd ongeveer 3,6 keer zo vaak een persoonlijke Skill geladen. Van de klanten die een door Brain geschreven Skill kregen, gebruikte 63% er binnen vier weken opnieuw een in een later gesprek.

In een gerandomiseerde productietest van acht weken kreeg 72,9% van de gebruikers bij wie automatische Skill-verbetering was ingeschakeld ten minste één nieuwe persoonlijke Skill, tegenover 6,5% van de controlegroep. Een persoonlijke Skill werd geladen in een door de gebruiker gestart gesprek bij 53% van de ingeschakelde groep en 13% van de controlegroep.

Met onze evaluaties willen we bepalen welke invloed deze nieuwe en bijgewerkte Skills hebben op de taakuitvoering en de algehele prestaties.

Resultaten uit hetzelfde gerandomiseerde experiment laten een daling zien van mislukte toolaanroepen en ontevredenheid bij gebruikers. Voor gebruikers met automatische verbetering van Skills daalde het percentage mislukte toolaanroepen met 11% over alle activiteit in Computer. Zonder de eigen achtergrondruns van het systeem mislukten toolaanroepen nog steeds ongeveer 7% minder vaak, wat erop wijst dat de betrouwbaarheid bij het werk van de gebruiker is verbeterd. De ontevredenheid van gebruikers, gemeten als het aantal draden met gemiddelde/hoge ontevredenheid per gebruiker, daalde met 7,6%. We zagen geen meetbare verandering in kosten of responstijd. Deze eerste tests laten veelbelovende resultaten zien en we verwachten dat de verbeteringen in de loop van de tijd zullen toenemen naarmate we het systeem verfijnen en zelfverbeterende Skills voor meer gebruikers beschikbaar maken.

Offline-experimenten hebben ook verbeteringen laten zien in specifiekere omstandigheden. In een experiment met SkillLearnBench gebruikte Computer eerdere taaktrajecten om voor elk van negen taakfamilies één persoonlijke Skill aan te maken. Over 16 gepaarde evaluatie-instanties steeg het taaksucces van 43,8% zonder Skills naar 62,5% met gegenereerde Skills, wat erop wijst dat Skills die zijn afgeleid uit eerdere ervaring de prestaties bij herhaalde taken kunnen verbeteren. In één casestudy van een ingebouwde Skill leidden bewerkingen aan een e-commerce-Skill tot een kwaliteitsstijging van 6% tegen 32% lagere kosten, waarbij de kwaliteit werd gemeten door een geautomatiseerde beoordelaar.

Conclusie

Zelfverbeterende Skills bieden Computer een extra manier om te leren van het werk dat het doet. Ze breiden Brain uit om procedureel geheugen aan te maken en te onderhouden, waardoor de prestaties bij complexe workflows verbeteren. Automatische verbetering van Skills heeft het gebruik van Skills al verhoogd, het percentage mislukte tools verlaagd en de ontevredenheid van gebruikers verminderd.

Verbetering van persoonlijke Skills is nu beschikbaar voor alle Max-abonnees in de VS. De functie staat standaard aan voor gebruikers die in aanmerking komen, maar kan worden uitgeschakeld. Het tabblad Plugins toont beschikbare Skills, geeft aan welke door Brain zijn geschreven en laat gebruikers kiezen welke Skills zijn ingeschakeld.

Vervolgens breiden we de verbetering uit naar meer soorten Skills, waaronder door gebruikers geschreven Skills, Skills die binnen projecten worden gedeeld en Skills van organisaties. We blijven de verbeterpipeline en de bijbehorende evaluaties verfijnen, zodat revisies leiden tot betrouwbaardere procedures en betere resultaten.

Bronvermelding

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}