Skills que milloren per si mateixes
Com Perplexity Brain aprèn procediments recurrents a partir de l'experiència i els manté actualitzats.
Introducció
Els usuaris tenen preferències i requisits específics de cada flux de treball que un model de propòsit general no pot conèixer per endavant. Un agent ha d’aprendre aquests detalls per adaptar la seva feina a l’usuari, en lloc d’obligar l’usuari a explicar el mateix procediment o fer les mateixes correccions a cada sessió. L’aprenentatge continu ho fa possible: l’experiència de les tasques completades hauria d’orientar la manera com l’agent aborda la feina futura.
Brain, el sistema d’automillora personalitzat de Computer, fa possible aprendre de l’experiència. Ja manté una wiki de coneixement estructurada que connecta la informació sobre l’usuari i la seva feina amb les evidències que la sustenten. Uns agents en segon pla actualitzen la wiki a mesura que s’acumula informació nova, de manera que el sistema de memòria millora amb el temps.
Les Skills d’agent ofereixen una altra manera de guiar el comportament dels agents sense canviar el model subjacent. Les Skills són instruccions reutilitzables que guien un agent en tasques concretes. Recullen els requisits i els recursos de suport per a fluxos de treball recurrents que, altrament, l’agent hauria d’inferir de la memòria o rebre de l’usuari cada vegada, cosa que millora el rendiment en tasques fora de la distribució. També poden incloure scripts per a procediments repetitius o processaments que es poden expressar de manera fiable en codi, perquè l’agent simplement pugui executar aquests scripts quan escaiguin. El harness fa que les Skills disponibles es puguin descobrir i en carrega les instruccions al context quan l’agent les sol·licita. Els usuaris també poden especificar directament a la petició quines Skills cal utilitzar.
Estem ampliant Brain perquè creï i actualitzi automàticament Skills d’agent. Brain es basa en la memòria i l’historial de sessions d’un usuari per escriure i perfeccionar Skills personals que recullen procediments per als fluxos de treball d’aquest usuari. Apliquem un enfocament similar per actualitzar les Skills integrades, que estan disponibles per a tots els usuaris de Perplexity, a partir de patrons agregats de totes les sessions.
Primer descrivim el nostre motor d’automillora, comú a tots els tipus de Skills, i expliquem com funciona per a les Skills personals i integrades.
Motor d’automillora compartit
Una Skill útil continua necessitant canvis a mesura que sorgeixen noves preferències o l’experiència revela llacunes en les seves instruccions. Brain s’encarrega de descobrir com hauria de canviar el comportament de l’agent la propera vegada que Computer es trobi amb una tasca similar i de determinar com s’hauria de modificar la Skill per assolir millor el resultat desitjat.
Aquest procés de millora forma un bucle amb quatre etapes:
- Evidències. Brain troba sessions anteriors en què es va utilitzar la Skill, sobretot aquelles en què no va estar a l’altura.
- Reflexió. Un agent de millora estudia aquestes evidències i proposa actualitzacions de la Skill.
- Verificació. Unes comprovacions confirmen que la proposta està ben formada i que és probable que millori els resultats.
- Activació. S’aplica el canvi verificat. Les sessions futures utilitzen la nova versió, cosa que aporta evidències per a la ronda següent.
Aquest bucle es basa en moltes capacitats existents creades per a Computer i Brain. Aquí descrivim la maquinària compartida que fa possibles les evidències i la reflexió. Els procediments de verificació i activació depenen de si un canvi arriba a un sol usuari o a tots els usuaris de Perplexity, per això els tractem a les seccions següents sobre els bucles de millora de les Skills personals i integrades.
Evidències de sessions anteriors
La reflexió requereix trobar sessions en què s’ha utilitzat una Skill, sobretot aquelles en què hi ha marge de millora. El harness de Computer registra senyals que ho fan possible. Quan l’agent carrega una Skill, el harness registra un esdeveniment de càrrega de Skill que vincula la Skill a la sessió. Quan l’agent detecta frustració de l’usuari, un comportament defectuós o una ineficiència clara, presenta un diagnòstic breu i estructurat, i el harness hi adjunta les Skills en ús. Aquests senyals són especialment útils per a les Skills integrades, en què qualsevol sessió podria ser rellevant, de manera que el sistema necessita una manera de reduir ràpidament el conjunt d’evidències.
Els agents es beneficien de tenir accés al registre complet, en lloc de fer un judici basat en el resultat o en un resum breu. Computer emmagatzema les sessions anteriors mitjançant representacions de trajectòries independents del proveïdor que capturen missatges, crides a eines, raonaments i resultats. També hem creat un conjunt d’eines de línia d’ordres que els agents poden utilitzar per descodificar aquestes trajectòries i reconstruir sessions completes. Això permet a l’agent de reflexió inspeccionar càrregues de Skills i crides a eines concretes, i identificar els punts exactes en què es van produir problemes o en què es podrien fer millores.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlExemple d'ús de les eines internes de Computer per inspeccionar trajectòries. Les rutes i els identificadors s'han simplificat a tall il·lustratiu; els noms i els arguments de les ordres segueixen la implementació.
Reflexió amb agents en segon pla
Brain utilitza un equip d’agents en segon pla per optimitzar contínuament l’experiència de cada usuari. Per exemple, els agents Dream revisen l’experiència acumulada per actualitzar la wiki de coneixement. De manera similar, la millora de les Skills es basa en agents de millora que reflexionen sobre les evidències d’ús de les Skills per proposar actualitzacions.
Cada agent treballa en el seu propi entorn de proves amb un model de frontera, les evidències rellevants i la biblioteca de Skills actual, guiat per extensions i Skills. Decideix quines sessions llegeix, extreu una lliçó concreta de cadascuna i agrupa les lliçons que requereixen el mateix comportament reutilitzable. Com que la correcció d’una fallada pot contradir una altra instrucció o afegir feina en un altre lloc, llegeix la Skill completa abans de proposar una edició i s’absté de fer-ho quan les evidències no la justifiquen.
Els agents de millora s’executen en el mateix harness que Computer. Vam fer el harness modular, de manera que una nova aplicació d’agent pot reutilitzar-ne la maquinària per al raonament, l’ús d’eines i la gestió del context, alhora que defineix les seves pròpies instruccions i capacitats mitjançant extensions. Una flota dedicada de treballadors en segon pla ens permet escalar aquest processament independentment de les tasques en primer pla.
El bucle de millora de les Skills personals
Primer descrivim com s’aplica el motor d’automillora compartit al bucle de millora personal, que converteix l’historial de tasques d’un usuari en Skills personals noves o actualitzades. La figura següent segueix una Skill d’exemple al llarg de tot el bucle, fins a arribar a la versió revisada.
Durant una execució de generació diària, l’agent de millora revisa les sessions recents de l’usuari per determinar quins canvis val la pena fer. Es precarrega un conjunt de sessions recents a l’entorn de proves, juntament amb dades d’ús de les Skills; la resta de l’historial de sessions de l’usuari es pot recuperar segons calgui. L’agent de millora també rep el catàleg de Skills existents. No té accés a internet ni a altres connectors.
Les extensions i Skills dissenyades per al flux de treball de millora de les Skills personals guien el procés de reflexió, a partir dels nostres principis sobre què fa que una actualització sigui bona. Primer, l’agent analitza les trajectòries completes per identificar una lliçó concreta a cada sessió. Després compara les lliçons amb les instruccions existents i decideix si actualitza una Skill, en crea una o no fa cap canvi. Crear una Skill requereix dues ocurrències independents del mateix comportament reutilitzable, mentre que una actualització d’una Skill existent es pot justificar amb una sola ocurrència ben fonamentada.
L’agent no modifica la Skill directament. En canvi, elabora una proposta en què registra els canvis previstos i el raonament i les evidències que els avalen. Les actualitzacions es limiten a un canvi per Skill i per execució. Unes comprovacions deterministes verifiquen que les propostes estan ben formades i que es poden aplicar a la Skill. Per separat, un jutge LLM audita una mostra de propostes i comprova si les evidències avalen el canvi i si la Skill resultant proporciona instruccions útils.
L’activació converteix una proposta verificada en un canvi a la biblioteca de Skills de l’usuari, de manera que la nova versió es pugui carregar i utilitzar en sessions futures. Com que el harness carrega un índex de totes les Skills disponibles a l’inici de cada sessió, una biblioteca de Skills gran pot saturar la finestra de context i dificultar que l’agent trobi i carregui les Skills rellevants. Per això, el sistema només conserva les Skills més valuoses i retira les que no són necessàries per mantenir una biblioteca petita i seleccionada. En concret, apliquem un límit de 10 Skills creades automàticament per usuari. Quan s’arriba al límit, l’agent de millora encara pot actualitzar o eliminar Skills, però per afegir-ne una de nova ha de retirar-ne una d’existent i justificar per què la nova és més útil per a la feina de l’usuari.
El bucle de millora de les Skills integrades
També estenem a les Skills integrades el marc de millora contínua de Skills de Brain. En lloc d’utilitzar la memòria i l’historial de sessions d’un usuari per millorar les seves Skills personals, el bucle integrat utilitza evidències de molts usuaris per millorar les Skills disponibles per a tots els usuaris de Perplexity. Com que qualsevol persona pot utilitzar les Skills integrades, el llindar per als canvis és alt; les actualitzacions que empitjoren el rendiment sense voler poden afectar milers de sessions. L’agent de millora integrat només modifica versions candidates de les Skills. Per arribar a la versió canònica de la Skill, aquestes actualitzacions han de superar la reproducció aparellada i una revisió humana interna. Un cop més, seguim el bucle complet amb una Skill d’exemple i les evidències que l’avalen.
El bucle de millora integrat utilitza evidències sanejades de sessions aptes per a l’entrenament. Els diagnòstics i els senyals de fallada serveixen per seleccionar les evidències rellevants, juntament amb sessions de control en què es va utilitzar la Skill sense que es generés cap alerta. Un procés de sanejament elimina les credencials i altres secrets, així com els fitxers i el contingut multimèdia adjunts.
Un agent de generació d’escenaris converteix les evidències sanejades en escenaris de fallada concrets. Només conserva el context necessari per entendre el cas de fallada i millorar la Skill; la resta de la sessió es reconstrueix de manera sintètica, i així es crea una prova autònoma per al procés de verificació. Els escenaris s’han de poder executar sense aplicacions connectades ni inici de sessió; si la tasca original depenia d’un connector, aquesta entrada se substitueix per fitxers sintètics a l’escenari. Una comprovació independent verifica que la Skill falla en l’escenari generat.
La reflexió es duu a terme mitjançant una tasca de revisió setmanal que converteix les fallades observades en correccions. Busca fallades de Skills que es repeteixen en diverses sessions, de manera que una sola sessió dolenta no provoqui una edició. Cada fallada recurrent té la seva pròpia execució d’un agent de millora. L’agent rep una descripció de la causa arrel, juntament amb registres sanejats de sessions reeixides. Utilitza aquestes evidències per escriure una revisió candidata de la Skill. No rep els escenaris de fallada complets, ja que s’utilitzen en l’avaluació.
Una tasca de reproducció independent utilitza els escenaris generats per comparar la versió original i la revisada de la Skill. Un jutge LLM avalua les respostes i les trajectòries d’un agent segons la rúbrica de cada escenari. Perquè una proposta sigui acceptada, tots els escenaris de prova s’han de superar amb la Skill revisada, i almenys un ha de fallar amb l’original. També es reprodueixen els escenaris creats a partir de les sessions de control, per confirmar que no ha deixat de funcionar res. En els escenaris de fallada, el jutge també comprova que s’ha produït la fallada específica, en lloc de considerar una tasca fallida com a prova del mateix problema.
El flux de treball empaqueta els canvis candidats i els resultats de l’avaluació en una pull request per a la revisió humana interna. Els canvis només entren en vigor si un enginyer aprova la PR.
Avaluacions
La millora automàtica de Skills ha augmentat significativament la creació i l’ús de Skills. Brain va escriure més de 80.000 Skills personals per a més de 20.000 usuaris entre l’1 d’agost i el 14 de novembre. A més, entre el 4 de setembre i el 14 de novembre es van aplicar més de 100.000 actualitzacions automàtiques a més de 30.000 Skills personals existents.
Aquestes Skills abasten una àmplia varietat de dominis i tasques, des de la verificació de programari fins a la conciliació de nòmines o el disseny de figures. Vam classificar les Skills generades per Brain segons els fluxos de treball que descriuen. Fins i tot el domini més gran, l’enginyeria de programari, només representava l’11 % de les Skills; el segueixen investigació i informes (10,1 %), vendes i operacions (9,9 %), i finances i inversió (9,9 %).
Vam fer una prova aleatoritzada de vuit setmanes amb trànsit de producció, en què vam comparar usuaris amb la millora automàtica de Skills personals activada amb un grup de control que la tenia desactivada. El 72,9 % de les persones amb la millora de Skills activada van obtenir almenys una Skill personal nova, mentre que només el 6,5 % de les persones sense aquesta funció van afegir manualment una Skill nova. Més de la meitat del grup de tractament (53 %) va tenir una Skill personal carregada en una conversa que havia iniciat, en comparació amb el 13 % del grup de control; els seus torns van carregar una Skill personal unes 3,6 vegades més sovint. Entre els clients que van obtenir una Skill escrita per Brain, el 63 % en van tornar a utilitzar una en una conversa posterior en un termini de quatre setmanes.
Les nostres avaluacions pretenen determinar com afecten aquestes Skills noves i actualitzades l’execució de les tasques i el rendiment general.
Els resultats del mateix experiment aleatoritzat mostren una disminució de les fallades en crides a eines i de la insatisfacció dels usuaris. Per als usuaris amb la millora automàtica de Skills, la taxa de fallades en crides a eines va baixar un 11 % en tota l’activitat de Computer. Si s’exclouen les execucions en segon pla del mateix sistema, les crides a eines encara fallaven aproximadament un 7 % menys sovint, cosa que suggereix que la fiabilitat va millorar en la feina de l’usuari. La insatisfacció dels usuaris, mesurada com el nombre de fils amb insatisfacció mitjana o alta per usuari, va baixar un 7,6 %. No vam observar cap canvi mesurable en el cost ni en el temps de resposta. Aquestes primeres proves mostren resultats prometedors, i esperem que les millores augmentin amb el temps a mesura que perfeccionem el sistema i ampliem les Skills que s’automilloren a més usuaris.
Els experiments fora de línia també han registrat millores en entorns més acotats. En un experiment de SkillLearnBench, Computer va utilitzar trajectòries de tasques anteriors per crear una Skill personal per a cadascuna de nou famílies de tasques. En 16 instàncies d’avaluació aparellades, l’èxit de les tasques va augmentar del 43,8 % sense Skills al 62,5 % amb Skills generades, cosa que aporta evidències que les Skills derivades de l’experiència prèvia poden millorar el rendiment en tasques repetides. En un estudi de cas d’una Skill integrada, les edicions d’una Skill de comerç electrònic van comportar un augment de la qualitat del 6 % amb un cost un 32 % inferior, amb la qualitat mesurada per un jutge automatitzat.
Conclusió
Les Skills que s’automilloren ofereixen a Computer una altra manera d’aprendre de la feina que fa. Amplien Brain perquè creï i mantingui memòria procedimental, cosa que millora el rendiment en fluxos de treball complexos. La millora automàtica de Skills ja ha augmentat l’ús de Skills, ha reduït les taxes de fallades d’eines i ha disminuït la insatisfacció dels usuaris.
La millora de Skills personals ja està disponible per a tots els subscriptors de Max als EUA. Està activada per defecte per als usuaris aptes, però es pot desactivar. La pestanya Extensions mostra les Skills disponibles, identifica les creades per Brain i permet als usuaris triar quines Skills estan activades.
A continuació, ampliarem la millora a més classes de Skills, incloses les Skills creades per usuaris, les Skills compartides dins de projectes i les Skills d’organització. Continuarem perfeccionant el procés de millora i les seves avaluacions perquè les revisions donin lloc a procediments més fiables i millors resultats.
Citació
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}