Önmagukat fejlesztő Skillek

Hogyan tanulja meg a Perplexity Brain tapasztalatból az ismétlődő eljárásokat, és hogyan tartja őket naprakészen.

SzerzőkPerplexity Engineering

Bevezetés

A felhasználóknak munkafolyamat-specifikus preferenciáik és követelményeik vannak, amelyeket egy általános célú modell nem ismerhet előre. Egy ügynöknek meg kell tanulnia ezeket a részleteket, hogy munkáját a felhasználóhoz igazítsa, ahelyett hogy a felhasználónak minden munkamenetben el kellene magyaráznia ugyanazt az eljárást, vagy ugyanazokat a javításokat kellene elvégeznie. A folyamatos tanulás ezt teszi lehetővé: a befejezett feladatokból szerzett tapasztalatnak alakítania kell, hogyan közelíti meg az ügynök a jövőbeli munkát.

A Brain, a Computer személyre szabott önfejlesztő rendszere, lehetővé teszi a tapasztalat útján történő tanulást. Már most is fenntart egy strukturált tudáswikit, amely a felhasználóra és munkájára vonatkozó információkat összekapcsolja az azokat alátámasztó bizonyítékokkal. A háttérügynökök az új információk felhalmozódásával frissítik a wikit, így a memóriarendszer idővel fejlődik.

Az ügynöki Skillek újabb lehetőséget kínálnak az ügynök viselkedésének irányítására a mögöttes modell módosítása nélkül. A Skillek újrafelhasználható utasítások, amelyek konkrét feladatokon vezetik végig az ügynököt. Rögzítik az ismétlődő munkafolyamatok követelményeit és a hozzájuk tartozó erőforrásokat, amelyeket az ügynöknek egyébként a memóriájából kellene kikövetkeztetnie, vagy minden alkalommal a felhasználótól kellene megkapnia, így javítják a teljesítményt az eloszláson kívüli feladatokon. Szkripteket is tartalmazhatnak az ismétlődő eljárásokhoz vagy a kóddal megbízhatóan kifejezhető feldolgozáshoz, így az ügynök egyszerűen futtathatja ezeket a szkripteket, amikor alkalmazhatók. A harness felfedezhetővé teszi az elérhető Skilleket, és betölti az utasításaikat a kontextusba, amikor az ügynök kéri őket. A felhasználók a promptban közvetlenül is megadhatják, mely Skilleket használja az ügynök.

Kiterjesztjük a Brain képességeit, hogy automatikusan hozzon létre és frissítsen ügynöki Skilleket. A Brain a felhasználó memóriájára és munkamenet-előzményeire építve ír és finomít olyan személyes Skilleket, amelyek az adott felhasználó munkafolyamataihoz tartozó eljárásokat rögzítik. Hasonló megközelítéssel, az összes munkamenetre kiterjedő összesített minták alapján frissítjük a beépített Skilleket is, amelyek minden Perplexity-felhasználó számára elérhetők.

Az ügynök az általános képességeket a kiválasztott feladatkontextussal és a személyes tapasztalattal ötvözi. Az alapul szolgáló modell a munkakontextus alapján dönti el, mi következzen, és ez a kontextus a feladat előrehaladtával változik. A Brain biztosítja a memóriát és a személyes Skilleket, majd a kiválasztott munkamenet-bizonyítékokat későbbi frissítésekhez használja fel, ellenőrzésekhez és engedélyezéshez kötötten. A személyre szabás a kontextust és az utasításokat módosítja, nem a modell súlyait. A források igény szerint kerülnek kiválasztásra, nem töltődik be mind egyszerre; ez a koncepcionális nézet leegyszerűsíti a frissítési mechanizmusokat.

Először bemutatjuk az összes Skill-típusban közös önfejlesztő motorunkat, majd elmagyarázzuk, hogyan működik a személyes és a beépített Skilleknél.

Közös önfejlesztő motor

Egy hasznos Skillnek is változnia kell, ahogy új preferenciák jelennek meg, vagy a tapasztalat hiányosságokat tár fel az utasításaiban. A Brain feladata annak feltárása, hogyan kell módosulnia az ügynök viselkedésének, amikor a Computer legközelebb hasonló feladattal találkozik, valamint annak meghatározása, hogyan kell a Skillnek változnia ahhoz, hogy jobban elérje a kívánt eredményt.

Ez a fejlesztési folyamat egy négy szakaszból álló ciklust alkot:

  1. Bizonyítékok. A Brain megkeresi azokat a korábbi munkameneteket, amelyekben a Skillt használták, különösen azokat, amelyekben nem teljesített jól.
  2. Reflexió. Egy fejlesztési ügynök tanulmányozza ezeket a bizonyítékokat, és frissítéseket javasol a Skillhez.
  3. Verifikáció. Ellenőrzések igazolják, hogy a javaslat megfelelő formátumú, és valószínűleg javítja az eredményeket.
  4. Aktiválás. A rendszer alkalmazza a verifikált módosítást. A jövőbeli munkamenetek az új verziót használják, és ezzel bizonyítékot szolgáltatnak a következő körhöz.
A Brain kiválasztja azokat a korábbi munkameneteket, amelyekben a Skillt használták, különösen azokat, amelyekben nem teljesített jól. Egy továbbfejlesztő ügynök frissítést javasol, az ellenőrzések pedig felmérik, hogy a frissítés helyesen formázott-e, és valószínűleg javítja-e az eredményeket. Az alkalmazás után az új verzió a későbbi munkamenetekben kerül használatra, és bizonyítékot szolgáltat a következő körhöz.

Ez a ciklus számos, a Computerhez és a Brainhez készült meglévő képességre épül. Itt azt a közös mechanizmust mutatjuk be, amely a bizonyítékgyűjtést és a reflexiót lehetővé teszi. A verifikációs és aktiválási eljárások attól függnek, hogy egy módosítás egyetlen felhasználót vagy minden Perplexity-felhasználót érint, ezért ezeket a személyes és a beépített Skillek fejlesztési ciklusairól szóló következő szakaszokban tárgyaljuk.

Bizonyítékok a korábbi munkamenetekből

A reflexióhoz meg kell találni azokat a munkameneteket, amelyekben egy Skillt használtak, különösen azokat, amelyekben van hová fejlődni. A Computer harness olyan jeleket rögzít, amelyek ezt lehetővé teszik. Amikor az ügynök betölt egy Skillt, a harness egy Skill-betöltési eseményt rögzít, amely a Skillt a munkamenethez kapcsolja. Amikor az ügynök felhasználói frusztrációt, hibás működést vagy egyértelmű hatékonysági hiányt észlel, rövid, strukturált diagnosztikát készít, a harness pedig hozzácsatolja a használatban lévő Skilleket. Ezek különösen hasznosak a beépített Skilleknél, ahol bármely munkamenet releváns lehet, így a rendszernek gyorsan le kell tudnia szűkíteni a bizonyítékok körét.

Az ügynököknek előnyös, ha a teljes rögzített anyaghoz hozzáférnek, ahelyett hogy az eredmény vagy egy rövid összefoglaló alapján ítélnének. A Computer szolgáltatófüggetlen trajektória-reprezentációkban tárolja a korábbi munkameneteket, amelyek rögzítik az üzeneteket, az eszközhívásokat, az érvelést és az eredményeket. Emellett parancssori eszközök egész sorát is kifejlesztettük, amelyekkel az ügynökök dekódolhatják ezeket a trajektóriákat, és rekonstruálhatják a teljes munkameneteket. Így a reflexiós ügynök megvizsgálhatja az egyes Skill-betöltéseket és eszközhívásokat, és pontosan azonosíthatja, hol merültek fel problémák, vagy hol lehetne javítani.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Példa a Computer belső, trajektóriavizsgáló eszközeinek használatára. Az elérési utak és az azonosítók a szemléltetés kedvéért egyszerűsítettek; a parancsnevek és az argumentumok megfelelnek a tényleges implementációnak.

Reflexió háttérügynökökkel

A Brain háttérügynökök csapatát használja, hogy folyamatosan optimalizálja az élményt minden felhasználó számára. Például a Dream-ügynökök áttekintik a felhalmozott tapasztalatokat, hogy frissítsék a tudáswikit. Hasonlóképpen a Skillek fejlesztését fejlesztési ügynökök végzik, amelyek a Skill-használati bizonyítékokat elemezve frissítéseket javasolnak.

Minden ügynök a saját sandboxában dolgozik egy élvonalbeli modellel, a releváns bizonyítékokkal és a jelenlegi Skill-könyvtárral, bővítmények és Skillek útmutatásával. Eldönti, mely munkameneteket olvassa el, mindegyikből konkrét tanulságot von le, és csoportosítja azokat a tanulságokat, amelyek ugyanazt az újrafelhasználható viselkedést igénylik. Mivel egy hiba javítása ellentmondhat egy másik utasításnak, vagy máshol többletmunkát okozhat, a módosítás javaslata előtt a teljes Skillt elolvassa, és tartózkodik a javaslattól, ha a bizonyítékok nem támasztják alá.

A fejlesztési ügynökök ugyanazon a harnessen futnak, mint a Computer. A harnesst modulárisra terveztük, így egy új ügynökalkalmazás újrahasznosíthatja az érveléshez, az eszközhasználathoz és a kontextuskezeléshez szükséges mechanizmusait, miközben saját utasításait és képességeit bővítményeken keresztül határozza meg. Egy dedikált háttérfeldolgozó-flotta lehetővé teszi, hogy ezt a feldolgozást az előtérben futó feladatoktól függetlenül skálázzuk.

Az interaktív ügynök és a háttérben futó továbbfejlesztő ügynök ugyanabban a Computer harnessben fut. A továbbfejlesztő ügynök a munkamenet-bizonyítékok és az aktuális Skillek alapján módosítást javasol, vagy tartózkodik tőle. A javaslatnak meg kell felelnie a Skill típusára jellemző ellenőrzéseknek, mielőtt az új verzió elérhetővé válik a későbbi munkamenetek számára.

A személyes Skillek fejlesztési ciklusa

Először bemutatjuk, hogyan alkalmazzuk a közös önfejlesztő motort a személyes fejlesztési ciklusban, amely a felhasználó feladatelőzményeiből új vagy frissített személyes Skilleket hoz létre. Az alábbi ábra egy példaként szolgáló Skillt követ végig a teljes cikluson, egészen az átdolgozott verzióig.

A személyes Skillek ciklusa a munkamenet-bizonyítékoktól a fejlesztési ügynökön, a javaslatok ellenőrzésén és az aktiváláson át halad. A jelenlegi Skillek is információval szolgálnak a fejlesztési ügynök számára; az aktivált módosítások a jövőbeli munkamenetekben válnak elérhetővé.

Egy napi generálási futtatás során a fejlesztési ügynök áttekinti a felhasználó legutóbbi munkameneteit, hogy meghatározza, milyen módosításokat érdemes végrehajtani. A legutóbbi munkamenetek egy részét a Skill-használati adatokkal együtt előre betöltjük a sandboxba; a felhasználó munkamenet-előzményeinek többi része szükség szerint lekérhető. A fejlesztési ügynök a meglévő Skillek katalógusát is megkapja. Nem fér hozzá az internethez vagy más csatlakozókhoz.

A személyes Skillek fejlesztési munkafolyamatához tervezett bővítmények és Skillek irányítják a reflexiós folyamatot, a jó frissítésről alkotott elveinkre támaszkodva. Az ügynök először a teljes trajektóriákat elemzi, hogy minden munkamenetben azonosítson egy konkrét tanulságot. Ezután összeveti a tanulságokat a meglévő utasításokkal, és eldönti, hogy frissít-e egy Skillt, létrehoz-e egy újat, vagy nem változtat semmin. Egy Skill létrehozásához ugyanannak az újrafelhasználható viselkedésnek két független előfordulása szükséges, míg egy meglévő Skill frissítése egyetlen megalapozott előfordulással is indokolható.

Az ügynök nem módosítja közvetlenül a Skillt. Ehelyett javaslatot készít, amelyben rögzíti a tervezett módosításokat, valamint az azokat alátámasztó érvelést és bizonyítékokat. A frissítések futtatásonként és Skillenként egyetlen módosításra korlátozódnak. Determinisztikus ellenőrzések igazolják, hogy a javaslatok megfelelő formátumúak, és alkalmazhatók a Skillre. Ettől függetlenül egy LLM-bíráló mintavételezett javaslatokat auditál, ellenőrizve, hogy a bizonyítékok alátámasztják-e a módosítást, és hogy az így létrejövő Skill hasznos utasításokat ad-e.

Az aktiválás a verifikált javaslatot a felhasználó Skill-könyvtárának módosításává alakítja, így az új verzió a jövőbeli munkamenetekben betölthető és használható. Mivel a harness minden munkamenet elején betölti az összes elérhető Skill indexét, egy nagy Skill-könyvtár eltömítheti a kontextusablakot, és megnehezítheti, hogy az ügynök megtalálja és betöltse a releváns Skilleket. Ezért a rendszer csak a legértékesebb Skilleket tartja meg, a szükségteleneket pedig kivezeti, hogy a könyvtár kicsi és gondosan válogatott maradjon. Konkrétan felhasználónként legfeljebb 10 automatikusan létrehozott Skillt engedélyezünk. A korlát elérésekor a fejlesztési ügynök továbbra is frissíthet vagy eltávolíthat Skilleket, de egy új Skill hozzáadásához ki kell vezetnie egy meglévőt, és meg kell indokolnia, miért hasznosabb az új Skill a felhasználó munkájához.

A beépített Skillek fejlesztési ciklusa

A Brain folyamatos Skill-fejlesztési keretrendszerét a beépített Skillekre is kiterjesztjük. Ahelyett, hogy egyetlen felhasználó memóriáját és munkamenet-előzményeit használná az adott felhasználó személyes Skilljeinek fejlesztésére, a beépített ciklus sok felhasználó bizonyítékait használja fel a minden Perplexity-felhasználó számára elérhető Skillek fejlesztéséhez. Mivel a beépített Skilleket bárki használhatja, a módosításokkal szemben magasak az elvárások; a teljesítményt véletlenül rontó frissítések több ezer munkamenetet érinthetnek. A beépített fejlesztési ügynök csak a Skillek jelölt verzióit módosítja. Ahhoz, hogy ezek a frissítések a Skill kanonikus verziójába kerüljenek, át kell jutniuk a páros visszajátszáson és a belső emberi felülvizsgálaton. Ismét egy példaként szolgáló Skill és az azt alátámasztó bizonyítékok segítségével követjük végig a teljes ciklust.

A sikertelen munkamenetekből egy kiváltó ok és visszatartott hibaforgatókönyvek születnek. A fejlesztési ügynök a kiváltó ok és a hibátlan példák alapján javasol átdolgozást; a forgatókönyveket soha nem láthatja. A páros visszajátszás ugyanazokon a teszteken hasonlítja össze a jelenlegi és az átdolgozott Skilleket, a sikeres jelöltek pedig a jóváhagyás és az egyesítés előtt emberi felülvizsgálatra kerülnek.

A beépített fejlesztési ciklus a modelltanításra felhasználható munkamenetekből származó, megtisztított bizonyítékokat használ. A diagnosztikák és a hibajelzések alapján választjuk ki a releváns bizonyítékokat, valamint olyan kontroll-munkameneteket, amelyekben a Skillt figyelmeztetés kiváltása nélkül használták. Egy adattisztító folyamat eltávolítja a hitelesítő adatokat és más titkos adatokat, valamint a csatolt fájlokat és médiatartalmakat.

Egy forgatókönyv-generáló ügynök a megtisztított bizonyítékokból konkrét hibaforgatókönyveket készít. Csak a hibaeset megértéséhez és a Skill fejlesztéséhez szükséges kontextust tartja meg; a munkamenet többi részét szintetikusan építi újra, így önálló tesztet hoz létre a verifikációs folyamat számára. A forgatókönyveknek csatlakoztatott alkalmazások és bejelentkezés nélkül kell futniuk; ha az eredeti feladat egy csatlakozótól függött, ezt a bemenetet a forgatókönyvben szintetikus fájlok helyettesítik. Egy külön ellenőrzés igazolja, hogy a Skill a generált forgatókönyvön valóban hibázik.

A reflexió egy heti átdolgozási feladat keretében történik, amely a megfigyelt hibákat javításokká alakítja. Olyan Skill-hibákat keres, amelyek több munkamenetben is ismétlődnek, így egyetlen rossz munkamenet nem vezet módosításhoz. Minden ismétlődő hibára külön futtatjuk a fejlesztési ügynököt. Az ügynök megkapja a kiváltó ok leírását, valamint a sikeres munkamenetek megtisztított adatait. Ezek alapján megírja a Skill jelölt átdolgozását. A teljes hibaforgatókönyveket nem kapja meg, mivel azokat az értékeléshez használjuk.

Egy külön visszajátszási feladat a generált forgatókönyvek segítségével hasonlítja össze a Skill eredeti és átdolgozott verzióját. Egy LLM-bíráló az egyes forgatókönyvek értékelési szempontrendszere alapján értékeli az ügynök válaszait és trajektóriáit. Ahhoz, hogy egy javaslat átmenjen, az átdolgozott Skill használatával minden tesztforgatókönyvnek sikeresnek kell lennie, az eredeti használatával pedig legalább egynek sikertelennek. A kontroll-munkamenetekből készült forgatókönyveket is visszajátsszuk, hogy megerősítsük: semmi sem romlott el. A hibaforgatókönyveknél a bíráló azt is ellenőrzi, hogy valóban az adott hiba fordult-e elő, ahelyett hogy bármely sikertelen feladatot ugyanannak a problémának a bizonyítékaként kezelne.

A munkafolyamat a jelölt módosításokat és az értékelési eredményeket egy pull requestbe csomagolja belső emberi felülvizsgálatra. A módosítások csak akkor lépnek életbe, ha egy mérnök jóváhagyja a PR-t.

Értékelések

Az automatikus Skill-fejlesztés jelentősen növelte a Skillek létrehozását és használatát. A Brain augusztus 1. és november 14. között több mint 80 000 személyes Skillt írt több mint 20 000 felhasználó számára. Emellett szeptember 4. és november 14. között a rendszer több mint 100 000 automatikus frissítést alkalmazott több mint 30 000 meglévő személyes Skillre.

Ezek a Skillek a területek és feladatok széles körét fedik le, a szoftverek ellenőrzésétől a bérszámfejtési egyeztetésen át az ábrák tervezéséig. A Brain által generált Skilleket az általuk leírt munkafolyamatok alapján kategorizáltuk. Még a legnagyobb terület, a szoftverfejlesztés is csak a Skillek 11%-át tette ki; ezt követi a kutatás és tájékoztatók (10,1%), az értékesítés és üzemeltetés (9,9%), valamint a pénzügyek és befektetések (9,9%).

Az augusztus 1. és november 4. között automatikusan létrehozott 64 230 személyes Skill közül a szoftverfejlesztés tette ki a legnagyobb részt (11,0%), ezt követte a kutatás és tájékoztatók (10,1%). A bemutatott tíz terület a mintában szereplő összes Skill 80,3%-át teszi ki.

Nyolchetes randomizált tesztet végeztünk éles forgalmon, amelyben a bekapcsolt automatikus személyes Skill-fejlesztéssel rendelkező felhasználókat egy olyan kontrollcsoporttal hasonlítottuk össze, amelynél a funkció ki volt kapcsolva. A bekapcsolt Skill-fejlesztéssel rendelkezők 72,9%-a kapott legalább egy új személyes Skillt, míg a funkció nélküli felhasználóknak csak 6,5%-a adott hozzá manuálisan új Skillt. A kísérleti csoport több mint felénél (53%) töltődött be személyes Skill egy általuk indított beszélgetésben, szemben a kontrollcsoport 13%-ával; beszélgetési fordulóikban körülbelül 3,6-szor olyan gyakran töltődött be személyes Skill. Azon ügyfelek 63%-a, akik a Brain által írt Skillt kaptak, négy héten belül egy későbbi beszélgetésben ismét használt egyet.

Egy nyolchetes, randomizált éles teszt során azoknak a felhasználóknak a 72,9%-a, akiknél be volt kapcsolva a Skillek automatikus továbbfejlesztése, legalább egy új személyes Skillt kapott, szemben a kontrollcsoport 6,5%-ával. A bekapcsolt csoport 53%-ánál és a kontrollcsoport 13%-ánál töltődött be személyes Skill a felhasználó által indított beszélgetésben.

Értékeléseinkkel azt vizsgáljuk, hogyan hatnak ezek az új és frissített Skillek a feladatvégrehajtásra és az általános teljesítményre.

Ugyanennek a randomizált kísérletnek az eredményei az eszközhívási hibák és a felhasználói elégedetlenség csökkenését mutatják. Az automatikus Skill-fejlesztést használó felhasználóknál az eszközhívások hibaaránya 11%-kal csökkent a Computer teljes tevékenységében. A rendszer saját háttérfuttatásait leszámítva az eszközhívások még mindig körülbelül 7%-kal ritkábban hibáztak, ami arra utal, hogy a megbízhatóság a felhasználó munkájában is javult. A felhasználói elégedetlenség – a felhasználónkénti közepes vagy magas elégedetlenségű szálak számával mérve – 7,6%-kal csökkent. A költségekben és a válaszidőben nem tapasztaltunk mérhető változást. Ezek a korai tesztek ígéretes eredményeket mutatnak, és arra számítunk, hogy a javulás idővel tovább nő, ahogy finomítjuk a rendszert, és egyre több felhasználó számára vezetjük be az önfejlesztő Skilleket.

Offline kísérletek szűkebb körülmények között is javulást mutattak ki. Egy SkillLearnBench-kísérletben a Computer korábbi feladattrajektóriák alapján kilenc feladatcsalád mindegyikéhez létrehozott egy személyes Skillt. Összesen 16 páros értékelési példányon a feladatok sikerességi aránya a Skillek nélküli 43,8%-ról a generált Skillekkel elért 62,5%-ra nőtt, ami alátámasztja, hogy a korábbi tapasztalatokból származtatott Skillek javíthatják az ismétlődő feladatok teljesítményét. Egy beépített Skillre vonatkozó esettanulmányban egy e-kereskedelmi Skill módosításai 6%-os minőségjavulást eredményeztek 32%-kal alacsonyabb költség mellett; a minőséget automatizált bíráló mérte.

Összegzés

Az önfejlesztő Skillek újabb módot adnak a Computernek arra, hogy tanuljon az általa végzett munkából. Kiterjesztik a Brain képességeit a procedurális memória létrehozására és karbantartására, javítva a komplex munkafolyamatok teljesítményét. Az automatikus Skill-fejlesztés máris növelte a Skillek használatát, csökkentette az eszközhibák arányát, és mérsékelte a felhasználói elégedetlenséget.

A személyes Skill-fejlesztés mostantól minden egyesült államokbeli Max-előfizető számára elérhető. A jogosult felhasználóknál alapértelmezés szerint be van kapcsolva, de kikapcsolható. A Bővítmények lapon láthatók az elérhető Skillek, megjelölve a Brain által írtakat, és a felhasználók kiválaszthatják, mely Skillek legyenek engedélyezve.

A következő lépésben további Skill-osztályokra terjesztjük ki a fejlesztést, köztük a felhasználók által írt Skillekre, a projekteken belül megosztott Skillekre és a szervezeti Skillekre. Folyamatosan finomítjuk a fejlesztési folyamatot és annak értékeléseit, hogy az átdolgozások megbízhatóbb eljárásokhoz és jobb eredményekhez vezessenek.

Hivatkozás

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}