Skill-ovi koji se sami poboljšavaju
Kako Perplexity Brain uči ponavljajuće procedure iz iskustva i održava ih ažurnim.
Uvod
Korisnici imaju preferencije i zahteve specifične za svoje radne tokove koje model opšte namene ne može unapred da zna. Agent mora da nauči te detalje kako bi svoj rad prilagodio korisniku, umesto da korisnik u svakoj sesiji iznova objašnjava isti postupak ili unosi iste ispravke. Kontinuirano učenje to omogućava: iskustvo iz završenih zadataka treba da utiče na to kako agent pristupa budućem radu.
Brain, personalizovani sistem za samopoboljšanje za Computer, omogućava učenje kroz iskustvo. On već održava strukturiranu wiki bazu znanja koja povezuje informacije o korisniku i njegovom radu sa dokazima koji ih potkrepljuju. Pozadinski agenti ažuriraju wiki kako se nove informacije gomilaju, pa se sistem memorije vremenom poboljšava.
Skill-ovi za agente pružaju još jedan način za usmeravanje ponašanja agenta bez menjanja osnovnog modela. Skill-ovi su ponovo upotrebljiva uputstva koja vode agenta kroz određene zadatke. Oni obuhvataju zahteve i prateće resurse za ponavljajuće radne tokove koje bi agent inače morao da zaključi iz memorije ili da ih svaki put dobije od korisnika, čime se poboljšavaju performanse na zadacima van distribucije. Mogu da sadrže i skripte za ponavljajuće postupke ili obradu koja se pouzdano može izraziti kodom, tako da agent jednostavno može da pokrene te skripte kada su primenljive. Harness omogućava pronalaženje dostupnih Skill-ova i učitava njihova uputstva u kontekst kada ih agent zatraži. Korisnici takođe mogu direktno u promptu da navedu koje Skill-ove treba koristiti.
Proširujemo Brain tako da automatski pravi i ažurira Skill-ove za agente. Brain se oslanja na memoriju i istoriju sesija korisnika kako bi pisao i usavršavao lične Skill-ove koji obuhvataju postupke za radne tokove tog korisnika. Sličan pristup primenjujemo i za ažuriranje ugrađenih Skill-ova, dostupnih svim korisnicima usluge Perplexity, na osnovu zbirnih obrazaca u svim sesijama.
Najpre opisujemo naš mehanizam za samopoboljšanje koji je zajednički za sve vrste Skill-ova i objašnjavamo kako funkcioniše za lične i ugrađene Skill-ove.
Zajednički mehanizam za samopoboljšanje
Koristan Skill i dalje mora da se menja kako se pojavljuju nove preferencije ili kako iskustvo otkriva praznine u njegovim uputstvima. Brain je zadužen za otkrivanje toga kako bi ponašanje agenta trebalo da se promeni sledeći put kada Computer naiđe na sličan zadatak i za utvrđivanje toga kako bi Skill trebalo izmeniti da bi bolje postigao željeni ishod.
Ovaj proces poboljšanja čini petlju sa četiri faze:
- Dokazi. Brain pronalazi prethodne sesije u kojima je Skill korišćen, posebno one u kojima nije dao očekivane rezultate.
- Refleksija. Agent za poboljšanje proučava te dokaze i predlaže izmene Skill-a.
- Verifikacija. Provere potvrđuju da je predlog ispravno formiran i da će verovatno poboljšati ishode.
- Aktivacija. Verifikovana izmena se primenjuje. Buduće sesije koriste novu verziju i pružaju dokaze za sledeći krug.
Ova petlja se oslanja na mnoge postojeće mogućnosti razvijene za Computer i Brain. Ovde opisujemo zajednički mehanizam koji omogućava dokaze i refleksiju. Postupci verifikacije i aktivacije zavise od toga da li izmena dopire do jednog korisnika ili do svih korisnika usluge Perplexity, pa ih obrađujemo u narednim odeljcima o petljama poboljšanja ličnih i ugrađenih Skill-ova.
Dokazi iz prethodnih sesija
Refleksija zahteva pronalaženje sesija u kojima je Skill korišćen, posebno onih u kojima ima prostora za poboljšanje. Computer harness beleži signale koji to omogućavaju. Kada agent učita Skill, harness beleži događaj učitavanja Skill-a koji povezuje Skill sa sesijom. Kada agent primeti frustraciju korisnika, neispravno ponašanje ili očiglednu neefikasnost, on podnosi kratku, strukturiranu dijagnostiku, a harness joj prilaže Skill-ove koji se koriste. Ovo je posebno korisno za ugrađene Skill-ove, kod kojih bi bilo koja sesija potencijalno mogla biti relevantna, pa sistemu treba način da brzo suzi skup dokaza.
Agentima koristi pristup celokupnom zapisu, umesto donošenja suda na osnovu ishoda ili kratkog rezimea. Computer čuva prethodne sesije pomoću prikaza putanja nezavisnih od dobavljača, koji obuhvataju poruke, pozive alata, rezonovanje i rezultate. Razvili smo i skup alata komandne linije koje agenti mogu da koriste za dekodiranje tih putanja i rekonstrukciju celih sesija. To agentu za refleksiju omogućava da pregleda konkretna učitavanja Skill-ova i pozive alata i da utvrdi tačna mesta na kojima su se javili problemi ili na kojima su moguća poboljšanja.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlPrimer upotrebe internih Computer alata za pregled trajektorija. Putanje i identifikatori su pojednostavljeni radi ilustracije; nazivi komandi i argumenti odgovaraju implementaciji.
Refleksija pomoću pozadinskih agenata
Brain koristi tim pozadinskih agenata kako bi neprekidno optimizovao iskustvo svakog korisnika. Na primer, Dream agenti pregledaju nagomilano iskustvo kako bi ažurirali wiki bazu znanja. Slično tome, poboljšanje Skill-ova pokreću agenti za poboljšanje koji razmatraju dokaze o korišćenju Skill-ova kako bi predložili izmene.
Svaki agent radi u sopstvenom sandbox okruženju sa najsavremenijim modelom, relevantnim dokazima i trenutnom bibliotekom Skill-ova, uz smernice iz dodataka i Skill-ova. On odlučuje koje sesije da pročita, iz svake izvlači konkretnu pouku i grupiše pouke koje zahtevaju isto ponovo upotrebljivo ponašanje. Pošto ispravka jednog neuspeha može da protivreči nekom drugom uputstvu ili da doda posao na drugom mestu, agent pre predlaganja izmene čita ceo Skill, a uzdržava se kada dokazi ne podržavaju izmenu.
Agenti za poboljšanje rade na istom harness-u kao i Computer. Harness smo napravili modularnim, tako da nova agentska aplikacija može ponovo da koristi njegove mehanizme za rezonovanje, upotrebu alata i upravljanje kontekstom, dok sopstvena uputstva i mogućnosti definiše putem dodataka. Namenska flota pozadinskih radnih procesa omogućava nam da ovu obradu skaliramo nezavisno od zadataka u prvom planu.
Petlja poboljšanja ličnih Skill-ova
Najpre opisujemo kako se zajednički mehanizam za samopoboljšanje primenjuje na petlju ličnog poboljšanja, koja istoriju zadataka korisnika pretvara u nove ili ažurirane lične Skill-ove. Slika ispod prati primer Skill-a kroz celu petlju, sve do revidirane verzije.
Tokom dnevnog pokretanja generisanja, agent za poboljšanje pregleda nedavne sesije korisnika kako bi utvrdio koje izmene vredi napraviti. Skup nedavnih sesija unapred se učitava u sandbox, zajedno sa podacima o korišćenju Skill-ova; ostatak istorije sesija korisnika može se preuzeti po potrebi. Agent za poboljšanje dobija i katalog postojećih Skill-ova. On nema pristup internetu ni drugim konektorima.
Dodaci i Skill-ovi osmišljeni za radni tok poboljšanja ličnih Skill-ova usmeravaju proces refleksije, oslanjajući se na naša načela o tome šta čini dobru izmenu. Agent najpre analizira cele putanje kako bi u svakoj sesiji prepoznao konkretnu pouku. Zatim poredi pouke sa postojećim uputstvima i odlučuje da li da ažurira Skill, napravi novi ili ne napravi nikakvu izmenu. Za pravljenje Skill-a potrebna su dva nezavisna pojavljivanja istog ponovo upotrebljivog ponašanja, dok ažuriranje postojećeg Skill-a može biti opravdano jednim utemeljenim pojavljivanjem.
Agent ne menja Skill direktno. Umesto toga, pravi predlog u kojem beleži nameravane izmene, kao i obrazloženje i dokaze koji ih podržavaju. Ažuriranja su ograničena na jednu izmenu po Skill-u po pokretanju. Determinističke provere potvrđuju da su predlozi ispravno formirani i da mogu da se primene na Skill. Nezavisno od toga, LLM sudija proverava uzorkovane predloge, ispitujući da li dokazi podržavaju izmenu i da li dobijeni Skill pruža korisna uputstva.
Aktivacija pretvara verifikovani predlog u izmenu korisnikove biblioteke Skill-ova, tako da nova verzija može da se učita i koristi u budućim sesijama. Pošto harness na početku svake sesije učitava indeks svih dostupnih Skill-ova, velika biblioteka Skill-ova može da zaguši kontekstni prozor i da agentu oteža pronalaženje i učitavanje relevantnih Skill-ova. Zbog toga sistem zadržava samo najvrednije Skill-ove i povlači one koji nisu neophodni, kako bi biblioteka ostala mala i pažljivo odabrana. Konkretno, primenjujemo ograničenje od 10 automatski napravljenih Skill-ova po korisniku. Kada je ograničenje dostignuto, agent za poboljšanje i dalje može da ažurira ili uklanja Skill-ove, ali da bi dodao novi Skill mora da povuče neki postojeći i da obrazloži zašto je novi Skill korisniji za rad korisnika.
Petlja poboljšanja ugrađenih Skill-ova
Okvir za neprekidno poboljšanje Skill-ova u okviru sistema Brain proširujemo i na ugrađene Skill-ove. Umesto da koristi memoriju i istoriju sesija jednog korisnika za poboljšanje njegovih ličnih Skill-ova, petlja za ugrađene Skill-ove koristi dokaze mnogih korisnika za poboljšanje Skill-ova dostupnih svim korisnicima usluge Perplexity. Pošto ugrađene Skill-ove može da koristi bilo ko, kriterijumi za izmene su visoki; ažuriranja koja nenamerno pogoršaju performanse mogu da utiču na hiljade sesija. Agent za poboljšanje ugrađenih Skill-ova menja samo kandidatske verzije Skill-ova. Da bi stigla do kanonske verzije Skill-a, ova ažuriranja moraju da prođu upareno ponovno izvršavanje i internu ljudsku proveru. Ponovo pratimo celu petlju na primeru Skill-a i pratećih dokaza.
Petlja poboljšanja ugrađenih Skill-ova koristi očišćene dokaze iz sesija koje ispunjavaju uslove za korišćenje u obuci. Dijagnostika i signali neuspeha koriste se za izbor relevantnih dokaza, zajedno sa kontrolnim sesijama u kojima je Skill korišćen bez ikakvih upozorenja. Kanal za čišćenje podataka uklanja akreditive i druge tajne podatke, kao i priložene datoteke i medije.
Agent za generisanje scenarija pretvara očišćene dokaze u konkretne scenarije neuspeha. On zadržava samo kontekst neophodan za razumevanje slučaja neuspeha i poboljšanje Skill-a; ostatak sesije se sintetički rekonstruiše, čime nastaje samostalan test za proces verifikacije. Scenariji moraju da se izvršavaju bez povezanih aplikacija i prijavljivanja; ako je prvobitni zadatak zavisio od konektora, taj ulaz se u scenariju zamenjuje sintetičkim datotekama. Posebna provera potvrđuje da Skill ne uspeva u generisanom scenariju.
Refleksija se odvija kroz nedeljni posao revizije koji uočene neuspehe pretvara u ispravke. On traži neuspehe Skill-ova koji se ponavljaju u više sesija, tako da jedna loša sesija ne dovede do izmene. Za svaki neuspeh koji se ponavlja zasebno se pokreće agent za poboljšanje. Agent dobija opis osnovnog uzroka, zajedno sa očišćenim zapisima iz uspešnih sesija. Na osnovu tih dokaza piše kandidatsku reviziju Skill-a. Ne dobija cele scenarije neuspeha, jer se oni koriste u evaluaciji.
Poseban posao ponovnog izvršavanja koristi generisane scenarije da uporedi originalnu i revidiranu verziju Skill-a. LLM sudija ocenjuje odgovore i putanje agenta u odnosu na kriterijume ocenjivanja svakog scenarija. Da bi predlog prošao, svaki test scenario mora da prođe sa revidiranim Skill-om, a bar jedan mora da ne prođe sa originalnim. Scenariji napravljeni na osnovu kontrolnih sesija takođe se ponovo izvršavaju, kako bi se potvrdilo da ništa nije prestalo da radi. Kod scenarija neuspeha, sudija proverava i da li se dogodio upravo taj konkretan neuspeh, umesto da neuspešan zadatak tretira kao dokaz istog problema.
Radni tok pakuje kandidatske izmene i rezultate evaluacije u pull request za internu ljudsku proveru. Izmene stupaju na snagu samo ako inženjer odobri PR.
Evaluacije
Automatsko poboljšanje Skill-ova značajno je povećalo pravljenje i korišćenje Skill-ova. Brain je od 1. avgusta do 14. novembra napisao više od 80.000 ličnih Skill-ova za više od 20.000 korisnika. Pored toga, od 4. septembra do 14. novembra primenjeno je više od 100.000 automatskih ažuriranja na više od 30.000 postojećih ličnih Skill-ova.
Ovi Skill-ovi obuhvataju širok spektar oblasti i zadataka, od verifikacije softvera i usklađivanja obračuna zarada do dizajniranja grafikona. Skill-ove koje je generisao Brain razvrstali smo prema radnim tokovima koje opisuju. Čak je i najveća oblast, softversko inženjerstvo, činila samo 11% Skill-ova; slede istraživanja i brifinzi (10,1%), prodaja i operacije (9,9%) i finansije i investiranje (9,9%).
Sproveli smo osmonedeljni randomizovani test na produkcijskom saobraćaju, poredeći korisnike sa uključenim automatskim poboljšanjem ličnih Skill-ova sa kontrolnom grupom kojoj je ta funkcija bila isključena. Među ljudima sa uključenim poboljšanjem Skill-ova, njih 72,9% dobilo je bar jedan novi lični Skill, dok je samo 6,5% ljudi bez te funkcije ručno dodalo novi Skill. Više od polovine eksperimentalne grupe (53%) imalo je lični Skill učitan u razgovoru koji su započeli, u poređenju sa 13% u kontrolnoj grupi; u njihovim potezima u razgovoru lični Skill se učitavao oko 3,6 puta češće. Među korisnicima koji su dobili Skill koji je napisao Brain, njih 63% ponovo je koristilo takav Skill u kasnijem razgovoru u roku od četiri nedelje.
Naše evaluacije nastoje da utvrde kako ovi novi i ažurirani Skill-ovi utiču na izvršavanje zadataka i ukupne performanse.
Rezultati istog randomizovanog eksperimenta pokazuju smanjenje broja neuspelih poziva alata i nezadovoljstva korisnika. Kod korisnika sa automatskim poboljšanjem Skill-ova, stopa neuspelih poziva alata smanjila se za 11% u svim aktivnostima u usluzi Computer. Kada se izuzmu pozadinska pokretanja samog sistema, pozivi alata su i dalje bili neuspešni oko 7% ređe, što ukazuje na to da se pouzdanost poboljšala u radu korisnika. Nezadovoljstvo korisnika, mereno brojem niti sa srednjim ili visokim nezadovoljstvom po korisniku, smanjilo se za 7,6%. Nismo uočili merljivu promenu troškova ni vremena odziva. Ovi rani testovi pokazuju obećavajuće rezultate i očekujemo da će poboljšanja vremenom rasti kako budemo usavršavali sistem i uvodili Skill-ove koji se sami poboljšavaju za više korisnika.
Oflajn eksperimenti su takođe zabeležili poboljšanja u užim okruženjima. U eksperimentu SkillLearnBench, Computer je koristio prethodne putanje zadataka da napravi po jedan lični Skill za svaku od devet porodica zadataka. Na 16 uparenih instanci evaluacije, uspešnost zadataka porasla je sa 43,8% bez Skill-ova na 62,5% sa generisanim Skill-ovima, što pruža dokaz da Skill-ovi izvedeni iz prethodnog iskustva mogu da poboljšaju performanse na ponovljenim zadacima. U jednoj studiji slučaja ugrađenog Skill-a, izmene Skill-a za e-trgovinu dovele su do povećanja kvaliteta od 6% uz 32% niže troškove, pri čemu je kvalitet merio automatizovani sudija.
Zaključak
Zahvaljujući Skill-ovima koji se sami poboljšavaju, Computer dobija još jedan način da uči iz posla koji obavlja. Oni proširuju Brain tako da pravi i održava proceduralnu memoriju, čime se poboljšavaju performanse u složenim radnim tokovima. Automatsko poboljšanje Skill-ova već je povećalo korišćenje Skill-ova, smanjilo stope neuspeha alata i umanjilo nezadovoljstvo korisnika.
Poboljšanje ličnih Skill-ova sada je dostupno svim pretplatnicima na Max u SAD. Podrazumevano je uključeno za korisnike koji ispunjavaju uslove, ali može da se isključi. Kartica Dodaci prikazuje dostupne Skill-ove, označava one koje je napisao Brain i omogućava korisnicima da izaberu koji su Skill-ovi omogućeni.
U sledećem koraku proširićemo poboljšanje na više klasa Skill-ova, uključujući Skill-ove koje su napisali korisnici, Skill-ove deljene u okviru projekata i Skill-ove organizacija. Nastavićemo da usavršavamo kanal za poboljšanje i njegove evaluacije kako bi revizije dovodile do pouzdanijih postupaka i boljih rezultata.
Citiranje
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}