Вјештине које се саме унапређују
Како Perplexity Brain из искуства учи процедуре које се понављају и одржава их ажурним.
Увод
Корисници имају преференције и захтјеве специфичне за своје токове рада које модел опште намјене не може унапријед знати. Агент треба да научи ове детаље како би свој рад прилагодио кориснику, умјесто да од корисника захтијева да у свакој сесији објашњава исти поступак или уноси исте исправке. Континуирано учење то омогућава: искуство из завршених задатака треба да утиче на то како агент приступа будућем раду.
Brain, персонализовани систем самоунапређења у оквиру Computer-а, омогућава учење кроз искуство. Он већ одржава структурисани вики знања који повезује информације о кориснику и његовом раду са доказима који их поткрепљују. Позадински агенти ажурирају вики како се нагомилавају нове информације, па се систем меморије временом побољшава.
Вјештине агената пружају још један начин усмјеравања понашања агента без промјене основног модела. Вјештине су вишекратно употребљива упутства која воде агента кроз одређене задатке. Оне обухватају захтјеве и пратеће ресурсе за токове рада који се понављају, које би агент иначе морао да закључује из меморије или да их сваки пут добија од корисника, чиме се побољшавају перформансе на задацима ван дистрибуције. Могу укључивати и скрипте за понављајуће поступке или обраду који се могу поуздано изразити у коду, тако да агент може једноставно покренути те скрипте када су примјењиве. Доступне вјештине harness чини видљивим и учитава њихова упутства у контекст када их агент затражи. Корисници у упиту могу и директно навести које вјештине треба користити.
Проширујемо Brain тако да аутоматски креира и ажурира вјештине агената. Brain се ослања на меморију и историју сесија корисника да би писао и усавршавао личне вјештине које обухватају процедуре за токове рада тог корисника. Сличан приступ примјењујемо за ажурирање уграђених вјештина, које су доступне свим корисницима услуге Perplexity, на основу збирних образаца из свих сесија.
Прво описујемо наш механизам за самоунапређење који је заједнички за све типове вјештина и објашњавамо како функционише за личне и уграђене вјештине.
Заједнички механизам за самоунапређење
Корисна вјештина и даље мора да се мијења како се појављују нове преференције или како искуство открива празнине у њеним упутствима. Brain је одговоран за откривање тога како би понашање агента требало да се промијени сљедећи пут када Computer наиђе на сличан задатак и за одређивање начина на који би вјештина требало да се промијени да би боље постигла жељени исход.
Овај процес унапређења чини петљу од четири фазе:
- Докази. Brain проналази претходне сесије у којима је вјештина коришћена, нарочито оне у којима није дала очекиване резултате.
- Рефлексија. Агент за унапређење проучава те доказе и предлаже ажурирања вјештине.
- Верификација. Провјере потврђују да је приједлог исправно формиран и да ће вјероватно побољшати исходе.
- Активација. Верификована промјена се примјењује. Будуће сесије користе нову верзију и тако пружају доказе за сљедећи круг.
Ова петља се ослања на многе постојеће могућности изграђене за Computer и Brain. Овдје описујемо заједнички механизам који омогућава доказе и рефлексију. Поступци верификације и активације зависе од тога да ли промјена стиже до једног корисника или до свих корисника услуге Perplexity, па их обрађујемо у наредним одјељцима о петљама унапређења личних и уграђених вјештина.
Докази из претходних сесија
Рефлексија захтијева проналажење сесија у којима је вјештина коришћена, нарочито оних у којима има простора за побољшање. Сигнале који то омогућавају биљежи harness за Computer. Када агент учита вјештину, harness биљежи догађај учитавања вјештине који повезује вјештину са сесијом. Када агент примијети фрустрацију корисника, неисправно понашање или очигледну неефикасност, агент подноси кратку, структурисану дијагностику, а harness јој прилаже вјештине које су у употреби. Ово је нарочито корисно за уграђене вјештине, гдје би било која сесија потенцијално могла бити релевантна, па систему треба начин да брзо сузи скуп доказа.
Агентима користи приступ потпуном запису, умјесто да доносе процјену на основу исхода или кратког резимеа. Computer чува претходне сесије помоћу репрезентација путања независних од провајдера, које обухватају поруке, позиве алата, расуђивање и резултате. Направили смо и скуп алата командне линије које агенти могу да користе за декодирање ових путања и реконструкцију потпуних сесија. То омогућава агенту за рефлексију да прегледа конкретна учитавања вјештина и позиве алата и тако идентификује тачна мјеста на којима су се појавили проблеми или на којима су могућа побољшања.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlПримјер употребе интерних Computer алата за преглед трајекторија. Путање и идентификатори су поједностављени ради илустрације; називи команди и аргументи одговарају имплементацији.
Рефлексија уз позадинске агенте
Brain користи тим позадинских агената да континуирано оптимизује искуство сваког корисника. На примјер, Dream агенти прегледају нагомилано искуство како би ажурирали вики знања. Слично томе, унапређење вјештина покрећу агенти за унапређење који анализирају доказе о коришћењу вјештина и предлажу ажурирања.
Сваки агент ради у сопственом Sandbox окружењу са најнапреднијим моделом, релевантним доказима и тренутном библиотеком вјештина, уз смјернице из додатака и вјештина. Он одлучује које сесије ће прочитати, из сваке извлачи конкретну поуку и групише поуке које захтијевају исто вишекратно употребљиво понашање. Пошто исправка за један неуспјех може бити у супротности са неким другим упутством или додати посао на другом мјесту, агент прочита цијелу вјештину прије него што предложи измјену и уздржава се када докази не подржавају измјену.
Агенти за унапређење користе исти harness као Computer. Учинили смо harness модуларним, тако да нова агентска апликација може поново да користи његове механизме за расуђивање, коришћење алата и управљање контекстом, док сопствена упутства и могућности дефинише путем додатака. Намјенска флота позадинских радника омогућава нам да ову обраду скалирамо независно од задатака у првом плану.
Петља унапређења личних вјештина
Прво описујемо како се заједнички механизам за самоунапређење примјењује на петљу личног унапређења, која историју задатака корисника претвара у нове или ажуриране личне вјештине. Слика испод прати примјер вјештине кроз цијелу петљу, закључно са ревидираном верзијом.
Током дневног покретања генерисања, агент за унапређење прегледа недавне сесије корисника како би утврдио које промјене вриједи направити. Скуп недавних сесија унапријед се учитава у Sandbox окружење, заједно са подацима о коришћењу вјештина; остатак историје сесија корисника може се преузети по потреби. Агент за унапређење добија и каталог постојећих вјештина. Нема приступ интернету ни другим конекторима.
Додаци и вјештине осмишљени за ток рада унапређења личних вјештина усмјеравају процес рефлексије, ослањајући се на наше принципе о томе шта чини добро ажурирање. Агент прво анализира потпуне путање како би у свакој сесији идентификовао конкретну поуку. Затим пореди поуке са постојећим упутствима и одлучује да ли да ажурира вјештину, направи нову или не направи никакву промјену. За креирање вјештине потребна су два независна појављивања истог вишекратно употребљивог понашања, док се ажурирање постојеће вјештине може оправдати једним утемељеним појављивањем.
Агент не мијења вјештину директно. Умјесто тога, израђује приједлог у коме биљежи намјераване промјене, као и образложење и доказе који их поткрепљују. Ажурирања су ограничена на једну промјену по вјештини по покретању. Детерминистичке провјере верификују да су приједлози исправно формирани и да се могу примијенити на вјештину. Засебно, LLM судија ревидира узорковане приједлоге и провјерава да ли докази подржавају промјену и да ли резултујућа вјештина пружа корисна упутства.
Активација претвара верификовани приједлог у промјену у библиотеци вјештина корисника, тако да се нова верзија може учитати и користити у будућим сесијама. Пошто harness на почетку сваке сесије учитава индекс свих доступних вјештина, велика библиотека вјештина може загушити контекстни прозор и отежати агенту да пронађе и учита релевантне вјештине. Због тога систем задржава само највредније вјештине и повлачи оне које нису неопходне, како би библиотека остала мала и пажљиво одабрана. Конкретно, примјењујемо ограничење од 10 аутоматски креираних вјештина по кориснику. Када се достигне ограничење, агент за унапређење и даље може да ажурира или уклања вјештине, али да би додао нову вјештину мора да повуче неку постојећу и образложи зашто је нова вјештина кориснија за рад корисника.
Петља унапређења уграђених вјештина
Оквир за континуирано унапређење вјештина у систему Brain проширујемо и на уграђене вјештине. Умјесто да користи меморију и историју сесија једног корисника за унапређење личних вјештина тог корисника, петља уграђених вјештина користи доказе од многих корисника да би унаприједила вјештине доступне свим корисницима услуге Perplexity. Пошто уграђене вјештине може да користи било ко, праг за промјене је висок; ажурирања која ненамјерно погоршају перформансе могу утицати на хиљаде сесија. Агент за унапређење уграђених вјештина мијења само кандидатске верзије вјештина. Да би стигла до канонске верзије вјештине, ова ажурирања морају проћи упарено поновно покретање и интерну људску провјеру. Још једном пратимо цијелу петљу на примјеру вјештине и пратећих доказа.
Петља унапређења уграђених вјештина користи прочишћене доказе из сесија које су подобне за употребу у тренирању. Дијагностика и сигнали неуспјеха користе се за одабир релевантних доказа, уз контролне сесије у којима је вјештина коришћена без икаквих упозорења. Процесни ланац за прочишћавање уклања акредитиве и друге тајне податке, као и приложене датотеке и медије.
Агент за генерисање сценарија претвара прочишћене доказе у конкретне сценарије неуспјеха. Задржава само контекст неопходан за разумијевање случаја неуспјеха и унапређење вјештине; остатак сесије се синтетички реконструише, чиме се ствара самосталан тест за процес верификације. Сценарији морају да се изводе без повезаних апликација и пријављивања; ако је оригинални задатак зависио од конектора, тај улаз се у сценарију замјењује синтетичким датотекама. Засебна провјера потврђује да вјештина не успијева на генерисаном сценарију.
Рефлексија се одвија кроз седмични посао ревизије који уочене неуспјехе претвара у исправке. Он тражи неуспјехе вјештина који се понављају у више сесија, тако да једна лоша сесија не изазове измјену. За сваки неуспјех који се понавља покреће се засебно извршавање агента за унапређење. Агент добија опис основног узрока, заједно са прочишћеним записима из успјешних сесија. Те доказе користи да напише кандидатску ревизију вјештине. Не добија потпуне сценарије неуспјеха, јер се они користе у евалуацији.
Засебан посао поновног покретања користи генерисане сценарије да упореди оригиналну и ревидирану верзију вјештине. LLM судија оцјењује одговоре и путање агента у односу на критеријуме оцјењивања сваког сценарија. Да би приједлог прошао, сваки тестни сценарио мора проћи са ревидираном вјештином, а најмање један мора пасти са оригиналном. Сценарији направљени од контролних сесија такође се поново покрећу, како би се потврдило да ништа није престало да ради. За сценарије неуспјеха судија провјерава и да ли се конкретни неуспјех заиста догодио, умјесто да неуспјешан задатак третира као доказ истог проблема.
Ток рада пакује кандидатске промјене и резултате евалуације у pull request за интерну људску провјеру. Промјене ступају на снагу само ако инжењер одобри PR.
Евалуације
Аутоматско унапређење вјештина значајно је повећало креирање и коришћење вјештина. Brain је од 1. августа до 14. новембра написао више од 80.000 личних вјештина за више од 20.000 корисника. Поред тога, од 4. септембра до 14. новембра примијењено је више од 100.000 аутоматских ажурирања на више од 30.000 постојећих личних вјештина.
Ове вјештине обухватају широк спектар области и задатака, од верификације софтвера и усклађивања обрачуна зарада до израде графичких приказа. Вјештине које је генерисао Brain разврстали смо према токовима рада које описују. Чак је и највећа област, софтверски инжењеринг, чинила само 11% вјештина; слиједе истраживање и брифинзи (10,1%), продаја и операције (9,9%) и финансије и инвестирање (9,9%).
Спровели смо осмоседмични рандомизовани тест на продукцијском саобраћају, поредећи кориснике са укљученим аутоматским унапређењем личних вјештина са контролном групом код које је оно било искључено. Најмање једну нову личну вјештину добило је 72,9% људи са укљученим унапређењем вјештина, док је само 6,5% људи без њега ручно додало нову вјештину. Више од половине експерименталне групе (53%) имало је личну вјештину учитану у разговору који су започели, у поређењу са 13% у контролној групи; у њиховим потезима лична вјештина је учитавана око 3,6 пута чешће. Међу корисницима који су добили вјештину коју је написао Brain, 63% је поново користило неку од њих у каснијем разговору у року од четири седмице.
Нашим евалуацијама настојимо да утврдимо како ове нове и ажуриране вјештине утичу на извршавање задатака и укупне перформансе.
Резултати истог рандомизованог експеримента показују пад неуспјешних позива алата и незадовољства корисника. Код корисника са аутоматским унапређењем вјештина стопа неуспјешних позива алата смањена је за 11% у свим активностима у систему Computer. Када се изузму позадинска покретања самог система, позиви алата и даље су били неуспјешни око 7% рјеђе, што указује на то да је поузданост побољшана у раду корисника. Незадовољство корисника, мјерено бројем тредова са средњим/високим степеном незадовољства по кориснику, смањено је за 7,6%. Нисмо примијетили мјерљиву промјену трошкова ни времена одзива. Ови рани тестови показују обећавајуће резултате и очекујемо да ће се побољшања временом повећавати како будемо усавршавали систем и уводили вјештине које се самоунапређују за више корисника.
Офлајн експерименти су такође забиљежили побољшања у ужим условима. У експерименту SkillLearnBench, Computer је користио путање претходних задатака да направи по једну личну вјештину за сваку од девет породица задатака. На 16 упарених инстанци евалуације, успјешност задатака порасла је са 43,8% без вјештина на 62,5% са генерисаним вјештинама, што пружа доказ да вјештине изведене из претходног искуства могу побољшати перформансе на поновљеним задацима. У једној студији случаја за уграђену вјештину, измјене вјештине за е-трговину довеле су до повећања квалитета од 6% уз 32% ниже трошкове, при чему је квалитет мјерио аутоматизовани судија.
Закључак
Вјештине које се самоунапређују пружају систему Computer још један начин да учи из посла који обавља. Оне проширују Brain тако да креира и одржава процедуралну меморију, чиме се побољшавају перформансе у сложеним токовима рада. Аутоматско унапређење вјештина већ је повећало коришћење вјештина, смањило стопу неуспјеха алата и умањило незадовољство корисника.
Унапређење личних вјештина сада је доступно свим Max претплатницима у САД. Подразумијевано је укључено за кориснике који испуњавају услове, али се може искључити. Картица „Додаци“ приказује доступне вјештине, означава оне које је написао Brain и омогућава корисницима да изаберу које су вјештине омогућене.
Као сљедећи корак, проширићемо унапређење на више класа вјештина, укључујући вјештине које су написали корисници, вјештине дијељене унутар пројеката и вјештине организације. Наставићемо да усавршавамо процесни ланац за унапређење и његове евалуације како би ревизије доводиле до поузданијих процедура и бољих резултата.
Цитирање
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}