自我改進的技能
Perplexity Brain 如何從經驗中學習重複出現的程序,並使其保持最新。
簡介
用戶有特定於其工作流程的偏好和要求,而通用模型無法預先得知。AI 代理程式需要學習這些細節,使其工作配合用戶,而不是要求用戶在每個工作階段都解釋相同的程序或作出相同的修正。持續學習令這成為可能:已完成任務的經驗應為 AI 代理程式處理日後工作的方式提供參考。
Brain 是 Computer 的個人化自我改進系統,能夠實現從經驗中學習。它已維護一個結構化知識 wiki,將有關用戶及其工作的資訊與支持這些資訊的證據連結起來。背景 AI 代理程式會隨著新資訊累積而更新 wiki,讓記憶系統隨時間不斷改進。
AI 代理程式技能提供另一種無需更改底層模型即可引導 AI 代理程式行為的方式。技能是可重用的指示,引導 AI 代理程式完成特定任務。它們記錄了重複工作流程的要求和支援資源,否則 AI 代理程式每次都需要從記憶中推斷,或由用戶提供,從而提升處理分佈外任務的表現。技能亦可包含腳本,用於重複的程序或能以程式碼可靠表達的處理工作,讓 AI 代理程式在適用時直接執行這些腳本。harness 讓可用技能可被發現,並在 AI 代理程式要求時將其指示載入上下文。用戶亦可在提示中直接指定要使用哪些技能。
我們正在擴展 Brain,使其能自動建立和更新 AI 代理程式技能。Brain 以用戶的記憶和工作階段記錄為基礎,編寫並完善個人技能,記錄該用戶工作流程的程序。我們亦採用類似方法,根據所有工作階段的整體模式,更新所有 Perplexity 用戶可用的內置技能。
我們首先介紹所有技能類型共用的自我改進引擎,並說明它如何應用於個人技能和內置技能。
共用的自我改進引擎
即使是有用的技能,也需要隨著新偏好出現,或經驗揭示其指示中的不足而改變。Brain 負責找出 Computer 下次遇到類似任務時,AI 代理程式的行為應如何改變,並決定技能應如何調整,以更好地達成預期結果。
這個改進過程形成一個包含四個階段的循環:
- 證據。Brain 會找出曾使用該技能的過往工作階段,尤其是表現未如理想的工作階段。
- 反思。改進 AI 代理程式會研究這些證據,並建議更新技能。
- 驗證。檢查會確認建議格式正確,並可能改善結果。
- 啟用。套用已驗證的變更。日後的工作階段會使用新版本,並為下一輪提供證據。
這個循環依賴許多為 Computer 和 Brain 打造的現有功能。在此,我們會介紹支援證據與反思階段的共用機制。驗證和啟用程序取決於變更影響的是單一用戶,還是所有 Perplexity 用戶,因此我們會在後續有關個人技能和內置技能改進循環的章節中說明。
來自過往工作階段的證據
反思需要找出曾使用某項技能的工作階段,尤其是有改進空間的工作階段。Computer harness 會記錄讓這成為可能的訊號。當 AI 代理程式載入技能時,harness 會記錄一個技能載入事件,將該技能與工作階段連結。當 AI 代理程式察覺到用戶感到沮喪、行為出錯或明顯效率低下時,便會提交一份簡短的結構化診斷,而 harness 會附上正在使用的技能。這些訊號對內置技能尤其有用,因為任何工作階段都可能與之相關,系統需要一種方法來迅速縮窄證據範圍。
讓 AI 代理程式取得完整記錄,比單憑結果或簡短摘要作出判斷更有益。Computer 使用與供應商無關的軌跡表示方式儲存過往工作階段,記錄訊息、工具呼叫、推理過程和結果。我們亦打造了一套命令列工具,讓 AI 代理程式解碼這些軌跡並重構完整的工作階段。這讓反思 AI 代理程式能夠檢視特定的技能載入和工具呼叫,準確找出出現問題或可作改進的地方。
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlComputer 內部軌跡檢查工具的使用範例。路徑和識別碼已為說明目的而簡化;指令名稱和參數則與實際實作一致。
以背景 AI 代理程式進行反思
Brain 使用一組背景 AI 代理程式,持續為每位用戶優化體驗。例如,Dream AI 代理程式會檢視累積的經驗以更新知識 wiki。同樣地,技能改進由改進 AI 代理程式推動,它們會反思技能使用證據並建議更新。
每個 AI 代理程式都在各自的沙箱中運作,配備前沿模型、相關證據和目前的技能庫,並由外掛程式和技能引導。它會決定閱讀哪些工作階段,從每個工作階段中總結出具體教訓,並將需要相同可重用行為的教訓歸為一組。由於針對某個失敗的修正可能與另一項指示相衝突,或在其他地方增加工作量,它會在建議編輯前閱讀完整的技能內容,並在證據不足以支持編輯時放棄提出。
改進 AI 代理程式與 Computer 在相同的 harness 上運行。我們將 harness 模組化,讓新的 AI 代理程式應用程式可以重用其推理、工具使用和上下文管理機制,同時透過外掛程式定義自己的指示和功能。專用的背景工作程序叢集讓我們能夠獨立於前景任務擴展這項處理工作。
個人技能改進循環
我們首先說明共用的自我改進引擎如何應用於個人改進循環,將用戶的任務記錄轉化為新的或經更新的個人技能。下圖以一個範例技能追蹤整個循環,並以修訂後的版本作結。
在每日生成運行期間,改進 AI 代理程式會檢視用戶最近的工作階段,以決定值得作出的變更。一組最近的工作階段會連同技能使用數據預先載入沙箱;用戶其餘的工作階段記錄則可按需要擷取。改進 AI 代理程式亦會收到現有技能的目錄。它無法存取互聯網或其他連接器。
專為個人技能改進工作流程設計的外掛程式和技能會引導反思過程,並以我們對何謂良好更新的原則為依據。AI 代理程式首先分析完整軌跡,從每個工作階段中找出具體教訓,然後將這些教訓與現有指示比較,決定是更新技能、建立新技能,還是不作任何變更。建立技能需要相同可重用行為獨立出現兩次,而更新現有技能則只需一次有根據的出現即可成立。
AI 代理程式不會直接修改技能,而是產生一份建議,記錄預期的變更以及支持的理據和證據。每次運行中,每項技能只限一項變更。確定性檢查會驗證建議格式正確,並且可以套用到技能上。另外,LLM 評審會抽樣審核建議,檢查證據是否支持該變更,以及修改後的技能是否提供有用的指示。
啟用會將已驗證的建議轉化為用戶技能庫的變更,讓新版本可以在日後的工作階段中載入和使用。由於 harness 會在每個工作階段開始時載入所有可用技能的索引,龐大的技能庫可能會佔滿上下文視窗,令 AI 代理程式更難找到並載入相關技能。因此,系統只保留最有價值的技能,並淘汰不必要的技能,以維持一個精簡而經篩選的技能庫。具體而言,我們為每位用戶設定自動建立技能的上限為 10 項。達到上限時,改進 AI 代理程式仍可更新或移除技能,但若要新增技能,就必須淘汰一項現有技能,並說明為何新技能對用戶的工作更有用。
內置技能改進循環
我們亦將 Brain 的持續技能改進框架擴展至內置技能。內置循環並非利用單一用戶的記憶和工作階段記錄來改進該用戶的個人技能,而是利用來自眾多用戶的證據,改進所有 Perplexity 用戶可用的技能。由於任何人都可以使用內置技能,變更的門檻很高;無意中令表現變差的更新可能會影響數以千計的工作階段。內置改進 AI 代理程式只會變更技能的候選版本。這些更新必須通過配對重播和內部人工審核,才能進入技能的正式版本。我們會再次以一個範例技能及其支持證據追蹤整個循環。
內置改進循環使用經過清理的證據,這些證據來自符合訓練用途資格的工作階段。系統會利用診斷和失敗訊號來挑選相關證據,同時亦會使用對照工作階段,即有使用技能但沒有觸發任何警示的工作階段。清理流程會移除憑證及其他機密資料,以及附加的檔案和媒體。
情境生成 AI 代理程式會將經清理的證據轉化為具體的失敗情境。它只保留理解失敗個案和改進技能所需的上下文;工作階段的其餘部分則以合成方式重建,為驗證過程建立一個獨立完整的測試。情境必須在沒有已連接應用程式或登入的情況下運行;如果原本的任務依賴某個連接器,該輸入會在情境中以合成檔案取代。另一項獨立檢查會驗證技能在生成的情境中確實失敗。
反思透過每週一次的修訂作業進行,將觀察到的失敗轉化為修正。它會尋找在多個工作階段中重複出現的技能失敗,避免單一表現欠佳的工作階段引發編輯。每個重複出現的失敗都會由一次獨立的改進 AI 代理程式運行處理。AI 代理程式會收到根本原因的描述,以及來自成功工作階段的經清理記錄,並利用這些證據撰寫技能的候選修訂版本。由於完整的失敗情境用於評估,因此它不會收到這些情境。
另一項獨立的重播作業會使用生成的情境,比較技能的原始版本與修訂版本。LLM 評審會根據每個情境的評分準則,評估 AI 代理程式的答案和軌跡。建議要獲得通過,每個測試情境在使用修訂後技能時都必須通過,而且至少有一個情境在使用原始技能時失敗。以對照工作階段建立的情境亦會重播,以確認沒有任何功能失效。對於失敗情境,評審亦會檢查是否確實出現了該特定失敗,而不是將任何未成功的任務視為同一問題的證據。
工作流程會將候選變更和評估結果打包成拉取請求,交由內部人工審核。只有在工程師批准該 PR 後,變更才會生效。
評估
自動技能改進大幅增加了技能的建立和使用量。在 8 月 1 日至 11 月 14 日期間,Brain 為超過 20,000 名用戶編寫了逾 80,000 項個人技能。此外,在 9 月 4 日至 11 月 14 日期間,超過 30,000 項現有個人技能套用了逾 100,000 次自動更新。
這些技能涵蓋廣泛的領域和任務,由驗證軟件、核對薪酬到設計圖表都有。我們根據 Brain 所生成技能描述的工作流程將其分類。即使是最大的領域——軟件工程,也只佔技能的 11%;其次是研究與簡報(10.1%)、銷售與營運(9.9%),以及金融與投資(9.9%)。
我們在正式環境流量上進行了為期八星期的隨機測試,比較啟用自動個人技能改進的用戶與停用該功能的對照組。在啟用技能改進的用戶中,72.9% 至少獲得一項新的個人技能;而在未啟用的用戶中,只有 6.5% 手動新增了技能。實驗組中超過一半(53%)的用戶在自己發起的對話中載入過個人技能,對照組則為 13%;實驗組各輪對話載入個人技能的頻率約為對照組的 3.6 倍。在獲得 Brain 編寫技能的客戶中,63% 在四星期內的後續對話中再次使用了這類技能。
我們的評估旨在確定這些新增及更新的技能如何影響任務執行和整體表現。
同一項隨機實驗的結果顯示,工具呼叫失敗和用戶不滿均有所下降。對於啟用自動技能改進的用戶,所有 Computer 活動的工具呼叫失敗率下降了 11%。即使排除系統本身的背景運行,工具呼叫失敗的頻率仍減少約 7%,顯示用戶工作的可靠性有所提升。以每位用戶的中度/高度不滿對話串數量衡量的用戶不滿程度下降了 7.6%。我們並未觀察到成本或回應時間有可量度的變化。這些初步測試展示了令人鼓舞的結果,我們預期隨著系統不斷完善,並向更多用戶推出自我改進技能,改善幅度會隨時間增加。
離線實驗亦在較狹窄的情境中錄得改善。在一項 SkillLearnBench 實驗中,Computer 利用先前的任務軌跡,為九個任務類別各建立一項個人技能。在 16 個配對評估實例中,任務成功率由不使用技能時的 43.8%,提升至使用生成技能時的 62.5%,提供了證據顯示從過往經驗衍生的技能可以改善重複任務的表現。在一個內置技能個案研究中,對電子商務技能所作的編輯令質素提升 6%,同時成本降低 32%,質素由自動評審衡量。
結論
自我改進技能為 Computer 提供另一種從其工作中學習的方式。它擴展了 Brain,使其能建立和維護程序性記憶,提升複雜工作流程的表現。自動技能改進已提高技能使用量、降低工具失敗率,並減少用戶不滿。
個人技能改進現已向所有美國 Max 訂閱用戶推出。此功能為合資格用戶預設開啟,但可以關閉。「外掛程式」分頁會顯示可用的技能,標示由 Brain 編寫的技能,並讓用戶選擇啟用哪些技能。
接下來,我們會將改進功能擴展至更多技能類別,包括用戶自行編寫的技能、在專案內共用的技能,以及機構技能。我們會繼續完善改進流程及其評估,讓修訂帶來更可靠的程序和更好的結果。
引用
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}