Skill yang menyempurnakan diri sendiri

Bagaimana Perplexity Brain mempelajari prosedur berulang dari pengalaman dan terus memperbaruinya.

PenulisPerplexity Engineering

Pendahuluan

Pengguna memiliki preferensi dan persyaratan khusus alur kerja yang tidak dapat diketahui sebelumnya oleh model serbaguna. Agen perlu mempelajari detail ini untuk menyesuaikan pekerjaannya dengan pengguna, alih-alih mengharuskan pengguna menjelaskan prosedur yang sama atau melakukan koreksi yang sama di setiap sesi. Pembelajaran berkelanjutan memungkinkan hal ini: pengalaman dari tugas yang telah selesai seharusnya menjadi dasar cara agen menangani pekerjaan di masa mendatang.

Brain, sistem peningkatan diri yang dipersonalisasi milik Computer, memungkinkan pembelajaran melalui pengalaman. Brain sudah mengelola wiki pengetahuan terstruktur yang menghubungkan informasi tentang pengguna dan pekerjaannya dengan bukti yang mendukungnya. Agen latar belakang memperbarui wiki seiring bertambahnya informasi baru, sehingga sistem memori terus membaik dari waktu ke waktu.

Skill agen menyediakan cara lain untuk memandu perilaku agen tanpa mengubah model yang mendasarinya. Skill adalah instruksi yang dapat digunakan ulang untuk memandu agen dalam tugas-tugas tertentu. Skill merekam persyaratan dan sumber daya pendukung untuk alur kerja berulang yang tanpanya harus disimpulkan agen dari memori atau diterima dari pengguna setiap kali, sehingga meningkatkan kinerja pada tugas di luar distribusi. Skill juga dapat menyertakan skrip untuk prosedur berulang atau pemrosesan yang dapat diekspresikan secara andal dalam kode, sehingga agen cukup menjalankan skrip tersebut saat relevan. Harness membuat Skill yang tersedia dapat ditemukan dan memuat instruksinya ke dalam konteks saat agen memintanya. Pengguna juga dapat langsung menentukan Skill mana yang akan digunakan dalam prompt.

Kami memperluas Brain agar dapat membuat dan memperbarui Skill agen secara otomatis. Brain memanfaatkan memori dan riwayat sesi pengguna untuk menulis dan menyempurnakan Skill pribadi yang merekam prosedur untuk alur kerja pengguna tersebut. Kami menerapkan pendekatan serupa untuk memperbarui Skill bawaan, yang tersedia bagi setiap pengguna Perplexity, berdasarkan pola agregat di seluruh sesi.

Agen menggabungkan kemampuan umum dengan konteks tugas terpilih dan pengalaman pribadi. Model yang mendasarinya menggunakan konteks kerja untuk memilih langkah berikutnya, dan konteks tersebut berubah seiring kemajuan tugas. Brain menyediakan memori dan skill pribadi, lalu menggunakan bukti sesi terpilih untuk pembaruan selanjutnya, dengan tunduk pada pemeriksaan dan otorisasi. Personalisasi mengubah konteks dan instruksi, bukan bobot model. Sumber dipilih sesuai kebutuhan, tidak dimuat sekaligus; tampilan konseptual ini menyederhanakan mekanisme pembaruan.

Pertama, kami menjelaskan mesin peningkatan diri yang digunakan bersama oleh semua jenis Skill, lalu menjelaskan cara kerjanya untuk Skill pribadi dan Skill bawaan.

Mesin peningkatan diri bersama

Skill yang berguna tetap perlu berubah ketika preferensi baru muncul atau pengalaman mengungkap celah dalam instruksinya. Brain bertanggung jawab untuk menemukan bagaimana perilaku agen harus berubah saat Computer kembali menghadapi tugas serupa, serta menentukan bagaimana Skill tersebut harus berubah agar lebih baik dalam mencapai hasil yang diinginkan.

Proses peningkatan ini membentuk sebuah siklus dengan empat tahap:

  1. Bukti. Brain menemukan sesi-sesi sebelumnya yang menggunakan Skill tersebut, terutama sesi yang hasilnya kurang memadai.
  2. Refleksi. Agen peningkatan mempelajari bukti tersebut dan mengusulkan pembaruan untuk Skill.
  3. Verifikasi. Pemeriksaan memastikan bahwa usulan tersusun dengan benar dan kemungkinan besar akan meningkatkan hasil.
  4. Aktivasi. Perubahan yang telah diverifikasi diterapkan. Sesi mendatang menggunakan versi baru, sehingga menyediakan bukti untuk putaran berikutnya.
Brain memilih sesi sebelumnya yang menggunakan skill tersebut, terutama sesi yang hasilnya kurang memadai. Agen peningkatan mengusulkan pembaruan, lalu pemeriksaan menilai apakah pembaruan itu tersusun dengan baik dan kemungkinan besar akan meningkatkan hasil. Setelah diterapkan, versi baru digunakan dalam sesi mendatang sehingga menyediakan bukti untuk putaran berikutnya.

Siklus ini mengandalkan banyak kemampuan yang sudah ada yang dibangun untuk Computer dan Brain. Di sini, kami menjelaskan mesin bersama yang memungkinkan tahap bukti dan refleksi. Prosedur verifikasi dan aktivasi bergantung pada apakah suatu perubahan menjangkau satu pengguna atau setiap pengguna Perplexity, jadi kami membahasnya di bagian berikutnya tentang siklus peningkatan Skill pribadi dan Skill bawaan.

Bukti dari sesi sebelumnya

Refleksi memerlukan penemuan sesi yang menggunakan suatu Skill, terutama sesi yang masih memiliki ruang untuk perbaikan. Harness Computer mencatat sinyal yang memungkinkan hal ini. Saat agen memuat Skill, harness mencatat peristiwa pemuatan Skill yang menautkan Skill tersebut ke sesi. Saat agen melihat frustrasi pengguna, perilaku yang rusak, atau inefisiensi yang jelas, agen mengajukan diagnostik singkat yang terstruktur, dan harness melampirkan Skill yang sedang digunakan. Sinyal ini sangat berguna untuk Skill bawaan, karena sesi mana pun berpotensi relevan, sehingga sistem memerlukan cara untuk mempersempit kumpulan bukti dengan cepat.

Agen mendapat manfaat dari akses ke catatan lengkap, alih-alih membuat penilaian berdasarkan hasil akhir atau ringkasan singkat. Computer menyimpan sesi sebelumnya menggunakan representasi trajektori yang tidak bergantung pada penyedia, yang merekam pesan, panggilan alat, penalaran, dan hasil. Kami juga membangun serangkaian alat baris perintah yang dapat digunakan agen untuk mendekode trajektori ini dan merekonstruksi sesi lengkap. Hal ini memungkinkan agen refleksi memeriksa pemuatan Skill dan panggilan alat tertentu, serta mengidentifikasi titik persis tempat masalah terjadi atau perbaikan dapat dilakukan.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Contoh penggunaan alat inspeksi lintasan internal Computer. Jalur dan pengidentifikasi disederhanakan untuk ilustrasi; nama perintah dan argumen mengikuti implementasinya.

Refleksi dengan agen latar belakang

Brain menggunakan tim agen latar belakang untuk terus mengoptimalkan pengalaman bagi setiap pengguna. Misalnya, agen Dream meninjau pengalaman yang terkumpul untuk memperbarui wiki pengetahuan. Demikian pula, peningkatan Skill didukung oleh agen peningkatan yang merefleksikan bukti penggunaan Skill untuk mengusulkan pembaruan.

Setiap agen bekerja di kotak pasirnya sendiri dengan model frontier, bukti yang relevan, dan pustaka Skill saat ini, dipandu oleh plugin dan Skill. Agen memutuskan sesi mana yang akan dibaca, menarik pelajaran konkret dari masing-masing sesi, dan mengelompokkan pelajaran yang memerlukan perilaku yang dapat digunakan ulang yang sama. Karena perbaikan untuk satu kegagalan dapat bertentangan dengan instruksi lain atau menambah pekerjaan di tempat lain, agen membaca Skill secara lengkap sebelum mengusulkan pengeditan, dan menahan diri bila bukti tidak mendukungnya.

Agen peningkatan berjalan di harness yang sama dengan Computer. Kami membuat harness ini modular, sehingga aplikasi agen baru dapat menggunakan ulang mesinnya untuk penalaran, penggunaan alat, dan manajemen konteks sambil menetapkan instruksi dan kemampuannya sendiri melalui plugin. Armada pekerja latar belakang khusus memungkinkan kami menskalakan pemrosesan ini secara independen dari tugas latar depan.

Agen interaktif dan agen peningkatan di latar belakang berjalan pada harness Computer yang sama. Agen peningkatan menggunakan bukti sesi dan skill saat ini untuk mengusulkan perubahan atau memilih untuk tidak mengusulkan apa pun. Proposal harus lolos pemeriksaan yang spesifik untuk jenis skill tersebut sebelum versi baru tersedia untuk sesi-sesi mendatang.

Siklus peningkatan Skill pribadi

Pertama, kami menjelaskan bagaimana mesin peningkatan diri bersama diterapkan pada siklus peningkatan pribadi, yang mengubah riwayat tugas pengguna menjadi Skill pribadi baru atau yang diperbarui. Gambar di bawah ini menelusuri contoh Skill melalui seluruh siklus, yang berakhir pada versi revisi.

Siklus Skill pribadi bergerak dari bukti sesi melalui agen peningkatan, pemeriksaan usulan, dan aktivasi. Skill saat ini juga menjadi masukan bagi agen peningkatan; perubahan yang diaktifkan menjadi tersedia untuk sesi mendatang.

Selama eksekusi pembuatan harian, agen peningkatan meninjau sesi terbaru pengguna untuk menentukan perubahan yang layak dilakukan. Sekumpulan sesi terbaru dimuat terlebih dahulu ke dalam kotak pasir, bersama data penggunaan Skill; riwayat sesi pengguna lainnya dapat diambil sesuai kebutuhan. Agen peningkatan juga menerima katalog Skill yang sudah ada. Agen ini tidak memiliki akses ke internet atau konektor lain.

Plugin dan Skill yang dirancang untuk alur kerja peningkatan Skill pribadi memandu proses refleksi, berdasarkan prinsip kami tentang apa yang membuat suatu pembaruan dinilai baik. Agen terlebih dahulu menganalisis trajektori lengkap untuk mengidentifikasi pelajaran konkret di setiap sesi. Kemudian, agen membandingkan pelajaran tersebut dengan instruksi yang ada dan memutuskan apakah akan memperbarui Skill, membuat Skill baru, atau tidak melakukan perubahan. Membuat Skill memerlukan dua kemunculan independen dari perilaku yang dapat digunakan ulang yang sama, sedangkan pembaruan pada Skill yang sudah ada dapat dibenarkan dengan satu kemunculan yang berdasar.

Agen tidak memodifikasi Skill secara langsung. Sebaliknya, agen menghasilkan usulan yang mencatat perubahan yang dimaksud beserta alasan dan bukti pendukungnya. Pembaruan dibatasi pada satu perubahan per Skill per eksekusi. Pemeriksaan deterministik memverifikasi bahwa usulan tersusun dengan benar dan dapat diterapkan pada Skill. Secara terpisah, juri LLM mengaudit sampel usulan, memeriksa apakah bukti mendukung perubahan tersebut dan apakah Skill yang dihasilkan memberikan instruksi yang berguna.

Aktivasi mengubah usulan yang telah diverifikasi menjadi perubahan pada pustaka Skill pengguna, sehingga versi baru dapat dimuat dan digunakan dalam sesi mendatang. Karena harness memuat indeks semua Skill yang tersedia di awal setiap sesi, pustaka Skill yang besar dapat memenuhi jendela konteks dan menyulitkan agen untuk menemukan dan memuat Skill yang relevan. Oleh karena itu, sistem hanya menyimpan Skill yang paling bernilai dan memensiunkan Skill yang tidak diperlukan agar pustaka tetap kecil dan terkurasi. Secara khusus, kami menerapkan batas 10 Skill yang dibuat secara otomatis per pengguna. Saat kapasitas penuh, agen peningkatan masih dapat memperbarui atau menghapus Skill, tetapi untuk menambahkan Skill baru, agen harus memensiunkan Skill yang ada dan menjelaskan mengapa Skill baru tersebut lebih berguna bagi pekerjaan pengguna.

Siklus peningkatan Skill bawaan

Kami juga memperluas kerangka kerja peningkatan Skill berkelanjutan milik Brain ke Skill bawaan. Alih-alih menggunakan memori dan riwayat sesi satu pengguna untuk meningkatkan Skill pribadi pengguna tersebut, siklus bawaan menggunakan bukti dari banyak pengguna untuk meningkatkan Skill yang tersedia bagi setiap pengguna Perplexity. Karena Skill bawaan dapat digunakan oleh siapa saja, standar untuk perubahan sangat tinggi; pembaruan yang secara tidak sengaja memperburuk kinerja dapat memengaruhi ribuan sesi. Agen peningkatan bawaan hanya mengubah versi kandidat Skill. Untuk mencapai versi kanonis Skill, pembaruan ini harus melewati pemutaran ulang berpasangan dan tinjauan manusia internal. Sekali lagi, kami menelusuri seluruh siklus dengan contoh Skill dan bukti pendukung.

Sesi yang gagal menghasilkan akar masalah dan skenario kegagalan yang disisihkan. Agen peningkatan menggunakan akar masalah dan contoh bersih untuk mengusulkan revisi; skenario tersebut tidak pernah diperlihatkan kepadanya. Pemutaran ulang berpasangan membandingkan Skill saat ini dan Skill revisi pada pengujian yang sama, dan kandidat yang berhasil berlanjut ke tinjauan manusia sebelum disetujui dan di-merge.

Siklus peningkatan bawaan menggunakan bukti yang telah disanitasi dari sesi yang memenuhi syarat untuk digunakan dalam pelatihan. Diagnostik dan sinyal kegagalan digunakan untuk memilih bukti yang relevan, bersama sesi kontrol tempat Skill digunakan tanpa memunculkan tanda peringatan apa pun. Pipeline sanitasi menghapus kredensial dan rahasia lainnya, beserta file dan media yang dilampirkan.

Agen pembuat skenario mengubah bukti yang telah disanitasi menjadi skenario kegagalan yang konkret. Agen ini hanya menyimpan konteks yang diperlukan untuk memahami kasus kegagalan dan meningkatkan Skill; bagian sesi lainnya dibangun ulang secara sintetis, sehingga menghasilkan pengujian mandiri untuk proses verifikasi. Skenario harus dapat dijalankan tanpa aplikasi yang terhubung atau proses masuk; jika tugas aslinya bergantung pada konektor, input tersebut diganti dengan file sintetis dalam skenario. Pemeriksaan terpisah memverifikasi bahwa Skill gagal pada skenario yang dihasilkan.

Refleksi berlangsung melalui proses revisi mingguan yang mengubah kegagalan yang diamati menjadi perbaikan. Proses ini mencari kegagalan Skill yang berulang di beberapa sesi, sehingga satu sesi yang buruk tidak memicu pengeditan. Setiap kegagalan berulang mendapatkan eksekusi agen peningkatan tersendiri. Agen menerima deskripsi akar masalah, beserta catatan yang telah disanitasi dari sesi yang berhasil. Agen menggunakan bukti ini untuk menulis revisi kandidat Skill. Agen tidak menerima skenario kegagalan lengkap, karena skenario tersebut digunakan dalam evaluasi.

Proses pemutaran ulang terpisah menggunakan skenario yang dihasilkan untuk membandingkan versi asli dan versi revisi Skill. Juri LLM mengevaluasi jawaban dan trajektori agen terhadap rubrik setiap skenario. Agar usulan lolos, setiap skenario pengujian harus lolos dengan Skill revisi, dan setidaknya satu harus gagal dengan Skill asli. Skenario yang dibangun dari sesi kontrol juga diputar ulang untuk memastikan tidak ada yang berhenti berfungsi. Untuk skenario kegagalan, juri juga memeriksa bahwa kegagalan spesifik tersebut memang terjadi, alih-alih menganggap tugas yang tidak berhasil sebagai bukti masalah yang sama.

Alur kerja ini mengemas perubahan kandidat dan hasil evaluasi ke dalam pull request untuk tinjauan manusia internal. Perubahan hanya berlaku jika seorang engineer menyetujui PR tersebut.

Evaluasi

Peningkatan Skill otomatis telah secara signifikan meningkatkan pembuatan dan penggunaan Skill. Brain menulis lebih dari 80.000 Skill pribadi untuk lebih dari 20.000 pengguna antara 1 Agustus dan 14 November. Selain itu, lebih dari 100.000 pembaruan otomatis diterapkan pada lebih dari 30.000 Skill pribadi yang sudah ada antara 4 September dan 14 November.

Skill ini mencakup beragam domain dan tugas, mulai dari memverifikasi perangkat lunak, merekonsiliasi penggajian, hingga mendesain gambar. Kami mengategorikan Skill yang dibuat Brain berdasarkan alur kerja yang dijelaskannya. Bahkan domain terbesar, rekayasa perangkat lunak, hanya mencakup 11% Skill; diikuti oleh riset dan ringkasan (10,1%), penjualan dan operasional (9,9%), serta keuangan dan investasi (9,9%).

Dari 64.230 Skill pribadi yang dibuat secara otomatis dari 1 Agustus hingga 4 November, rekayasa perangkat lunak mencakup porsi terbesar (11,0%), diikuti oleh penelitian dan ringkasan (10,1%). Sepuluh domain yang ditampilkan mencakup 80,3% dari seluruh Skill dalam sampel.

Kami melakukan uji acak selama delapan minggu pada lalu lintas produksi, membandingkan pengguna yang fitur peningkatan Skill pribadi otomatisnya diaktifkan dengan kelompok kontrol yang fiturnya dinonaktifkan. 72,9% orang dengan peningkatan Skill aktif mendapatkan setidaknya satu Skill pribadi baru, sementara hanya 6,5% orang tanpa fitur tersebut yang menambahkan Skill baru secara manual. Lebih dari separuh kelompok perlakuan (53%) memiliki Skill pribadi yang dimuat dalam percakapan yang mereka mulai, dibandingkan 13% pada kelompok kontrol; giliran percakapan mereka memuat Skill pribadi sekitar 3,6 kali lebih sering. Di antara pelanggan yang mendapatkan Skill yang ditulis Brain, 63% menggunakan Skill semacam itu lagi dalam percakapan berikutnya dalam waktu empat minggu.

Dalam uji produksi teracak selama delapan minggu, 72,9% pengguna dengan peningkatan skill otomatis yang diaktifkan mendapatkan setidaknya satu skill pribadi baru, dibandingkan dengan 6,5% pada kelompok kontrol. Skill pribadi dimuat dalam percakapan yang dimulai pengguna pada 53% kelompok yang diaktifkan dan 13% kelompok kontrol.

Evaluasi kami bertujuan untuk menentukan bagaimana Skill baru dan yang diperbarui ini memengaruhi pelaksanaan tugas dan kinerja secara keseluruhan.

Hasil dari eksperimen acak yang sama menunjukkan penurunan kegagalan panggilan alat dan ketidakpuasan pengguna. Bagi pengguna dengan peningkatan Skill otomatis, tingkat kegagalan panggilan alat turun 11% di seluruh aktivitas Computer. Jika eksekusi latar belakang milik sistem itu sendiri dikecualikan, panggilan alat tetap gagal sekitar 7% lebih jarang, yang menunjukkan bahwa keandalan meningkat pada pekerjaan pengguna. Ketidakpuasan pengguna, yang diukur sebagai jumlah utas dengan tingkat ketidakpuasan sedang/tinggi per pengguna, turun 7,6%. Kami tidak melihat perubahan yang terukur pada biaya atau waktu respons. Pengujian awal ini menunjukkan hasil yang menjanjikan, dan kami memperkirakan peningkatannya akan bertambah seiring waktu saat kami menyempurnakan sistem dan meluncurkan Skill yang dapat meningkatkan diri sendiri ke lebih banyak pengguna.

Eksperimen offline juga mencatat peningkatan dalam lingkungan yang lebih sempit. Dalam eksperimen SkillLearnBench, Computer menggunakan trajektori tugas sebelumnya untuk membuat satu Skill pribadi untuk masing-masing dari sembilan kelompok tugas. Di 16 instans evaluasi berpasangan, keberhasilan tugas meningkat dari 43,8% tanpa Skill menjadi 62,5% dengan Skill yang dihasilkan, yang menjadi bukti bahwa Skill yang diturunkan dari pengalaman sebelumnya dapat meningkatkan kinerja pada tugas yang berulang. Dalam satu studi kasus Skill bawaan, pengeditan pada Skill e-commerce menghasilkan peningkatan kualitas 6% dengan biaya 32% lebih rendah, dengan kualitas yang diukur oleh juri otomatis.

Kesimpulan

Skill yang dapat meningkatkan diri sendiri memberi Computer cara lain untuk belajar dari pekerjaan yang dilakukannya. Fitur ini memperluas Brain untuk membuat dan memelihara memori prosedural, sehingga meningkatkan kinerja pada alur kerja yang kompleks. Peningkatan Skill otomatis telah meningkatkan penggunaan Skill, mengurangi tingkat kegagalan alat, dan menurunkan ketidakpuasan pengguna.

Peningkatan Skill pribadi kini tersedia untuk semua pelanggan Max di AS. Fitur ini aktif secara default untuk pengguna yang memenuhi syarat, tetapi dapat dinonaktifkan. Tab Plugin menampilkan Skill yang tersedia, mengidentifikasi Skill yang ditulis oleh Brain, dan memungkinkan pengguna memilih Skill mana yang diaktifkan.

Selanjutnya, kami akan memperluas peningkatan ke lebih banyak kelas Skill, termasuk Skill yang ditulis pengguna, Skill yang dibagikan dalam proyek, dan Skill organisasi. Kami akan terus menyempurnakan pipeline peningkatan dan evaluasinya agar revisi menghasilkan prosedur yang lebih andal dan hasil yang lebih baik.

Sitasi

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}