Skill che migliorano da sole

In che modo Perplexity Brain apprende dall'esperienza le procedure ricorrenti e le mantiene aggiornate.

AutoriPerplexity Engineering

Introduzione

Gli utenti hanno preferenze e requisiti specifici dei propri flussi di lavoro che un modello generico non può conoscere in anticipo. Un agente deve apprendere questi dettagli per adattare il proprio lavoro all’utente, invece di richiedere all’utente di spiegare la stessa procedura o di apportare le stesse correzioni in ogni sessione. L’apprendimento continuo lo rende possibile: l’esperienza maturata con le attività completate dovrebbe orientare il modo in cui l’agente affronta il lavoro futuro.

Brain, il sistema di auto-miglioramento personalizzato di Computer, consente di apprendere dall’esperienza. Gestisce già una wiki della conoscenza strutturata che collega le informazioni sull’utente e sul suo lavoro alle evidenze che le supportano. Gli agenti in background aggiornano la wiki man mano che si accumulano nuove informazioni, così il sistema di memoria migliora nel tempo.

Le Skill per agenti offrono un altro modo per guidare il comportamento degli agenti senza modificare il modello sottostante. Le Skill sono istruzioni riutilizzabili che guidano un agente nello svolgimento di attività specifiche. Raccolgono i requisiti e le risorse di supporto per flussi di lavoro ricorrenti che altrimenti l’agente dovrebbe dedurre dalla memoria o ricevere ogni volta dall’utente, migliorando le prestazioni nelle attività fuori distribuzione. Possono anche includere script per procedure ripetitive o elaborazioni che possono essere espresse in modo affidabile nel codice, così l’agente può semplicemente eseguire tali script quando sono pertinenti. L’harness rende individuabili le Skill disponibili e ne carica le istruzioni nel contesto quando l’agente le richiede. Gli utenti possono anche specificare direttamente nel prompt quali Skill usare.

Stiamo estendendo Brain affinché crei e aggiorni automaticamente le Skill per agenti. Brain si basa sulla memoria e sulla cronologia delle sessioni di un utente per scrivere e perfezionare Skill personali che descrivono le procedure dei suoi flussi di lavoro. Applichiamo un approccio simile per aggiornare le Skill integrate, disponibili per tutti gli utenti di Perplexity, sulla base di schemi aggregati rilevati in tutte le sessioni.

Un agente combina capacità generali con un contesto dell'attività selezionato e con l'esperienza personale. Il modello sottostante usa il contesto di lavoro per scegliere il passo successivo, e tale contesto cambia man mano che l'attività procede. Brain fornisce memoria e skill personali, poi usa le evidenze di sessione selezionate per gli aggiornamenti successivi, nel rispetto di controlli e autorizzazioni. La personalizzazione modifica il contesto e le istruzioni, non i pesi del modello. Le fonti vengono selezionate secondo necessità, non caricate tutte insieme; questa vista concettuale semplifica i meccanismi di aggiornamento.

Descriviamo innanzitutto il nostro motore di auto-miglioramento condiviso da tutti i tipi di Skill e spieghiamo come funziona per le Skill personali e integrate.

Motore di auto-miglioramento condiviso

Anche una Skill utile deve cambiare man mano che emergono nuove preferenze o che l’esperienza rivela lacune nelle sue istruzioni. Brain ha il compito di scoprire come dovrebbe cambiare il comportamento dell’agente la prossima volta che Computer affronta un’attività simile e di determinare come dovrebbe cambiare la Skill per raggiungere meglio il risultato desiderato.

Questo processo di miglioramento forma un ciclo in quattro fasi:

  1. Evidenze. Brain trova le sessioni passate in cui è stata usata la Skill, in particolare quelle in cui non ha dato i risultati sperati.
  2. Riflessione. Un agente di miglioramento studia queste evidenze e propone aggiornamenti alla Skill.
  3. Verifica. Alcuni controlli confermano che la proposta è ben formata e che probabilmente migliorerà i risultati.
  4. Attivazione. La modifica verificata viene applicata. Le sessioni future usano la nuova versione, fornendo evidenze per il ciclo successivo.
Brain seleziona le sessioni passate in cui è stata usata la skill, in particolare quelle in cui non ha dato i risultati sperati. Un agente di miglioramento propone un aggiornamento e i controlli valutano se è ben formato e se è probabile che migliori i risultati. Una volta applicata, la nuova versione viene usata nelle sessioni future, fornendo evidenze per il ciclo successivo.

Questo ciclo si basa su molte funzionalità esistenti sviluppate per Computer e Brain. Qui descriviamo i meccanismi condivisi che rendono possibili la raccolta delle evidenze e la riflessione. Le procedure di verifica e attivazione dipendono dal fatto che una modifica raggiunga un solo utente o tutti gli utenti di Perplexity, quindi le trattiamo nelle sezioni seguenti, dedicate ai cicli di miglioramento delle Skill personali e integrate.

Evidenze dalle sessioni passate

La riflessione richiede di trovare le sessioni in cui è stata usata una Skill, in particolare quelle con margini di miglioramento. L’harness di Computer registra i segnali che lo rendono possibile. Quando l’agente carica una Skill, l’harness registra un evento di caricamento che collega la Skill alla sessione. Quando l’agente rileva frustrazione dell’utente, comportamenti anomali o evidenti inefficienze, redige una breve diagnosi strutturata e l’harness vi allega le Skill in uso. Questi segnali sono particolarmente utili per le Skill integrate, per le quali qualsiasi sessione potrebbe essere rilevante, quindi il sistema ha bisogno di un modo per restringere rapidamente l’insieme delle evidenze.

Gli agenti traggono vantaggio dall’accesso al registro completo, invece di formulare un giudizio basato sul risultato o su un breve riepilogo. Computer archivia le sessioni passate utilizzando rappresentazioni delle traiettorie indipendenti dal provider, che acquisiscono messaggi, chiamate agli strumenti, ragionamento e risultati. Abbiamo inoltre sviluppato una suite di strumenti da riga di comando che gli agenti possono usare per decodificare queste traiettorie e ricostruire le sessioni complete. Ciò consente all’agente di riflessione di esaminare specifici caricamenti di Skill e chiamate agli strumenti, individuando i punti esatti in cui si sono verificati problemi o in cui sarebbe possibile apportare miglioramenti.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Esempio di utilizzo degli strumenti interni di Computer per l'ispezione delle traiettorie. Percorsi e identificatori sono semplificati a scopo illustrativo; i nomi dei comandi e gli argomenti rispecchiano l'implementazione.

Riflessione con agenti in background

Brain utilizza un team di agenti in background per ottimizzare continuamente l’esperienza di ciascun utente. Ad esempio, gli agenti Dream esaminano l’esperienza accumulata per aggiornare la wiki della conoscenza. Allo stesso modo, il miglioramento delle Skill è affidato ad agenti di miglioramento che riflettono sulle evidenze di utilizzo delle Skill per proporre aggiornamenti.

Ogni agente lavora nella propria sandbox con un modello di frontiera, le evidenze pertinenti e la libreria di Skill attuale, guidato da plugin e Skill. Decide quali sessioni leggere, trae una lezione concreta da ciascuna e raggruppa le lezioni che richiedono lo stesso comportamento riutilizzabile. Poiché la correzione di un errore può contraddire un’altra istruzione o aggiungere lavoro altrove, legge l’intera Skill prima di proporre una modifica e si astiene quando le evidenze non la giustificano.

Gli agenti di miglioramento vengono eseguiti sullo stesso harness di Computer. Abbiamo reso l’harness modulare, in modo che una nuova applicazione agentica possa riutilizzarne i meccanismi per il ragionamento, l’uso degli strumenti e la gestione del contesto, definendo al tempo stesso istruzioni e funzionalità proprie tramite plugin. Una flotta dedicata di worker in background ci consente di scalare questa elaborazione indipendentemente dalle attività in primo piano.

L'agente interattivo e l'agente di miglioramento in background vengono eseguiti sullo stesso harness di Computer. L'agente di miglioramento usa le evidenze di sessione e le skill attuali per proporre una modifica o astenersi. Una proposta deve superare controlli specifici per il tipo di skill prima che una nuova versione diventi disponibile per le sessioni future.

Il ciclo di miglioramento delle Skill personali

Descriviamo innanzitutto come il motore di auto-miglioramento condiviso viene applicato al ciclo di miglioramento personale, che trasforma la cronologia delle attività di un utente in Skill personali nuove o aggiornate. La figura seguente segue una Skill di esempio lungo l’intero ciclo, fino alla versione rivista.

Il ciclo delle Skill personali va dalle evidenze delle sessioni a un agente di miglioramento, ai controlli delle proposte e all’attivazione. Anche le Skill attuali forniscono informazioni all’agente di miglioramento; le modifiche attivate diventano disponibili per le sessioni future.

Durante un’esecuzione di generazione giornaliera, l’agente di miglioramento esamina le sessioni recenti dell’utente per stabilire quali modifiche valga la pena apportare. Un insieme di sessioni recenti viene precaricato nella sandbox insieme ai dati di utilizzo delle Skill; il resto della cronologia delle sessioni dell’utente può essere recuperato secondo necessità. L’agente di miglioramento riceve anche il catalogo delle Skill esistenti. Non ha accesso a internet né ad altri connettori.

I plugin e le Skill progettati per il flusso di lavoro di miglioramento delle Skill personali guidano il processo di riflessione, basandosi sui nostri principi su cosa rende valido un aggiornamento. L’agente analizza prima le traiettorie complete per individuare una lezione concreta in ogni sessione. Poi confronta le lezioni con le istruzioni esistenti e decide se aggiornare una Skill, crearne una nuova o non apportare modifiche. Per creare una Skill servono due occorrenze indipendenti dello stesso comportamento riutilizzabile, mentre l’aggiornamento di una Skill esistente può essere giustificato da una singola occorrenza ben fondata.

L’agente non modifica direttamente la Skill. Produce invece una proposta, registrando le modifiche previste insieme al ragionamento e alle evidenze a supporto. Gli aggiornamenti sono limitati a una modifica per Skill per esecuzione. Controlli deterministici verificano che le proposte siano ben formate e applicabili alla Skill. Separatamente, un giudice LLM esamina un campione di proposte, verificando se le evidenze giustificano la modifica e se la Skill risultante fornisce istruzioni utili.

L’attivazione trasforma una proposta verificata in una modifica alla libreria di Skill dell’utente, così che la nuova versione possa essere caricata e usata nelle sessioni future. Poiché all’inizio di ogni sessione l’harness carica un indice di tutte le Skill disponibili, una libreria di Skill molto ampia può intasare la finestra di contesto e rendere più difficile per l’agente trovare e caricare le Skill pertinenti. Per questo il sistema conserva solo le Skill più preziose, ritirando quelle non necessarie, così da mantenere una libreria ridotta e curata. Nello specifico, applichiamo un limite di 10 Skill create automaticamente per utente. Una volta raggiunto il limite, l’agente di miglioramento può comunque aggiornare o rimuovere Skill, ma per aggiungerne una nuova deve ritirare una Skill esistente e giustificare perché la nuova sia più utile per il lavoro dell’utente.

Il ciclo di miglioramento delle Skill integrate

Estendiamo inoltre alle Skill integrate il framework di miglioramento continuo delle Skill di Brain. Invece di usare la memoria e la cronologia delle sessioni di un singolo utente per migliorarne le Skill personali, il ciclo integrato usa le evidenze provenienti da molti utenti per migliorare le Skill disponibili per tutti gli utenti di Perplexity. Poiché le Skill integrate possono essere usate da chiunque, l’asticella per le modifiche è alta: aggiornamenti che peggiorano involontariamente le prestazioni possono influire su migliaia di sessioni. L’agente di miglioramento integrato modifica solo le versioni candidate delle Skill. Per arrivare alla versione canonica della Skill, questi aggiornamenti devono superare il replay accoppiato e la revisione umana interna. Ancora una volta, seguiamo l’intero ciclo con una Skill di esempio e le relative evidenze.

Le sessioni non riuscite producono una causa principale e scenari di errore tenuti da parte. L’agente di miglioramento usa la causa principale e gli esempi puliti per proporre una versione rivista; gli scenari non gli vengono mai mostrati. Il replay accoppiato confronta la Skill attuale e quella rivista sugli stessi test e le versioni candidate che hanno successo passano alla revisione umana prima dell’approvazione e del merge.

Il ciclo di miglioramento integrato utilizza evidenze sanificate provenienti da sessioni idonee all’uso per l’addestramento. Diagnosi e segnali di errore servono a selezionare le evidenze pertinenti, insieme a sessioni di controllo in cui la Skill è stata usata senza generare alcuna segnalazione. Una pipeline di sanificazione rimuove credenziali e altri segreti, oltre a file e contenuti multimediali allegati.

Un agente di generazione degli scenari trasforma le evidenze sanificate in scenari di errore concreti. Conserva solo il contesto necessario per comprendere il caso di errore e migliorare la Skill; il resto della sessione viene ricostruito in modo sintetico, creando un test autonomo per il processo di verifica. Gli scenari devono poter essere eseguiti senza app connesse né accesso; se l’attività originale dipendeva da un connettore, quell’input viene sostituito da file sintetici nello scenario. Un controllo separato verifica che la Skill fallisca nello scenario generato.

La riflessione avviene tramite un job di revisione settimanale che trasforma gli errori osservati in correzioni. Il job cerca errori delle Skill che si ripetono in più sessioni, in modo che una singola sessione negativa non determini una modifica. Per ogni errore ricorrente viene eseguito un agente di miglioramento separato. L’agente riceve una descrizione della causa principale, insieme a registri sanificati di sessioni riuscite. Usa queste evidenze per scrivere una versione rivista candidata della Skill. Non riceve gli scenari di errore completi, poiché vengono usati nella valutazione.

Un job di replay separato usa gli scenari generati per confrontare la versione originale e quella rivista della Skill. Un giudice LLM valuta le risposte e le traiettorie di un agente rispetto ai criteri di valutazione di ciascuno scenario. Perché una proposta venga accettata, ogni scenario di test deve essere superato con la Skill rivista e almeno uno deve fallire con quella originale. Vengono rieseguiti anche gli scenari costruiti a partire dalle sessioni di controllo, per confermare che nulla abbia smesso di funzionare. Per gli scenari di errore, il giudice verifica anche che si sia verificato proprio l’errore specifico, invece di considerare un’attività non riuscita come prova dello stesso problema.

Il flusso di lavoro raccoglie le modifiche candidate e i risultati della valutazione in una pull request per la revisione umana interna. Le modifiche entrano in vigore solo se un ingegnere approva la PR.

Valutazioni

Il miglioramento automatico delle Skill ha aumentato in modo significativo la creazione e l’utilizzo delle Skill. Tra il 1° agosto e il 14 novembre, Brain ha scritto oltre 80.000 Skill personali per oltre 20.000 utenti. Inoltre, tra il 4 settembre e il 14 novembre sono stati applicati più di 100.000 aggiornamenti automatici a oltre 30.000 Skill personali esistenti.

Queste Skill coprono un’ampia gamma di ambiti e attività, dalla verifica del software alla riconciliazione delle buste paga fino alla creazione di grafici. Abbiamo classificato le Skill generate da Brain in base ai flussi di lavoro che descrivono. Anche l’ambito più ampio, l’ingegneria del software, rappresentava solo l’11% delle Skill; è seguito da ricerca e briefing (10,1%), vendite e operazioni (9,9%) e finanza e investimenti (9,9%).

Tra le 64.230 Skill personali create automaticamente dal 1° agosto al 4 novembre, l’ingegneria del software rappresentava la quota maggiore (11,0%), seguita da ricerca e briefing (10,1%). I dieci ambiti mostrati rappresentano l’80,3% di tutte le Skill del campione.

Abbiamo condotto un test randomizzato di otto settimane sul traffico di produzione, confrontando gli utenti con il miglioramento automatico delle Skill personali attivato con un gruppo di controllo in cui era disattivato. Il 72,9% delle persone con il miglioramento delle Skill attivato ha ottenuto almeno una nuova Skill personale, mentre solo il 6,5% delle persone senza questa funzionalità ha aggiunto manualmente una nuova Skill. Più della metà del gruppo di trattamento (53%) ha avuto una Skill personale caricata in una conversazione avviata da loro, rispetto al 13% del gruppo di controllo; i loro turni hanno caricato una Skill personale circa 3,6 volte più spesso. Tra i clienti che hanno ricevuto una Skill scritta da Brain, il 63% ne ha usata di nuovo una in una conversazione successiva entro quattro settimane.

In un test randomizzato in produzione della durata di otto settimane, il 72,9% degli utenti con il miglioramento automatico delle skill attivato ha ottenuto almeno una nuova skill personale, rispetto al 6,5% del gruppo di controllo. Una skill personale è stata caricata in una conversazione avviata dall'utente per il 53% del gruppo con la funzione attivata e per il 13% del gruppo di controllo.

Le nostre valutazioni mirano a determinare l’impatto di queste Skill nuove e aggiornate sull’esecuzione delle attività e sulle prestazioni complessive.

I risultati dello stesso esperimento randomizzato mostrano una diminuzione degli errori nelle chiamate agli strumenti e dell’insoddisfazione degli utenti. Per gli utenti con il miglioramento automatico delle Skill, il tasso di errore delle chiamate agli strumenti è diminuito dell’11% su tutta l’attività di Computer. Escludendo le esecuzioni in background del sistema stesso, le chiamate agli strumenti fallivano comunque circa il 7% in meno, il che suggerisce che l’affidabilità è migliorata nel lavoro dell’utente. L’insoddisfazione degli utenti, misurata come numero di thread con insoddisfazione media/alta per utente, è diminuita del 7,6%. Non abbiamo osservato variazioni misurabili nei costi o nei tempi di risposta. Questi primi test mostrano risultati promettenti e prevediamo che i miglioramenti aumenteranno nel tempo, man mano che perfezioneremo il sistema ed estenderemo le Skill ad auto-miglioramento a più utenti.

Anche gli esperimenti offline hanno registrato miglioramenti in contesti più circoscritti. In un esperimento con SkillLearnBench, Computer ha utilizzato le traiettorie di attività precedenti per creare una Skill personale per ciascuna di nove famiglie di attività. Su 16 istanze di valutazione accoppiate, il tasso di successo delle attività è passato dal 43,8% senza Skill al 62,5% con le Skill generate, a dimostrazione del fatto che le Skill derivate dall’esperienza passata possono migliorare le prestazioni nelle attività ripetute. In un caso di studio su una Skill integrata, le modifiche a una Skill per l’e-commerce hanno portato a un aumento della qualità del 6% con un costo inferiore del 32%, con la qualità misurata da un giudice automatico.

Conclusione

Le Skill ad auto-miglioramento offrono a Computer un ulteriore modo per imparare dal lavoro che svolge. Estendono Brain per creare e mantenere una memoria procedurale, migliorando le prestazioni nei flussi di lavoro complessi. Il miglioramento automatico delle Skill ha già aumentato l’utilizzo delle Skill, ridotto i tassi di errore degli strumenti e diminuito l’insoddisfazione degli utenti.

Il miglioramento delle Skill personali è ora disponibile per tutti gli abbonati Max negli Stati Uniti. È attivo per impostazione predefinita per gli utenti idonei, ma può essere disattivato. La scheda plugin mostra le Skill disponibili, identifica quelle create da Brain e consente agli utenti di scegliere quali Skill attivare.

In seguito estenderemo il miglioramento a più classi di Skill, tra cui le Skill create dagli utenti, quelle condivise all’interno dei progetti e le Skill dell’organizzazione. Continueremo a perfezionare la pipeline di miglioramento e le relative valutazioni, affinché le versioni riviste portino a procedure più affidabili e a risultati migliori.

Citazione

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}