Skills que se aprimoram sozinhas

Como o Perplexity Brain aprende procedimentos recorrentes com a experiência e os mantém atualizados.

AutoresPerplexity Engineering

Introdução

Os usuários têm preferências e requisitos específicos de seus fluxos de trabalho que um modelo de uso geral não tem como conhecer de antemão. Um agente precisa aprender esses detalhes para adaptar seu trabalho ao usuário, em vez de exigir que ele explique o mesmo procedimento ou faça as mesmas correções em todas as sessões. O aprendizado contínuo torna isso possível: a experiência de tarefas concluídas deve orientar a forma como o agente aborda trabalhos futuros.

O Brain, sistema de autoaperfeiçoamento personalizado do Computer, viabiliza o aprendizado por meio da experiência. Ele já mantém uma wiki de conhecimento estruturada que conecta informações sobre o usuário e seu trabalho às evidências que as sustentam. Agentes em segundo plano atualizam a wiki à medida que novas informações se acumulam, de modo que o sistema de memória melhora com o tempo.

As skills de agentes oferecem outra forma de orientar o comportamento do agente sem alterar o modelo subjacente. Skills são instruções reutilizáveis que guiam um agente em tarefas específicas. Elas reúnem requisitos e recursos de apoio para fluxos de trabalho recorrentes que, de outra forma, o agente precisaria inferir da memória ou receber do usuário todas as vezes, melhorando o desempenho em tarefas fora da distribuição. Elas também podem incluir scripts para procedimentos repetitivos ou processamentos que podem ser expressos de forma confiável em código, para que o agente simplesmente execute esses scripts quando forem aplicáveis. O harness torna as skills disponíveis detectáveis e carrega as instruções delas no contexto quando o agente as solicita. Os usuários também podem especificar diretamente no prompt quais skills usar.

Estamos estendendo o Brain para criar e atualizar skills de agentes automaticamente. O Brain se baseia na memória e no histórico de sessões de um usuário para escrever e refinar skills pessoais que capturam procedimentos para os fluxos de trabalho desse usuário. Aplicamos uma abordagem semelhante para atualizar as skills integradas, disponíveis para todos os usuários do Perplexity, com base em padrões agregados de todas as sessões.

Um agente combina capacidade geral com contexto de tarefa selecionado e experiência pessoal. O modelo subjacente usa o contexto de trabalho para escolher o que vem a seguir, e esse contexto muda à medida que a tarefa avança. O Brain fornece memória e Skills pessoais e, em seguida, usa evidências selecionadas das sessões para atualizações posteriores, sujeitas a verificações e autorização. A personalização altera o contexto e as instruções, não os pesos do modelo. As fontes são selecionadas conforme necessário, e não carregadas todas de uma vez; esta visão conceitual simplifica os mecanismos de atualização.

Primeiro, descrevemos nosso mecanismo de autoaperfeiçoamento compartilhado por todos os tipos de skill e explicamos como ele funciona para skills pessoais e integradas.

Mecanismo compartilhado de autoaperfeiçoamento

Mesmo uma skill útil precisa mudar à medida que surgem novas preferências ou que a experiência revela lacunas em suas instruções. O Brain é responsável por descobrir como o comportamento do agente deve mudar na próxima vez que o Computer encontrar uma tarefa semelhante e por determinar como a skill deve mudar para alcançar melhor o resultado desejado.

Esse processo de melhoria forma um ciclo com quatro etapas:

  1. Evidências. O Brain encontra sessões anteriores em que a skill foi usada, especialmente aquelas em que ela deixou a desejar.
  2. Reflexão. Um agente de melhoria estuda essas evidências e propõe atualizações para a skill.
  3. Verificação. Checagens confirmam que a proposta está bem estruturada e que provavelmente melhorará os resultados.
  4. Ativação. A alteração verificada é aplicada. Sessões futuras usam a nova versão, fornecendo evidências para a próxima rodada.
O Brain seleciona sessões anteriores em que a Skill foi usada, especialmente aquelas em que ela deixou a desejar. Um agente de melhoria propõe uma atualização, e as verificações avaliam se ela está bem formada e se tende a melhorar os resultados. Depois de aplicada, a nova versão é usada em sessões futuras, fornecendo evidências para a próxima rodada.

Esse ciclo se baseia em muitos recursos existentes criados para o Computer e o Brain. Aqui, descrevemos o mecanismo compartilhado que viabiliza as etapas de evidências e reflexão. Os procedimentos de verificação e ativação dependem de a alteração atingir um único usuário ou todos os usuários do Perplexity, por isso os abordamos nas seções seguintes, sobre os ciclos de melhoria de skills pessoais e integradas.

Evidências de sessões anteriores

A reflexão exige encontrar sessões em que uma skill foi usada, especialmente aquelas com espaço para melhoria. O harness do Computer registra sinais que tornam isso possível. Quando o agente carrega uma skill, o harness registra um evento de carregamento de skill que vincula a skill à sessão. Quando o agente percebe frustração do usuário, comportamento com defeito ou ineficiência evidente, ele registra um diagnóstico curto e estruturado, e o harness anexa as skills em uso. Esses sinais são especialmente úteis para skills integradas, em que qualquer sessão pode ser relevante, de modo que o sistema precisa de uma forma de restringir rapidamente o conjunto de evidências.

Os agentes se beneficiam de ter acesso ao registro completo, em vez de fazer um julgamento com base no resultado ou em um breve resumo. O Computer armazena sessões anteriores usando representações de trajetória independentes de provedor, que capturam mensagens, chamadas de ferramentas, raciocínio e resultados. Também criamos um conjunto de ferramentas de linha de comando que os agentes podem usar para decodificar essas trajetórias e reconstruir sessões completas. Isso permite que o agente de reflexão inspecione carregamentos específicos de skills e chamadas de ferramentas, identificando os pontos exatos em que ocorreram problemas ou em que melhorias poderiam ser feitas.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Exemplo de uso das ferramentas internas de inspeção de trajetórias do Computer. Caminhos e identificadores foram simplificados para fins ilustrativos; os nomes e argumentos dos comandos seguem a implementação.

Reflexão com agentes em segundo plano

O Brain usa uma equipe de agentes em segundo plano para otimizar continuamente a experiência de cada usuário. Por exemplo, os agentes Dream revisam a experiência acumulada para atualizar a wiki de conhecimento. Da mesma forma, a melhoria de skills é impulsionada por agentes de melhoria que refletem sobre as evidências de uso das skills para propor atualizações.

Cada agente trabalha em seu próprio sandbox com um modelo de fronteira, as evidências relevantes e a biblioteca atual de skills, orientado por plugins e skills. Ele decide quais sessões ler, extrai uma lição concreta de cada uma e agrupa as lições que pedem o mesmo comportamento reutilizável. Como a correção de uma falha pode contradizer outra instrução ou gerar trabalho em outro lugar, ele lê a skill inteira antes de propor uma edição e se abstém quando as evidências não a sustentam.

Os agentes de melhoria são executados no mesmo harness que o Computer. Tornamos o harness modular para que um novo aplicativo de agente possa reutilizar seus mecanismos de raciocínio, uso de ferramentas e gerenciamento de contexto, definindo ao mesmo tempo suas próprias instruções e recursos por meio de plugins. Uma frota dedicada de workers em segundo plano nos permite escalar esse processamento independentemente das tarefas em primeiro plano.

O agente interativo e o agente de melhoria em segundo plano são executados no mesmo harness do Computer. O agente de melhoria usa as evidências das sessões e as Skills atuais para propor uma alteração ou se abster. Uma proposta precisa passar por verificações específicas do tipo de Skill antes que uma nova versão fique disponível para sessões futuras.

O ciclo de melhoria de skills pessoais

Primeiro, descrevemos como o mecanismo compartilhado de autoaperfeiçoamento é aplicado ao ciclo de melhoria pessoal, que transforma o histórico de tarefas de um usuário em skills pessoais novas ou atualizadas. A figura abaixo acompanha uma skill de exemplo ao longo de todo o ciclo, terminando na versão revisada.

O ciclo de skills pessoais vai das evidências de sessão para um agente de melhoria, verificações da proposta e ativação. As skills atuais também alimentam o agente de melhoria; as alterações ativadas ficam disponíveis para sessões futuras.

Durante uma execução diária de geração, o agente de melhoria analisa as sessões recentes do usuário para determinar quais alterações valem a pena. Um conjunto de sessões recentes é pré-carregado no sandbox, junto com dados de uso das skills; o restante do histórico de sessões do usuário pode ser recuperado conforme necessário. O agente de melhoria também recebe o catálogo de skills existentes. Ele não tem acesso à internet nem a outros conectores.

Plugins e skills criados para o fluxo de trabalho de melhoria de skills pessoais orientam o processo de reflexão, com base em nossos princípios sobre o que torna uma atualização boa. Primeiro, o agente analisa trajetórias completas para identificar uma lição concreta em cada sessão. Em seguida, compara as lições com as instruções existentes e decide se deve atualizar uma skill, criar uma nova ou não fazer nenhuma alteração. Criar uma skill exige duas ocorrências independentes do mesmo comportamento reutilizável, enquanto a atualização de uma skill existente pode ser justificada com uma única ocorrência fundamentada.

O agente não modifica a skill diretamente. Em vez disso, ele produz uma proposta, registrando as alterações pretendidas, bem como o raciocínio e as evidências que as sustentam. As atualizações se limitam a uma alteração por skill por execução. Verificações determinísticas confirmam que as propostas estão bem formadas e podem ser aplicadas à skill. Separadamente, um juiz LLM audita uma amostra das propostas, verificando se as evidências sustentam a alteração e se a skill resultante oferece instruções úteis.

A ativação transforma uma proposta verificada em uma alteração na biblioteca de skills do usuário, para que a nova versão possa ser carregada e usada em sessões futuras. Como o harness carrega um índice de todas as skills disponíveis no início de cada sessão, uma biblioteca grande de skills pode sobrecarregar a janela de contexto e dificultar que o agente encontre e carregue as skills relevantes. Por isso, o sistema mantém apenas as skills mais valiosas, aposentando as que não são necessárias para manter uma biblioteca pequena e selecionada. Especificamente, aplicamos um limite de 10 skills criadas automaticamente por usuário. Ao atingir esse limite, o agente de melhoria ainda pode atualizar ou remover skills, mas, para adicionar uma nova, precisa aposentar uma skill existente e justificar por que a nova é mais útil para o trabalho do usuário.

O ciclo de melhoria de skills integradas

Também estendemos às skills integradas a estrutura de melhoria contínua de skills do Brain. Em vez de usar a memória e o histórico de sessões de um único usuário para melhorar as skills pessoais desse usuário, o ciclo de skills integradas usa evidências de muitos usuários para melhorar as skills disponíveis para todos os usuários do Perplexity. Como as skills integradas podem ser usadas por qualquer pessoa, o nível de exigência para alterações é alto; atualizações que pioram o desempenho inadvertidamente podem afetar milhares de sessões. O agente de melhoria de skills integradas altera apenas versões candidatas das skills. Para chegar à versão canônica da skill, essas atualizações precisam passar por reprodução pareada e revisão humana interna. Mais uma vez, acompanhamos o ciclo completo com uma skill de exemplo e as evidências correspondentes.

Sessões com falha geram uma causa raiz e cenários de falha reservados. O agente de melhoria usa a causa raiz e exemplos limpos para propor uma revisão; os cenários nunca são mostrados a ele. A reprodução pareada compara a skill atual e a revisada nos mesmos testes, e as candidatas bem-sucedidas seguem para revisão humana antes da aprovação e da mesclagem.

O ciclo de melhoria de skills integradas usa evidências sanitizadas de sessões elegíveis para uso em treinamento. Diagnósticos e sinais de falha são usados para selecionar as evidências relevantes, junto com sessões de controle em que a skill foi usada sem gerar nenhum alerta. Um pipeline de sanitização remove credenciais e outros segredos, além de arquivos e mídias anexados.

Um agente de geração de cenários transforma evidências sanitizadas em cenários de falha concretos. Ele mantém apenas o contexto necessário para entender o caso de falha e melhorar a skill; o restante da sessão é reconstruído de forma sintética, criando um teste autocontido para o processo de verificação. Os cenários precisam ser executados sem apps conectados nem login; se a tarefa original dependia de um conector, essa entrada é substituída por arquivos sintéticos no cenário. Uma verificação separada confirma que a skill falha no cenário gerado.

A reflexão acontece por meio de um processo semanal de revisão que transforma falhas observadas em correções. Ele busca falhas de skills que se repetem em várias sessões, para que uma única sessão ruim não motive uma edição. Cada falha recorrente recebe uma execução separada do agente de melhoria. O agente recebe uma descrição da causa raiz, junto com registros sanitizados de sessões bem-sucedidas. Ele usa essas evidências para escrever uma revisão candidata da skill. Ele não recebe os cenários de falha completos, pois eles são usados na avaliação.

Um processo de reprodução separado usa os cenários gerados para comparar a versão original e a revisada da skill. Um juiz LLM avalia as respostas e as trajetórias de um agente com base na rubrica de cada cenário. Para que uma proposta seja aprovada, todos os cenários de teste precisam passar com a skill revisada, e pelo menos um precisa falhar com a original. Cenários criados a partir das sessões de controle também são reproduzidos, para confirmar que nada deixou de funcionar. Nos cenários de falha, o juiz também verifica se a falha específica ocorreu, em vez de tratar uma tarefa malsucedida como evidência do mesmo problema.

O fluxo de trabalho empacota as alterações candidatas e os resultados da avaliação em um pull request para revisão humana interna. As alterações só entram em vigor se um engenheiro aprovar o PR.

Avaliações

A melhoria automática de skills aumentou significativamente a criação e o uso de skills. O Brain escreveu mais de 80.000 skills pessoais para mais de 20.000 usuários entre 1º de agosto e 14 de novembro. Além disso, mais de 100.000 atualizações automáticas foram aplicadas a mais de 30.000 skills pessoais existentes entre 4 de setembro e 14 de novembro.

Essas skills abrangem uma ampla variedade de domínios e tarefas, da verificação de software à conciliação de folhas de pagamento e à criação de figuras. Categorizamos as skills geradas pelo Brain com base nos fluxos de trabalho que descrevem. Mesmo o maior domínio, engenharia de software, respondeu por apenas 11% das skills; em seguida vêm pesquisa e briefings (10,1%), vendas e operações (9,9%) e finanças e investimentos (9,9%).

Entre as 64.230 skills pessoais criadas automaticamente de 1º de agosto a 4 de novembro, engenharia de software representou a maior parcela (11,0%), seguida por pesquisa e briefings (10,1%). Os dez domínios exibidos correspondem a 80,3% de todas as skills da amostra.

Realizamos um teste randomizado de oito semanas com tráfego de produção, comparando usuários com a melhoria automática de skills pessoais ativada a um grupo de controle com o recurso desativado. Entre as pessoas com a melhoria de skills ativada, 72,9% receberam pelo menos uma nova skill pessoal, enquanto apenas 6,5% das pessoas sem o recurso adicionaram manualmente uma nova skill. Mais da metade do grupo de tratamento (53%) teve uma skill pessoal carregada em uma conversa iniciada por elas, em comparação com 13% do grupo de controle; os turnos desses usuários carregaram uma skill pessoal com frequência cerca de 3,6 vezes maior. Entre os clientes que receberam uma skill escrita pelo Brain, 63% voltaram a usar uma em uma conversa posterior em até quatro semanas.

Em um teste de produção randomizado de oito semanas, 72,9% dos usuários com a melhoria automática de Skills ativada ganharam pelo menos uma nova Skill pessoal, em comparação com 6,5% do grupo de controle. Uma Skill pessoal foi carregada em uma conversa iniciada pelo usuário para 53% do grupo com o recurso ativado e 13% do grupo de controle.

Nossas avaliações buscam determinar como essas skills novas e atualizadas afetam a execução de tarefas e o desempenho geral.

Os resultados do mesmo experimento randomizado mostram uma queda nas falhas de chamadas de ferramentas e na insatisfação dos usuários. Para usuários com a melhoria automática de skills, a taxa de falha nas chamadas de ferramentas caiu 11% em toda a atividade do Computer. Excluindo as execuções em segundo plano do próprio sistema, as chamadas de ferramentas ainda falharam cerca de 7% menos, o que sugere que a confiabilidade melhorou no trabalho do usuário. A insatisfação dos usuários, medida pelo número de tópicos com insatisfação média ou alta por usuário, caiu 7,6%. Não observamos nenhuma alteração mensurável no custo ou no tempo de resposta. Esses testes iniciais mostram resultados promissores, e esperamos que as melhorias aumentem com o tempo, à medida que aprimorarmos o sistema e disponibilizarmos skills com autoaperfeiçoamento para mais usuários.

Experimentos offline também registraram melhorias em cenários mais restritos. Em um experimento do SkillLearnBench, o Computer usou trajetórias de tarefas anteriores para criar uma skill pessoal para cada uma de nove famílias de tarefas. Em 16 instâncias de avaliação pareadas, a taxa de sucesso das tarefas aumentou de 43,8% sem skills para 62,5% com as skills geradas, o que evidencia que skills derivadas de experiências anteriores podem melhorar o desempenho em tarefas repetidas. Em um estudo de caso com skills integradas, edições em uma skill de e-commerce levaram a um aumento de 6% na qualidade com custo 32% menor, com a qualidade medida por um juiz automatizado.

Conclusão

As skills com autoaperfeiçoamento dão ao Computer mais uma forma de aprender com o trabalho que realiza. Elas estendem o Brain para criar e manter memória procedural, melhorando o desempenho em fluxos de trabalho complexos. A melhoria automática de skills já aumentou o uso de skills, reduziu as taxas de falha de ferramentas e diminuiu a insatisfação dos usuários.

A melhoria de skills pessoais já está disponível para todos os assinantes do Max nos EUA. Ela vem ativada por padrão para usuários elegíveis, mas pode ser desativada. A aba Plugins mostra as skills disponíveis, identifica as criadas pelo Brain e permite que os usuários escolham quais skills ficam ativadas.

Em seguida, vamos expandir a melhoria para mais classes de skills, incluindo skills criadas pelos usuários, skills compartilhadas em projetos e skills da organização. Continuaremos aprimorando o pipeline de melhoria e suas avaliações para que as revisões resultem em procedimentos mais confiáveis e melhores resultados.

Citação

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}