Skills que se melhoram a si próprias

Como o Perplexity Brain aprende procedimentos recorrentes a partir da experiência e os mantém atualizados.

AutoresPerplexity Engineering

Introdução

Os utilizadores têm preferências e requisitos específicos dos seus fluxos de trabalho que um modelo de uso geral não pode conhecer de antemão. Um agente precisa de aprender estes detalhes para adaptar o seu trabalho ao utilizador, em vez de exigir que o utilizador explique o mesmo procedimento ou faça as mesmas correções em todas as sessões. A aprendizagem contínua torna isto possível: a experiência das tarefas concluídas deve orientar a forma como o agente aborda o trabalho futuro.

O Brain, o sistema de autoaperfeiçoamento personalizado do Computer, possibilita a aprendizagem através da experiência. Já mantém uma wiki de conhecimento estruturada que liga as informações sobre o utilizador e o seu trabalho às evidências que as sustentam. Os agentes em segundo plano atualizam a wiki à medida que se acumulam novas informações, pelo que o sistema de memória melhora ao longo do tempo.

As Skills de agente oferecem outra forma de orientar o comportamento do agente sem alterar o modelo subjacente. As Skills são instruções reutilizáveis que orientam um agente em tarefas específicas. Captam os requisitos e os recursos de apoio para fluxos de trabalho recorrentes que o agente teria, de outro modo, de inferir a partir da memória ou de receber do utilizador de cada vez, melhorando o desempenho em tarefas fora da distribuição. Podem também incluir scripts para procedimentos repetitivos ou processamentos que possam ser expressos de forma fiável em código, para que o agente possa simplesmente executar esses scripts quando se aplicam. O harness torna as Skills disponíveis detetáveis e carrega as respetivas instruções no contexto quando o agente as solicita. Os utilizadores também podem especificar diretamente no prompt que Skills devem ser usadas.

Estamos a alargar o Brain para criar e atualizar automaticamente Skills de agente. O Brain baseia-se na memória e no histórico de sessões de um utilizador para escrever e aperfeiçoar Skills pessoais que captam procedimentos para os fluxos de trabalho desse utilizador. Aplicamos uma abordagem semelhante para atualizar as Skills integradas, que estão disponíveis para todos os utilizadores do Perplexity, com base em padrões agregados de todas as sessões.

Um agente combina capacidades gerais com contexto selecionado da tarefa e experiência pessoal. O modelo subjacente utiliza o contexto de trabalho para escolher o passo seguinte, e esse contexto muda à medida que a tarefa avança. O Brain fornece memória e skills pessoais e, depois, utiliza evidências de sessões selecionadas para atualizações posteriores, sujeitas a verificações e autorização. A personalização altera o contexto e as instruções, não os pesos do modelo. As fontes são selecionadas conforme necessário, e não carregadas todas de uma vez; esta vista conceptual simplifica os mecanismos de atualização.

Começamos por descrever o nosso motor de autoaperfeiçoamento partilhado por todos os tipos de Skills e explicamos como funciona para as Skills pessoais e integradas.

Motor de autoaperfeiçoamento partilhado

Uma Skill útil continua a precisar de mudar à medida que surgem novas preferências ou que a experiência revela lacunas nas suas instruções. O Brain é responsável por descobrir como o comportamento do agente deve mudar da próxima vez que o Computer encontrar uma tarefa semelhante e por determinar como a Skill deve mudar para alcançar melhor o resultado pretendido.

Este processo de melhoria forma um ciclo com quatro etapas:

  1. Evidências. O Brain encontra sessões anteriores em que a Skill foi usada, sobretudo aquelas em que ficou aquém do esperado.
  2. Reflexão. Um agente de melhoria analisa essas evidências e propõe atualizações à Skill.
  3. Verificação. Os controlos confirmam que a proposta está bem formada e que é provável que melhore os resultados.
  4. Ativação. A alteração verificada é aplicada. As sessões futuras usam a nova versão, fornecendo evidências para a ronda seguinte.
O Brain seleciona sessões anteriores em que a skill foi utilizada, sobretudo aquelas em que ficou aquém do esperado. Um agente de melhoria propõe uma atualização e as verificações avaliam se está bem formada e se é provável que melhore os resultados. Depois de aplicada, a nova versão é utilizada em sessões futuras e fornece evidências para a ronda seguinte.

Este ciclo assenta em muitas capacidades já existentes, criadas para o Computer e o Brain. Aqui, descrevemos o mecanismo partilhado que possibilita as evidências e a reflexão. Os procedimentos de verificação e ativação dependem de a alteração chegar a um único utilizador ou a todos os utilizadores do Perplexity, pelo que os abordamos nas secções seguintes, dedicadas aos ciclos de melhoria das Skills pessoais e integradas.

Evidências de sessões anteriores

A reflexão exige encontrar sessões em que uma Skill foi usada, sobretudo aquelas em que há margem para melhoria. O harness do Computer regista sinais que tornam isto possível. Quando o agente carrega uma Skill, o harness regista um evento de carregamento de Skill que associa a Skill à sessão. Quando o agente deteta frustração do utilizador, comportamento com falhas ou ineficiência evidente, regista um diagnóstico breve e estruturado, e o harness anexa as Skills em uso. Estes sinais são particularmente úteis para as Skills integradas, em que qualquer sessão pode ser potencialmente relevante, pelo que o sistema precisa de uma forma de restringir rapidamente o conjunto de evidências.

Os agentes beneficiam de ter acesso ao registo completo, em vez de fazerem um juízo com base no resultado ou num breve resumo. O Computer armazena as sessões anteriores através de representações de trajetórias independentes do fornecedor, que captam mensagens, chamadas de ferramentas, raciocínio e resultados. Criámos também um conjunto de ferramentas de linha de comandos que os agentes podem usar para descodificar estas trajetórias e reconstruir sessões completas. Isto permite ao agente de reflexão inspecionar carregamentos de Skills e chamadas de ferramentas específicos, identificando os pontos exatos em que ocorreram problemas ou em que poderiam ser feitas melhorias.

bash
# Decode a stored trajectory into structured messages, # including tool calls, their arguments, and their results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --jsonl -o session.jsonl # Identify which skills the agent loaded and how often. python3 list_skills_used.py session.jsonl # Read one turn in detail, including its tool calls and results. python3 deserialize_trajectory.py \ --convo-path session/convo.pb.lz4 \ --turn 3 -o turn-3.md # Recover earlier steps preserved before a context compaction. python3 deserialize_trajectory.py \ --convo-path session/compactions/001/original_convo.pb.lz4 \ --jsonl -o earlier-history.jsonl

Exemplo de utilização das ferramentas internas de inspeção de trajetórias do Computer. Os caminhos e identificadores foram simplificados para fins ilustrativos; os nomes e argumentos dos comandos seguem a implementação.

Reflexão com agentes em segundo plano

O Brain usa uma equipa de agentes em segundo plano para otimizar continuamente a experiência de cada utilizador. Por exemplo, os agentes Dream analisam a experiência acumulada para atualizar a wiki de conhecimento. Da mesma forma, a melhoria das Skills é impulsionada por agentes de melhoria que refletem sobre as evidências de utilização das Skills para propor atualizações.

Cada agente trabalha na sua própria sandbox, com um modelo de fronteira, as evidências relevantes e a biblioteca de Skills atual, orientado por plugins e Skills. Decide que sessões ler, retira uma lição concreta de cada uma e agrupa as lições que exigem o mesmo comportamento reutilizável. Como a correção de uma falha pode contradizer outra instrução ou acrescentar trabalho noutro ponto, lê a Skill completa antes de propor uma edição e abstém-se quando as evidências não a justificam.

Os agentes de melhoria são executados no mesmo harness que o Computer. Tornámos o harness modular, para que uma nova aplicação de agente possa reutilizar os respetivos mecanismos de raciocínio, utilização de ferramentas e gestão de contexto, definindo ao mesmo tempo as suas próprias instruções e capacidades através de plugins. Uma frota dedicada de processos em segundo plano permite-nos escalar este processamento independentemente das tarefas em primeiro plano.

O agente interativo e o agente de melhoria em segundo plano são executados no mesmo harness do Computer. O agente de melhoria utiliza as evidências das sessões e as skills atuais para propor uma alteração ou abster-se. Uma proposta tem de passar em verificações específicas do tipo de skill antes de uma nova versão ficar disponível para sessões futuras.

O ciclo de melhoria das Skills pessoais

Começamos por descrever como o motor de autoaperfeiçoamento partilhado é aplicado ao ciclo de melhoria pessoal, que transforma o histórico de tarefas de um utilizador em Skills pessoais novas ou atualizadas. A figura abaixo acompanha uma Skill de exemplo ao longo de todo o ciclo, terminando na versão revista.

O ciclo das Skills pessoais avança das evidências de sessão para um agente de melhoria, verificações das propostas e ativação. As Skills atuais também informam o agente de melhoria; as alterações ativadas ficam disponíveis para sessões futuras.

Durante uma execução diária de geração, o agente de melhoria analisa as sessões recentes do utilizador para determinar que alterações vale a pena fazer. Um conjunto de sessões recentes é pré-carregado na sandbox, juntamente com dados de utilização das Skills; o resto do histórico de sessões do utilizador pode ser obtido conforme necessário. O agente de melhoria recebe também o catálogo de Skills existentes. Não tem acesso à internet nem a outros conectores.

Os plugins e as Skills concebidos para o fluxo de trabalho de melhoria das Skills pessoais orientam o processo de reflexão, com base nos nossos princípios sobre o que torna uma atualização boa. O agente começa por analisar trajetórias completas para identificar uma lição concreta em cada sessão. Em seguida, compara as lições com as instruções existentes e decide se deve atualizar uma Skill, criar uma ou não fazer nenhuma alteração. Criar uma Skill exige duas ocorrências independentes do mesmo comportamento reutilizável, enquanto uma atualização a uma Skill existente pode ser justificada com uma única ocorrência fundamentada.

O agente não modifica a Skill diretamente. Em vez disso, produz uma proposta que regista as alterações pretendidas, bem como o raciocínio e as evidências que as sustentam. As atualizações limitam-se a uma alteração por Skill em cada execução. Verificações determinísticas confirmam que as propostas estão bem formadas e podem ser aplicadas à Skill. Separadamente, um LLM avaliador audita uma amostra das propostas, verificando se as evidências sustentam a alteração e se a Skill resultante fornece instruções úteis.

A ativação transforma uma proposta verificada numa alteração à biblioteca de Skills do utilizador, para que a nova versão possa ser carregada e usada em sessões futuras. Como o harness carrega um índice de todas as Skills disponíveis no início de cada sessão, uma biblioteca de Skills grande pode sobrecarregar a janela de contexto e dificultar que o agente encontre e carregue as Skills relevantes. Por isso, o sistema mantém apenas as Skills mais valiosas, retirando as que não são necessárias, de modo a manter uma biblioteca pequena e cuidadosamente selecionada. Concretamente, impomos um limite de 10 Skills criadas automaticamente por utilizador. Quando esse limite é atingido, o agente de melhoria pode continuar a atualizar ou remover Skills, mas, para adicionar uma nova Skill, tem de retirar uma Skill existente e justificar por que razão a nova Skill é mais útil para o trabalho do utilizador.

O ciclo de melhoria das Skills integradas

Alargamos também a estrutura de melhoria contínua de Skills do Brain às Skills integradas. Em vez de usar a memória e o histórico de sessões de um utilizador para melhorar as Skills pessoais desse utilizador, o ciclo das Skills integradas usa evidências de muitos utilizadores para melhorar as Skills disponíveis para todos os utilizadores do Perplexity. Como as Skills integradas podem ser usadas por qualquer pessoa, a fasquia para as alterações é elevada; atualizações que piorem inadvertidamente o desempenho podem afetar milhares de sessões. O agente de melhoria das Skills integradas apenas altera versões candidatas das Skills. Para chegarem à versão canónica da Skill, estas atualizações têm de passar pela reprodução emparelhada e pela revisão humana interna. Mais uma vez, acompanhamos o ciclo completo com uma Skill de exemplo e as respetivas evidências.

As sessões falhadas dão origem a uma causa raiz e a cenários de falha reservados. O agente de melhoria usa a causa raiz e exemplos limpos para propor uma revisão; os cenários nunca lhe são mostrados. A reprodução emparelhada compara as Skills atuais e revistas nos mesmos testes, e os candidatos bem-sucedidos avançam para revisão humana antes da aprovação e da integração.

O ciclo de melhoria das Skills integradas usa evidências sanitizadas de sessões elegíveis para utilização em treino. Os diagnósticos e os sinais de falha servem para selecionar as evidências relevantes, juntamente com sessões de controlo em que a Skill foi usada sem levantar quaisquer alertas. Um pipeline de sanitização remove credenciais e outros segredos, bem como ficheiros e conteúdos multimédia anexados.

Um agente de geração de cenários transforma as evidências sanitizadas em cenários de falha concretos. Mantém apenas o contexto necessário para compreender o caso de falha e melhorar a Skill; o resto da sessão é reconstruído sinteticamente, criando um teste autónomo para o processo de verificação. Os cenários têm de ser executados sem aplicações ligadas nem início de sessão; se a tarefa original dependia de um conector, essa entrada é substituída por ficheiros sintéticos no cenário. Uma verificação separada confirma que a Skill falha no cenário gerado.

A reflexão ocorre através de uma tarefa semanal de revisão que transforma as falhas observadas em correções. Procura falhas de Skills que se repetem em várias sessões, para que uma única sessão má não desencadeie uma edição. Cada falha recorrente dá origem a uma execução separada do agente de melhoria. O agente recebe uma descrição da causa raiz, juntamente com registos sanitizados de sessões bem-sucedidas. Usa estas evidências para escrever uma revisão candidata da Skill. Não recebe os cenários de falha completos, pois estes são usados na avaliação.

Uma tarefa de reprodução separada usa os cenários gerados para comparar a versão original e a versão revista da Skill. Um LLM avaliador analisa as respostas e as trajetórias de um agente face aos critérios de avaliação de cada cenário. Para que uma proposta seja aprovada, todos os cenários de teste têm de passar com a Skill revista e pelo menos um tem de falhar com a original. Os cenários criados a partir das sessões de controlo também são reproduzidos, para confirmar que nada deixou de funcionar. Nos cenários de falha, o avaliador verifica também se ocorreu a falha específica, em vez de tratar uma tarefa sem sucesso como prova do mesmo problema.

O fluxo de trabalho reúne as alterações candidatas e os resultados da avaliação num pull request para revisão humana interna. As alterações só entram em vigor se um engenheiro aprovar o PR.

Avaliações

A melhoria automática de Skills aumentou significativamente a criação e a utilização de Skills. Entre 1 de agosto e 14 de novembro, o Brain escreveu mais de 80 000 Skills pessoais para mais de 20 000 utilizadores. Além disso, entre 4 de setembro e 14 de novembro, foram aplicadas mais de 100 000 atualizações automáticas a mais de 30 000 Skills pessoais existentes.

Estas Skills abrangem uma vasta gama de domínios e tarefas, desde a verificação de software à reconciliação de salários e à conceção de figuras. Categorizámos as Skills geradas pelo Brain com base nos fluxos de trabalho que descrevem. Mesmo o maior domínio, a engenharia de software, representou apenas 11% das Skills, seguido de pesquisa e resumos (10,1%), vendas e operações (9,9%) e finanças e investimento (9,9%).

Entre as 64 230 Skills pessoais criadas automaticamente de 1 de agosto a 4 de novembro, a engenharia de software representou a maior percentagem (11,0%), seguida de pesquisa e resumos (10,1%). Os dez domínios apresentados representam 80,3% de todas as Skills da amostra.

Realizámos um teste aleatorizado de oito semanas com tráfego de produção, comparando utilizadores com a melhoria automática de Skills pessoais ativada com um grupo de controlo em que esta estava desativada. 72,9% das pessoas com a melhoria de Skills ativada receberam pelo menos uma nova Skill pessoal, enquanto apenas 6,5% das pessoas sem ela adicionaram manualmente uma nova Skill. Mais de metade do grupo de tratamento (53%) teve uma Skill pessoal carregada numa conversa que iniciou, em comparação com 13% no grupo de controlo; os seus turnos carregaram uma Skill pessoal cerca de 3,6 vezes mais frequentemente. Entre os clientes que receberam uma Skill escrita pelo Brain, 63% voltaram a usar uma numa conversa posterior no prazo de quatro semanas.

Num teste de produção aleatorizado de oito semanas, 72,9% dos utilizadores com a melhoria automática de skills ativada obtiveram pelo menos uma nova skill pessoal, em comparação com 6,5% do grupo de controlo. Foi carregada uma skill pessoal numa conversa iniciada pelo utilizador para 53% do grupo com a funcionalidade ativada e 13% do grupo de controlo.

As nossas avaliações procuram determinar o impacto destas Skills novas e atualizadas na execução das tarefas e no desempenho global.

Os resultados da mesma experiência aleatorizada mostram uma diminuição das falhas nas chamadas de ferramentas e da insatisfação dos utilizadores. Para os utilizadores com melhoria automática de Skills, a taxa de falhas nas chamadas de ferramentas caiu 11% em toda a atividade do Computer. Excluindo as execuções em segundo plano do próprio sistema, as chamadas de ferramentas continuaram a falhar cerca de 7% menos vezes, o que sugere que a fiabilidade melhorou no trabalho do utilizador. A insatisfação dos utilizadores, medida como o número de tópicos com insatisfação média/elevada por utilizador, diminuiu 7,6%. Não observámos qualquer alteração mensurável no custo nem no tempo de resposta. Estes testes iniciais demonstram resultados promissores, e esperamos que as melhorias aumentem ao longo do tempo, à medida que aperfeiçoamos o sistema e disponibilizamos as Skills com autoaperfeiçoamento a mais utilizadores.

As experiências offline também registaram melhorias em contextos mais restritos. Numa experiência com o SkillLearnBench, o Computer usou trajetórias de tarefas anteriores para criar uma Skill pessoal para cada uma de nove famílias de tarefas. Em 16 instâncias de avaliação emparelhadas, o sucesso das tarefas aumentou de 43,8% sem Skills para 62,5% com Skills geradas, o que evidencia que as Skills derivadas da experiência passada podem melhorar o desempenho em tarefas repetidas. Num estudo de caso de Skills integradas, as edições a uma Skill de comércio eletrónico levaram a um aumento de 6% na qualidade com um custo 32% inferior, sendo a qualidade medida por um avaliador automático.

Conclusão

As Skills com autoaperfeiçoamento dão ao Computer mais uma forma de aprender com o trabalho que realiza. Alargam o Brain para criar e manter memória procedimental, melhorando o desempenho em fluxos de trabalho complexos. A melhoria automática de Skills já aumentou a utilização de Skills, reduziu as taxas de falha das ferramentas e diminuiu a insatisfação dos utilizadores.

A melhoria de Skills pessoais está agora disponível para todos os subscritores Max nos EUA. Está ativada por predefinição para os utilizadores elegíveis, mas pode ser desativada. O separador de plugins mostra as Skills disponíveis, identifica as criadas pelo Brain e permite aos utilizadores escolher que Skills estão ativadas.

A seguir, vamos alargar a melhoria a mais classes de Skills, incluindo Skills criadas pelos utilizadores, Skills partilhadas em projetos e Skills da organização. Vamos continuar a aperfeiçoar o pipeline de melhoria e as respetivas avaliações para que as revisões conduzam a procedimentos mais fiáveis e a melhores resultados.

Citação

BibTeX
@online{perplexity2026SelfImprovingSkills,
  author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
  title = {{Self-improving skills}},
  date = {2026-11-18},
  url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}