Selbstverbessernde Skills
Wie Perplexity Brain wiederkehrende Abläufe aus Erfahrung lernt und sie aktuell hält.
Einleitung
Nutzer haben Workflow-spezifische Präferenzen und Anforderungen, die ein Allzweckmodell nicht im Voraus kennen kann. Ein Agent muss diese Details lernen, um seine Arbeit an den Nutzer anzupassen, statt von ihm zu verlangen, in jeder Sitzung dasselbe Verfahren zu erklären oder dieselben Korrekturen vorzunehmen. Kontinuierliches Lernen macht dies möglich: Erfahrungen aus abgeschlossenen Aufgaben sollten bestimmen, wie der Agent künftige Arbeit angeht.
Brain, das personalisierte Selbstverbesserungssystem von Computer, ermöglicht Lernen durch Erfahrung. Es pflegt bereits ein strukturiertes Wissens-Wiki, das Informationen über den Nutzer und seine Arbeit mit den zugehörigen Belegen verknüpft. Hintergrund-Agenten aktualisieren das Wiki, sobald neue Informationen hinzukommen, sodass sich das Erinnerungssystem mit der Zeit verbessert.
Agent-Skills bieten eine weitere Möglichkeit, das Verhalten von Agenten zu steuern, ohne das zugrunde liegende Modell zu verändern. Skills sind wiederverwendbare Anweisungen, die einen Agenten durch bestimmte Aufgaben führen. Sie erfassen Anforderungen und unterstützende Ressourcen für wiederkehrende Workflows, die der Agent sonst aus der Erinnerung ableiten oder jedes Mal vom Nutzer erhalten müsste, und verbessern so die Leistung bei Aufgaben außerhalb der Trainingsverteilung. Sie können auch Skripte für sich wiederholende Abläufe oder Verarbeitungsschritte enthalten, die sich zuverlässig in Code ausdrücken lassen, sodass der Agent diese Skripte einfach ausführen kann, wenn sie zutreffen. Der harness macht verfügbare Skills auffindbar und lädt ihre Anweisungen in den Kontext, wenn der Agent sie anfordert. Nutzer können im Prompt auch direkt angeben, welche Skills verwendet werden sollen.
Wir erweitern Brain, damit es Agent-Skills automatisch erstellt und aktualisiert. Brain stützt sich auf die Erinnerung und den Sitzungsverlauf eines Nutzers, um persönliche Skills zu schreiben und zu verfeinern, die Abläufe für die Workflows dieses Nutzers festhalten. Einen ähnlichen Ansatz wenden wir an, um integrierte Skills, die allen Perplexity-Nutzern zur Verfügung stehen, anhand aggregierter Muster aus allen Sitzungen zu aktualisieren.
Zunächst beschreiben wir unsere Engine zur Selbstverbesserung, die allen Skill-Typen gemeinsam ist, und erklären, wie sie für persönliche und integrierte Skills funktioniert.
Gemeinsame Engine zur Selbstverbesserung
Auch ein nützlicher Skill muss sich weiterentwickeln, wenn neue Präferenzen entstehen oder die Erfahrung Lücken in seinen Anweisungen aufdeckt. Brain ist dafür zuständig herauszufinden, wie sich das Verhalten des Agenten ändern sollte, wenn Computer das nächste Mal auf eine ähnliche Aufgabe stößt, und festzulegen, wie der Skill angepasst werden sollte, um das gewünschte Ergebnis besser zu erreichen.
Dieser Verbesserungsprozess bildet einen Kreislauf aus vier Phasen:
- Belege. Brain findet vergangene Sitzungen, in denen der Skill verwendet wurde, insbesondere solche, in denen er nicht ausgereicht hat.
- Reflexion. Ein Verbesserungs-Agent untersucht diese Belege und schlägt Aktualisierungen des Skills vor.
- Verifizierung. Prüfungen bestätigen, dass der Vorschlag formal korrekt ist und die Ergebnisse voraussichtlich verbessert.
- Aktivierung. Die verifizierte Änderung wird übernommen. Künftige Sitzungen verwenden die neue Version und liefern Belege für die nächste Runde.
Dieser Kreislauf stützt sich auf viele bestehende Funktionen, die für Computer und Brain entwickelt wurden. Hier beschreiben wir die gemeinsame Infrastruktur, die Belege und Reflexion ermöglicht. Die Verfahren für Verifizierung und Aktivierung hängen davon ab, ob eine Änderung einen einzelnen Nutzer oder alle Perplexity-Nutzer erreicht. Deshalb behandeln wir sie in den folgenden Abschnitten zu den Verbesserungskreisläufen für persönliche und integrierte Skills.
Belege aus vergangenen Sitzungen
Für die Reflexion müssen Sitzungen gefunden werden, in denen ein Skill verwendet wurde, insbesondere solche mit Verbesserungspotenzial. Der harness von Computer zeichnet Signale auf, die dies ermöglichen. Wenn der Agent einen Skill lädt, protokolliert der harness ein Skill-Ladeereignis, das den Skill mit der Sitzung verknüpft. Wenn der Agent Frustration beim Nutzer, fehlerhaftes Verhalten oder offensichtliche Ineffizienz bemerkt, erstellt er eine kurze, strukturierte Diagnose, und der harness hängt die verwendeten Skills an. Diese sind besonders nützlich für integrierte Skills, bei denen potenziell jede Sitzung relevant sein könnte. Das System braucht daher eine Möglichkeit, den Pool an Belegen schnell einzugrenzen.
Agenten profitieren davon, Zugriff auf die vollständigen Aufzeichnungen zu haben, statt ein Urteil auf Grundlage des Ergebnisses oder einer kurzen Zusammenfassung zu fällen. Computer speichert vergangene Sitzungen in anbieterunabhängigen Trajektoriendarstellungen, die Nachrichten, Tool-Aufrufe, Reasoning und Ergebnisse erfassen. Außerdem haben wir eine Reihe von Kommandozeilen-Tools entwickelt, mit denen Agenten diese Trajektorien dekodieren und vollständige Sitzungen rekonstruieren können. So kann der Reflexions-Agent bestimmte Skill-Ladevorgänge und Tool-Aufrufe untersuchen und genau die Stellen identifizieren, an denen Probleme aufgetreten sind oder Verbesserungen möglich wären.
# Decode a stored trajectory into structured messages,
# including tool calls, their arguments, and their results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--jsonl -o session.jsonl
# Identify which skills the agent loaded and how often.
python3 list_skills_used.py session.jsonl
# Read one turn in detail, including its tool calls and results.
python3 deserialize_trajectory.py \
--convo-path session/convo.pb.lz4 \
--turn 3 -o turn-3.md
# Recover earlier steps preserved before a context compaction.
python3 deserialize_trajectory.py \
--convo-path session/compactions/001/original_convo.pb.lz4 \
--jsonl -o earlier-history.jsonlBeispielhafte Verwendung der internen Tools von Computer zur Untersuchung von Trajektorien. Pfade und Kennungen sind zur Veranschaulichung vereinfacht; Befehlsnamen und Argumente entsprechen der Implementierung.
Reflexion mit Hintergrund-Agenten
Brain setzt ein Team von Hintergrund-Agenten ein, um die Erfahrung für jeden Nutzer kontinuierlich zu optimieren. So prüfen etwa Dream-Agenten gesammelte Erfahrungen, um das Wissens-Wiki zu aktualisieren. Ebenso wird die Skill-Verbesserung von Verbesserungs-Agenten getragen, die Belege zur Skill-Nutzung auswerten, um Aktualisierungen vorzuschlagen.
Jeder Agent arbeitet in seiner eigenen Sandbox mit einem Frontier-Modell, den relevanten Belegen und der aktuellen Skill-Bibliothek, angeleitet von Plugins und Skills. Er entscheidet, welche Sitzungen er liest, leitet aus jeder eine konkrete Erkenntnis ab und fasst Erkenntnisse zusammen, die dasselbe wiederverwendbare Verhalten erfordern. Da die Behebung eines Fehlers einer anderen Anweisung widersprechen oder an anderer Stelle zusätzlichen Aufwand verursachen kann, liest er den vollständigen Skill, bevor er eine Änderung vorschlägt, und verzichtet darauf, wenn die Belege keine Änderung stützen.
Verbesserungs-Agenten laufen auf demselben harness wie Computer. Wir haben den harness modular aufgebaut, sodass eine neue Agent-Anwendung seine Infrastruktur für Reasoning, Tool-Nutzung und Kontextverwaltung wiederverwenden und gleichzeitig über Plugins eigene Anweisungen und Fähigkeiten definieren kann. Dank einer eigenen Flotte von Hintergrund-Workern können wir diese Verarbeitung unabhängig von Vordergrundaufgaben skalieren.
Der Verbesserungskreislauf für persönliche Skills
Zunächst beschreiben wir, wie die gemeinsame Engine zur Selbstverbesserung im persönlichen Verbesserungskreislauf eingesetzt wird, der den Aufgabenverlauf eines Nutzers in neue oder aktualisierte persönliche Skills umwandelt. Die folgende Abbildung verfolgt einen Beispiel-Skill durch den gesamten Kreislauf bis zur überarbeiteten Version.
Bei einem täglichen Generierungsdurchlauf prüft der Verbesserungs-Agent die letzten Sitzungen des Nutzers, um lohnende Änderungen zu ermitteln. Eine Auswahl aktueller Sitzungen wird zusammen mit Daten zur Skill-Nutzung vorab in die Sandbox geladen; der restliche Sitzungsverlauf des Nutzers kann bei Bedarf abgerufen werden. Der Verbesserungs-Agent erhält außerdem den Katalog der vorhandenen Skills. Er hat keinen Zugriff auf das Internet oder andere Konnektoren.
Plugins und Skills, die speziell für den Workflow zur Verbesserung persönlicher Skills entwickelt wurden, leiten den Reflexionsprozess und stützen sich dabei auf unsere Grundsätze dafür, was eine gute Aktualisierung ausmacht. Der Agent analysiert zunächst vollständige Trajektorien, um in jeder Sitzung eine konkrete Erkenntnis zu identifizieren. Anschließend vergleicht er die Erkenntnisse mit den bestehenden Anweisungen und entscheidet, ob er einen Skill aktualisiert, einen neuen erstellt oder nichts ändert. Für die Erstellung eines Skills sind zwei voneinander unabhängige Vorkommen desselben wiederverwendbaren Verhaltens erforderlich, während eine Aktualisierung eines bestehenden Skills schon durch ein einziges fundiertes Vorkommen gerechtfertigt sein kann.
Der Agent ändert den Skill nicht direkt. Stattdessen erstellt er einen Vorschlag, in dem die beabsichtigten Änderungen sowie die zugrunde liegende Begründung und die Belege festgehalten werden. Aktualisierungen sind auf eine Änderung pro Skill und Durchlauf beschränkt. Deterministische Prüfungen verifizieren, dass Vorschläge formal korrekt sind und auf den Skill angewendet werden können. Zusätzlich prüft ein LLM-Bewerter stichprobenartig Vorschläge darauf, ob die Belege die Änderung stützen und ob der resultierende Skill nützliche Anweisungen liefert.
Die Aktivierung setzt einen verifizierten Vorschlag in eine Änderung an der Skill-Bibliothek des Nutzers um, sodass die neue Version in künftigen Sitzungen geladen und verwendet werden kann. Da der harness zu Beginn jeder Sitzung einen Index aller verfügbaren Skills lädt, kann eine große Skill-Bibliothek das Kontextfenster überfrachten und es dem Agenten erschweren, relevante Skills zu finden und zu laden. Daher behält das System nur die wertvollsten Skills und mustert nicht benötigte Skills aus, um eine kleine, kuratierte Bibliothek zu erhalten. Konkret gilt pro Nutzer eine Obergrenze von 10 automatisch erstellten Skills. Ist diese erreicht, kann der Verbesserungs-Agent weiterhin Skills aktualisieren oder entfernen; um einen neuen Skill hinzuzufügen, muss er jedoch einen bestehenden ausmustern und begründen, warum der neue Skill für die Arbeit des Nutzers nützlicher ist.
Der Verbesserungskreislauf für integrierte Skills
Wir erweitern das Framework von Brain zur kontinuierlichen Skill-Verbesserung außerdem auf integrierte Skills. Anstatt die Erinnerung und den Sitzungsverlauf eines einzelnen Nutzers zu nutzen, um dessen persönliche Skills zu verbessern, verwendet der integrierte Kreislauf Belege von vielen Nutzern, um die Skills zu verbessern, die allen Perplexity-Nutzern zur Verfügung stehen. Da integrierte Skills von allen genutzt werden können, liegt die Messlatte für Änderungen hoch: Aktualisierungen, die die Leistung unbeabsichtigt verschlechtern, können Tausende von Sitzungen beeinträchtigen. Der integrierte Verbesserungs-Agent ändert nur Kandidatenversionen von Skills. Um in die kanonische Version des Skills zu gelangen, müssen diese Aktualisierungen ein gepaartes Replay und eine interne menschliche Prüfung durchlaufen. Auch hier verfolgen wir den gesamten Kreislauf anhand eines Beispiel-Skills und der zugehörigen Belege.
Der integrierte Verbesserungskreislauf verwendet bereinigte Belege aus Sitzungen, die für das Training genutzt werden dürfen. Anhand von Diagnosen und Fehlersignalen werden relevante Belege ausgewählt, ergänzt durch Kontrollsitzungen, in denen der Skill verwendet wurde, ohne dass Warnsignale auftraten. Eine Bereinigungspipeline entfernt Zugangsdaten und andere Geheimnisse sowie angehängte Dateien und Medien.
Ein Agent zur Szenariogenerierung wandelt bereinigte Belege in konkrete Fehlerszenarien um. Er behält nur den Kontext, der nötig ist, um den Fehlerfall zu verstehen und den Skill zu verbessern; der Rest der Sitzung wird synthetisch nachgebildet, sodass ein in sich geschlossener Test für den Verifizierungsprozess entsteht. Szenarien müssen ohne verbundene Apps oder Anmeldung laufen; hing die ursprüngliche Aufgabe von einem Konnektor ab, werden diese Eingaben im Szenario durch synthetische Dateien ersetzt. Eine separate Prüfung verifiziert, dass der Skill im generierten Szenario fehlschlägt.
Die Reflexion erfolgt in einem wöchentlichen Überarbeitungsjob, der beobachtete Fehler in Korrekturen umsetzt. Er sucht nach Skill-Fehlern, die in mehreren Sitzungen wiederholt auftreten, damit eine einzelne fehlerhafte Sitzung keine Änderung auslöst. Für jeden wiederkehrenden Fehler wird ein separater Durchlauf des Verbesserungs-Agenten gestartet. Der Agent erhält eine Beschreibung der Grundursache sowie bereinigte Aufzeichnungen aus erfolgreichen Sitzungen. Auf Grundlage dieser Belege schreibt er eine Kandidatenrevision des Skills. Die vollständigen Fehlerszenarien erhält er nicht, da diese für die Evaluierung verwendet werden.
Ein separater Replay-Job vergleicht anhand der generierten Szenarien die ursprüngliche und die überarbeitete Version des Skills. Ein LLM-Bewerter beurteilt die Antworten und Trajektorien eines Agenten anhand der Bewertungskriterien des jeweiligen Szenarios. Damit ein Vorschlag angenommen wird, muss jedes Testszenario mit dem überarbeiteten Skill bestanden werden und mindestens eines mit dem ursprünglichen fehlschlagen. Auch Szenarien, die aus den Kontrollsitzungen erstellt wurden, werden erneut ausgeführt, um sicherzustellen, dass nichts aufgehört hat zu funktionieren. Bei den Fehlerszenarien prüft der Bewerter zudem, ob genau der betreffende Fehler aufgetreten ist, statt eine nicht erfolgreiche Aufgabe als Beleg für dasselbe Problem zu werten.
Der Workflow bündelt die Kandidatenänderungen und Evaluierungsergebnisse in einem pull request zur internen menschlichen Prüfung. Die Änderungen treten nur in Kraft, wenn ein Entwickler den PR freigibt.
Evaluierungen
Die automatische Skill-Verbesserung hat die Erstellung und Nutzung von Skills deutlich gesteigert. Brain hat zwischen dem 1. August und dem 14. November über 80.000 persönliche Skills für über 20.000 Nutzer geschrieben. Zudem wurden zwischen dem 4. September und dem 14. November mehr als 100.000 automatische Aktualisierungen an über 30.000 bestehenden persönlichen Skills vorgenommen.
Diese Skills decken ein breites Spektrum an Bereichen und Aufgaben ab, von der Verifizierung von Software über den Abgleich von Gehaltsabrechnungen bis hin zur Gestaltung von Abbildungen. Wir haben die von Brain generierten Skills nach den Workflows kategorisiert, die sie beschreiben. Selbst der größte Bereich, Softwareentwicklung, machte nur 11 % der Skills aus; es folgen Recherche und Briefings (10,1 %), Vertrieb und Operations (9,9 %) sowie Finanzen und Investitionen (9,9 %).
Wir haben einen achtwöchigen randomisierten Test mit Produktions-Traffic durchgeführt und Nutzer, bei denen die automatische Verbesserung persönlicher Skills aktiviert war, mit einer Kontrollgruppe verglichen, bei der sie deaktiviert war. 72,9 % der Personen mit aktivierter Skill-Verbesserung erhielten mindestens einen neuen persönlichen Skill, während nur 6,5 % der Personen ohne diese Funktion manuell einen neuen Skill hinzufügten. Bei mehr als der Hälfte der Testgruppe (53 %) wurde in einer selbst gestarteten Unterhaltung ein persönlicher Skill geladen, verglichen mit 13 % in der Kontrollgruppe; in ihren Gesprächsrunden wurde etwa 3,6-mal so häufig ein persönlicher Skill geladen. Von den Kunden, die einen von Brain geschriebenen Skill erhielten, nutzten 63 % innerhalb von vier Wochen in einer späteren Unterhaltung erneut einen solchen Skill.
Mit unseren Evaluierungen wollen wir ermitteln, wie sich diese neuen und aktualisierten Skills auf die Aufgabenausführung und die Gesamtleistung auswirken.
Die Ergebnisse desselben randomisierten Experiments zeigen einen Rückgang bei fehlgeschlagenen Tool-Aufrufen und bei der Unzufriedenheit der Nutzer. Bei Nutzern mit automatischer Skill-Verbesserung sank die Fehlerquote bei Tool-Aufrufen über alle Computer-Aktivitäten hinweg um 11 %. Ohne die eigenen Hintergrunddurchläufe des Systems schlugen Tool-Aufrufe immer noch etwa 7 % seltener fehl, was darauf hindeutet, dass sich die Zuverlässigkeit bei der Arbeit der Nutzer verbessert hat. Die Unzufriedenheit der Nutzer, gemessen als Threads mit mittlerer/hoher Unzufriedenheit pro Nutzer, ging um 7,6 % zurück. Bei Kosten und Antwortzeit stellten wir keine messbare Veränderung fest. Diese ersten Tests zeigen vielversprechende Ergebnisse, und wir erwarten, dass die Verbesserungen im Laufe der Zeit zunehmen, während wir das System weiter verfeinern und selbstverbessernde Skills für weitere Nutzer einführen.
Auch Offline-Experimente haben Verbesserungen in enger gefassten Szenarien gezeigt. In einem SkillLearnBench-Experiment nutzte Computer frühere Aufgabentrajektorien, um für jede von neun Aufgabenfamilien einen persönlichen Skill zu erstellen. Über 16 gepaarte Evaluierungsinstanzen hinweg stieg der Aufgabenerfolg von 43,8 % ohne Skills auf 62,5 % mit generierten Skills. Das belegt, dass aus früheren Erfahrungen abgeleitete Skills die Leistung bei wiederkehrenden Aufgaben verbessern können. In einer Fallstudie zu integrierten Skills führten Änderungen an einem E-Commerce-Skill zu einer Qualitätssteigerung von 6 % bei 32 % niedrigeren Kosten, wobei die Qualität von einem automatisierten Bewerter gemessen wurde.
Fazit
Selbstverbessernde Skills bieten Computer eine weitere Möglichkeit, aus der eigenen Arbeit zu lernen. Sie erweitern Brain um die Fähigkeit, prozedurales Gedächtnis aufzubauen und zu pflegen, und verbessern so die Leistung bei komplexen Workflows. Die automatische Skill-Verbesserung hat bereits die Skill-Nutzung gesteigert, die Fehlerquoten bei Tools gesenkt und die Unzufriedenheit der Nutzer verringert.
Die Verbesserung persönlicher Skills ist ab sofort für alle Max-Abonnenten in den USA verfügbar. Sie ist für berechtigte Nutzer standardmäßig aktiviert, kann aber deaktiviert werden. Der Tab „Plugins“ zeigt verfügbare Skills an, kennzeichnet die von Brain erstellten und lässt Nutzer auswählen, welche Skills aktiviert sind.
Als Nächstes weiten wir die Verbesserung auf weitere Skill-Klassen aus, darunter von Nutzern erstellte Skills, in Projekten geteilte Skills und Skills von Organisationen. Wir werden die Verbesserungspipeline und ihre Evaluierungen weiter verfeinern, damit Überarbeitungen zu zuverlässigeren Abläufen und besseren Ergebnissen führen.
Zitation
@online{perplexity2026SelfImprovingSkills,
author = {{Perplexity} and Nicholas Bien and Se Won Jang and Kate Jung and Nikila Venkat and Jarrod Bryan and Claire Beamer and Jeremy Yang},
title = {{Self-improving skills}},
date = {2026-11-18},
url = {https://www.perplexity.ai/hub/blog/self-improving-skills}
}