Sandbox-API: Isolierte Codeausführung für KI-Agenten

Agentische Workflows erfordern häufig eine deterministische Ausführung. Wenn ein Agent eine statistische Analyse durchführen, ein Diagramm erstellen, eine Berechnung validieren oder einen Datensatz transformieren muss, benötigt er eine deterministische Ausführung mit exakten Ergebnissen. Der Agent entscheidet über die Berechnung. Die Sandbox führt sie aus.

Für Perplexity entwickelt, jetzt als Dienst verfügbar

Wir haben die Sandbox entwickelt, um dieses Muster intern zu unterstützen. Perplexity Computer, unser Finance Agent und Deep Research führen alle Code innerhalb von isolierten Sandbox-Umgebungen aus. Computer führt tausende Sitzungen pro Minute aus. Der Finance Agent nutzt die Sandbox für Berechnungen mit Live-Marktdaten. Deep Research nutzt sie für die Dateigenerierung, Datenverarbeitung und Formatkonvertierung während eines Workflows. Die Sandbox-API stellt dieselbe Ausführungsumgebung als eigenständigen Dienst bereit.

Zustandsbehaftete Sitzungen mit persistenten Dateisystemen

Jede Sitzung läuft in einem eigenen, isolierten Kubernetes-Pod. Der Entwickler muss sich nicht um die zugrunde liegende Infrastruktur kümmern: Wir übernehmen Bereitstellung, Vernetzung und Bereinigung. Unterstützte Sprachen sind Python, JavaScript und SQL, wobei die Installation von Laufzeitpaketen pro Sitzung möglich ist.

Sitzungen sind zustandsbehaftet. Ein persistentes Dateisystem wird über FUSE eingebunden. Der FUSE-Daemon fängt Dateioperationen ab und übersetzt sie für den Agenten: Lesen, Schreiben, Auflisten von Dateien und Verfolgen von Änderungen seit der Erstellung der Sitzung. Dateien, die in einem Schritt erstellt wurden, sind in nachfolgenden Schritten verfügbar. Lang laufende Workflows können pausiert, Stunden später wieder aufgenommen und mit intaktem Status fortgesetzt werden. Jede Sitzung unterstützt bis zu fünf Hintergrundprozesse.

Standardmäßig Zero-Trust

Die Sicherheitsarchitektur geht standardmäßig von nicht vertrauenswürdigem Code aus. Sandboxes haben keinen direkten Netzwerkzugriff. Wenn eine Verbindung nach außen erforderlich ist, wird der Datenverkehr über einen Egress-Proxy geleitet, der außerhalb der Sandbox läuft. Der Proxy gleicht ausgehende Anforderungen anhand der Zieldomäne ab und injiziert die entsprechenden Anmeldeinformationen. Code, der innerhalb der Sandbox ausgeführt wird, hat niemals Zugriff auf unverschlüsselte API-Schlüssel oder Geheimnisse. Integrierte Timeouts und Ressourcenbeschränkungen erzwingen Ausführungsgrenzen.

Agent-API als Orchestrierungsebene

Die Sandbox-API wird als Werkzeug innerhalb der Agent-API verfügbar sein und es der Orchestrierungs-Laufzeitumgebung ermöglichen, eine deterministische Codeausführung mitten im Workflow zu delegieren. Der Agent entscheidet, was berechnet werden soll, delegiert dies an die Sandbox, beobachtet das Ergebnis und setzt seine Logikschleife fort. Gleicher API-Schlüssel, gleiches Credits-Guthaben.

Die Sandbox-API erscheint in Kürze. Wir werden bald eine private Beta-Phase eröffnen; die Dokumentation finden Sie unter docs.perplexity.ai.