Sandbox API: Izolowane wykonywanie kodu dla agentów AI

Przepływy pracy oparte na agentach często wymagają deterministycznego wykonywania zadań. Gdy agent musi przeprowadzić analizę statystyczną, wygenerować wykres, zweryfikować obliczenia lub przekształcić zbiór danych, potrzebuje deterministycznego wykonywania zadań z precyzyjnymi wynikami. Agent analizuje, co należy obliczyć. Piaskownica dokonuje obliczeń.

Stworzone dla Perplexity, teraz dostępne jako usługa

Zbudowaliśmy piaskownicę, aby wewnętrznie wspierać ten wzorzec. Perplexity Computer, nasz agent finansowy (Finance Agent) oraz Dogłębne badania (Deep Research) wykonują kod w izolowanych środowiskach. Computer uruchamia tysiące sesji na minutę. Agent finansowy korzysta z piaskownicy do obliczeń na danych rynkowych w czasie rzeczywistym. Dogłębne badania wykorzystują ją do generowania plików, przetwarzania danych i konwersji formatów w trakcie przepływu pracy. Sandbox API udostępnia to samo środowisko wykonawcze jako samodzielną usługę.

Sesje stanowe z trwałymi systemami plików

Każda sesja działa w odizolowanym podzie Kubernetes. Deweloper nie zarządza żadną infrastrukturą bazową: odpowiadamy za udostępnianie zasobów, sieci i oczyszczanie środowiska. Obsługiwane języki to Python, JavaScript i SQL, z możliwością instalacji pakietów wykonawczych dla każdej sesji.

Sesje są stanowe. Trwały system plików jest montowany za pośrednictwem FUSE. Demon FUSE przechwytuje operacje na plikach i interpretuje je dla agenta: odczyt, zapis, listowanie plików oraz śledzenie modyfikacji od momentu utworzenia sesji. Pliki utworzone w jednym kroku są dostępne w kolejnych krokach. Długotrwałe przepływy pracy można wstrzymać, wznowić po kilku godzinach i kontynuować z zachowaniem pełnego stanu. Każda sesja obsługuje do pięciu procesów w tle.

Domyślnie zero-trust

Architektura bezpieczeństwa domyślnie zakłada, że kod jest niezaufany. Piaskownice nie mają bezpośredniego dostępu do sieci. Gdy wymagana jest łączność zewnętrzna, ruch kierowany jest przez serwer proxy typu egress działający poza piaskownicą. Proxy dopasowuje żądania wychodzące według domeny docelowej i wstrzykuje odpowiednie poświadczenia. Kod wykonywany wewnątrz piaskownicy nigdy nie ma dostępu do surowych kluczy API ani tajnych danych. Wbudowane limity czasu i zasobów wymuszają granice wykonywania kodu.

Agent API jako warstwa orkiestracji

Sandbox API będzie dostępne jako narzędzie w ramach Agent API, umożliwiając środowisku wykonawczemu orkiestracji delegowanie deterministycznego wykonywania kodu w trakcie przepływu pracy. Agent decyduje, co obliczyć, przekazuje zadanie do piaskownicy, obserwuje wynik i kontynuuje pętlę wnioskowania. Ten sam klucz API, ten sam pakiet kredytów.

Sandbox API wkrótce. Wkrótce uruchomimy prywatną wersję beta z dokumentacją dostępną pod adresem docs.perplexity.ai