Sandbox API: Izolované vykonávanie kódu pre AI agentov

Agentické pracovné postupy často vyžadujú deterministické vykonávanie. Keď agent potrebuje spustiť štatistickú analýzu, vygenerovať graf, overiť výpočet alebo transformovať súbor údajov, vyžaduje si deterministické vykonávanie s presnými výstupmi. Agent premýšľa o tom, čo sa má vypočítať. Sandbox to vypočíta.

Vytvorené pre Perplexity, teraz dostupné ako služba

Sandbox sme vytvorili na internú podporu tohto vzorca. Perplexity Computer, náš finančný agent a Hĺbkový výskum – tí všetci spúšťajú kód v izolovaných prostrediach. Computer spúšťa tisíce relácií za minútu. Finančný agent využíva sandbox na výpočty údajov z trhu v reálnom čase. Hĺbkový výskum ho používa na generovanie súborov, spracovanie údajov a konverziu formátov uprostred pracovného postupu. Sandbox API sprístupňuje rovnaké prostredie na vykonávanie ako samostatnú službu.

Stavové relácie s trvalými súborovými systémami

Každá relácia beží vo vlastnom izolovanom pode Kubernetes. Vývojár nespravuje žiadnu zo základných infraštruktúr: staráme sa o zriaďovanie, sieťové prepojenie a čistenie. Podporované jazyky sú Python, JavaScript a SQL s možnosťou inštalácie balíkov v čase behu pre každú reláciu.

Relácie sú stavové. Trvalý súborový systém je pripojený cez FUSE. Démón FUSE zachytáva operácie so súbormi a prekladá ich pre agenta: čítanie, zápis, zoznam súborov a sledovanie úprav od vytvorenia relácie. Súbory vytvorené v jednom kroku sú k dispozícii v nasledujúcich krokoch. Dlhotrvajúce pracovné postupy sa môžu pozastaviť, o hodiny neskôr obnoviť a pokračovať s úplne zachovaným stavom. Každá relácia podporuje až päť procesov na pozadí.

Predvolene nulová dôvera

Bezpečnostná architektúra štandardne predpokladá nedôveryhodný kód. Sandboxy nemajú žiadny priamy prístup k sieti. Keď sa vyžaduje odchádzajúce pripojenie, prevádzka sa smeruje cez výstupný proxy server bežiaci mimo sandboxu. Proxy server porovnáva odchádzajúce požiadavky podľa cieľovej domény a vkladá príslušné poverenia. Kód spustený vo vnútri sandboxu nemá nikdy prístup k nespracovaným kľúčom API ani tajným kľúčom. Vstupy pre časové limity a limity zdrojov vynucujú hranice vykonávania.

Agent API ako orchestračná vrstva

Sandbox API bude k dispozícii ako nástroj v rámci Agent API, čo orchestračnému modulu runtime umožní delegovať úlohu na deterministické vykonávanie kódu uprostred pracovného postupu. Agent rozhodne, čo sa má vypočítať, odošle požiadavku do sandboxu, skontroluje výstup a pokračuje vo svojej slučke uvažovania. Rovnaký kľúč API, rovnaká sada kredity.

Sandbox API čoskoro pribudne. Čoskoro otvoríme súkromnú beta verziu s dokumentáciou na adrese docs.perplexity.ai