Sandlådans API: Isolerad kodexekvering för AI-agenter

Agentbaserade arbetsflöden kräver ofta deterministisk exekvering. När en agent behöver köra en statistisk analys, generera ett diagram, validera en beräkning eller omvandla en datauppsättning, krävs deterministisk exekvering med exakta resultat. Agenten resonerar om vad som ska beräknas. Sandlådan beräknar det.

Byggt för Perplexity, nu tillgängligt som en tjänst

Vi byggde sandlådan för att stödja detta mönster internt. Perplexity Computer, vår finansagent och Djupgående forskning exekverar alla kod i sandlådemiljöer. Computer kör tusentals sessioner per minut. Finansagenten använder sandlådan för beräkningar av livedata för marknaden. Djupgående forskning använder den för filgenerering, databehandling och formatkonvertering mitt i ett arbetsflöde. Sandlådans API gör samma exekveringsmiljö tillgänglig som en fristående tjänst.

Stateful sessioner med permanenta filsystem

Varje session körs i sin egen isolerade Kubernetes-pod. Utvecklaren hanterar ingen av den underliggande infrastrukturen: vi hanterar etablering, nätverk och rensning. Som stödda språk finns Python, JavaScript och SQL, med tillgång till installation av paket per session vid körning.

Sessioner är stateful. Ett persistent filsystem monteras via FUSE. FUSE-demonen avlyssnar filåtgärder och översätter dem för agenten: läsa, skriva, lista filer och spåra ändringar sedan sessionen skapades. Filer som skapas i ett steg är tillgängliga i efterföljande steg. Långvariga arbetsflöden kan pausas, återupptas timmar senare och fortsätta med fullt intakt tillstånd. Varje session stöder upp till fem bakgrundsprocesser.

Nollförtoende som standard

Säkerhetsarkitekturen utgår från otillförlitlig kod som standard. Sandlådor har ingen direkt nätverksåtkomst. När utgående anslutning krävs går trafiken via en utgående proxy som körs utanför sandlådan. Proxyn matchar utgående begäranden efter måldomän och injicerar lämpliga autentiseringsuppgifter. Kod som exekveras inuti sandlådan har aldrig åtkomst till råa API-nycklar eller hemligheter. Inbyggda tidsgränser och resursgränser upprätthåller exekveringsgränser.

Agent-API som orkestreringslager

Sandlådans API kommer att finnas tillgängligt som ett verktyg inom Agent-API, vilket gör att orkestreringsmiljön kan delegera till deterministisk kodexekvering mitt i ett arbetsflöde. Agenten bestämmer vad som ska beräknas, skickar vidare till sandlådan, observerar resultatet och fortsätter sin resonemangsslinga. Samma API-nyckel, samma uppsättning krediter.

Sandlådans API kommer snart. Vi öppnar en privat beta inom kort, med dokumentation på docs.perplexity.ai