Sandbox API: Execução de código isolada para agentes de IA

Fluxos de trabalho de agentes frequentemente requerem execução determinística. Quando um agente precisa executar uma análise estatística, gerar um gráfico, validar um cálculo ou transformar um conjunto de dados, ele precisa de execução determinística com saídas exatas. O agente raciocina sobre o que computar. O sandbox computa.

Criado para o Perplexity, agora disponível como um serviço

Criamos o sandbox para oferecer suporte a esse padrão internamente. O Perplexity Computer, nosso Agente Financeiro e a Pesquisa profunda executam códigos dentro de ambientes isolados por sandbox. O Computer executa milhares de sessões por minuto. O Agente Financeiro usa o sandbox para cálculos de dados de mercado em tempo real. A Pesquisa profunda usa-o para geração de arquivos, processamento de dados e conversão de formato durante o fluxo de trabalho. A Sandbox API torna o mesmo ambiente de execução disponível como um serviço independente.

Sessões com estado e sistemas de arquivos persistentes

Cada sessão é executada em seu próprio pod Kubernetes isolado. O desenvolvedor não gerencia nenhuma das infraestruturas subjacentes: nós cuidamos do provisionamento, da rede e da limpeza. As linguagens suportadas são Python, JavaScript e SQL, com instalação de pacotes de runtime disponível por sessão.

As sessões são baseadas em estado. Um sistema de arquivos persistente é montado via FUSE. O daemon do FUSE intercepta operações de arquivo e as traduz para o agente: ler, gravar, listar arquivos e rastrear modificações desde a criação da sessão. Arquivos criados em uma etapa estão disponíveis nas etapas subsequentes. Fluxos de trabalho de longa execução podem pausar, retomar horas depois e continuar com o estado completo intacto. Cada sessão suporta até cinco processos em segundo plano.

Zero-trust por padrão

A arquitetura de segurança assume código não confiável por padrão. Sandboxes não possuem acesso direto à rede. Quando a conectividade de saída é necessária, o tráfego é roteado por um proxy de saída executado fora do sandbox. O proxy corresponde às solicitações de saída por domínio de destino e injeta as credenciais apropriadas. O código executado dentro do sandbox nunca tem acesso a chaves de API brutas ou segredos. Timeouts integrados e limites de recursos impõem limites de execução.

Agent API como a camada de orquestração

A Sandbox API estará disponível como uma ferramenta dentro da Agent API, permitindo que o runtime de orquestração delegue a execução de código determinístico durante o fluxo de trabalho. O agente decide o que computar, despacha para o sandbox, observa a saída e continua seu ciclo de raciocínio. A mesma chave de API, o mesmo conjunto de créditos.

A Sandbox API estará disponível em breve. Abriremos um beta privado em breve, com documentação em docs.perplexity.ai