API do Sandbox: Execução de código isolada para agentes de IA

Os fluxos de trabalho baseados em agentes exigem frequentemente execução determinística. Quando um agente precisa executar uma análise estatística, gerar um gráfico, validar um cálculo ou transformar um conjunto de dados, ele precisa de uma execução determinística com saídas exatas. O agente raciocina sobre o que calcular. O sandbox calcula.

Desenvolvido para o Perplexity, agora disponível como serviço

Criamos o Sandbox para apoiar este padrão internamente. O Perplexity Computer, o nosso agente financeiro e o Deep Research executam código dentro de ambientes em sandbox. O Computer executa milhares de sessões por minuto. O agente financeiro utiliza o Sandbox para cálculos de dados de mercado em tempo real. O Pesquisa aprofundada utiliza-o para geração de ficheiros, processamento de dados e conversão de formatos a meio do fluxo de trabalho. A API do Sandbox disponibiliza o mesmo ambiente de execução como um serviço autónomo.

Sessões com estado com sistemas de ficheiros persistentes

Cada sessão é executada no seu próprio pod Kubernetes isolado. O programador não gere nenhuma da infraestrutura subjacente: nós tratamos do aprovisionamento, da rede e da limpeza. Os idiomas suportados são Python, JavaScript e SQL, estando disponível a instalação de pacotes de tempo de execução por sessão.

As sessões têm estado. Um sistema de ficheiros persistente é montado através do FUSE. O daemon do FUSE interseta as operações de ficheiro e traduz-as para o agente: ler, escrever, listar ficheiros e acompanhar modificações desde a criação da sessão. Os ficheiros criados num passo estão disponíveis nos passos subsequentes. Os fluxos de trabalho de longa execução podem fazer uma pausa, retomar horas mais tarde e continuar com o estado totalmente intacto. Cada sessão suporta até cinco processos em segundo plano.

Zero-trust por predefinição

A arquitetura de segurança assume código não verificado por predefinição. Os sandboxes não têm acesso direto à rede. Quando é necessária conectividade de saída, o tráfego é encaminhado através de um proxy de saída executado fora do sandbox. O proxy corresponde aos pedidos de saída por domínio de destino e injeta as credenciais apropriadas. O código executado dentro do sandbox nunca tem acesso a chaves API ou segredos brutos. Os limites de tempo e de recursos incorporados impõem limites de execução.

API de agentes como a camada de orquestração

A API do Sandbox estará disponível como uma ferramenta dentro da API de agentes, permitindo que o tempo de execução de orquestração delegue na execução de código determinística a meio do fluxo de trabalho. O agente decide o que calcular, envia para o Sandbox, observa a saída e continua o seu ciclo de raciocínio. A mesma chave API, o mesmo conjunto de créditos.

A API do Sandbox estará disponível em breve. Vamos abrir uma beta privada em breve, com documentação em docs.perplexity.ai