API de contorno illado: Execución de código para axentes

Os fluxos de traballo dos axentes adoitan requirir unha execución determinista. Cando un axente necesita executar unha análise estatística, xerar un gráfico, validar un cálculo ou transformar un conxunto de datos, precisa dunha execución determinista con resultados exactos. O axente razoa sobre que calcular. O contorno illado calculao.

Creamos o contorno illado para admitir este patrón internamente. Perplexity Computer, o noso axente financeiro e Investigación profunda executan código dentro de contornos illados. Computer executa milleiros de sesións por minuto. O axente financeiro usa o contorno illado para cálculos de datos de mercado en directo. Investigación profunda utilízao para a xeración de ficheiros, o procesamento de datos e a conversión de formatos a metade do fluxo de traballo. A API do contorno illado ofrece o mesmo ambiente de execución como servizo independente.

Cada sesión execútase no seu propio pod illado de Kubernetes. O programador non xestiona ningunha infraestrutura subxacente: nós encargámonos do aprovisionamento, a rede e a limpeza. Os linguaxes compatibles son Python, JavaScript e SQL, coa instalación de paquetes de tempo de execución dispoñible por sesión.

As sesións teñen estado. Móntase un sistema de ficheiros persistente a través de FUSE. O demo FUSE intercepta as operacións de ficheiro e tradúceas para o axente: ler, escribir, listar ficheiros e rastrexar modificacións desde a creación da sesión. Os ficheiros creados nun paso están dispoñibles nos pasos posteriores. Os fluxos de traballo de longa duración poden pausarse, retomarse horas despois e continuar co estado completo intacto. Cada sesión admite ata cinco procesos en segundo plano.

A arquitectura de seguridade asume código non verificado por defecto. Os contornos illados non teñen acceso directo á rede. Cando se require conectividade saínte, o tráfico diríxese a través dun proxy de saída que se executa fóra do contorno illado. O proxy fai coincidir as solicitudes saíntes por dominio de destino e inxecta as credenciais axeitadas. O código que se executa dentro do contorno illado nunca ten acceso a claves API sen procesar ou segredos. Os tempos de espera integrados e os límites de recursos fan cumprir os límites de execución.

A API do contorno illado estará dispoñible como ferramenta dentro da API de axentes, o que permitirá que o tempo de execución de orquestración se delegue á execución de código determinista a metade do fluxo de traballo. O axente decide que calcular, envíallo ao contorno illado, observa a saída e continúa co seu bucle de razoamento. A mesma clave API, o mesmo conxunto de créditos.

A API do contorno illado chegará en breve. Abriremos unha beta privada en breve, con documentación en docs.perplexity.ai

Creado para Perplexity, xa dispoñible como servizo

Sesións con estado con sistemas de ficheiros persistentes

Cero confianza por defecto

API de axentes como capa de orquestración