API de entorno aislado: Ejecución de código para agentes IA

Los flujos de trabajo de agentes requieren frecuentemente una ejecución determinista. Cuando un agente necesita realizar un análisis estadístico, generar un gráfico, validar un cálculo o transformar un conjunto de datos, requiere una ejecución determinista con resultados exactos. El agente razona sobre qué calcular. El entorno aislado lo calcula.

Creado para Perplexity, ahora disponible como servicio

Creamos el entorno aislado para respaldar este patrón internamente. Perplexity Computer, nuestro Agente Financiero e Investigación profunda ejecutan código dentro de entornos aislados. Computer ejecuta miles de sesiones por minuto. El Agente Financiero utiliza el entorno aislado para cálculos de datos de mercado en tiempo real. Investigación profunda lo utiliza para la generación de archivos, el procesamiento de datos y la conversión de formatos durante el flujo de trabajo. La API del entorno aislado hace que el mismo entorno de ejecución esté disponible como un servicio independiente.

Sesiones con estado y sistemas de archivos persistentes

Cada sesión se ejecuta en su propio pod de Kubernetes aislado. El desarrollador no administra ninguna infraestructura subyacente: nosotros nos encargamos del aprovisionamiento, la red y la limpieza. Los lenguajes compatibles son Python, JavaScript y SQL, con instalación de paquetes en tiempo de ejecución disponible por sesión.

Las sesiones tienen estado. Un sistema de archivos persistente se monta a través de FUSE. El demonio FUSE intercepta las operaciones de archivo y las traduce para el agente: leer, escribir, listar archivos y rastrear modificaciones desde la creación de la sesión. Los archivos creados en un paso están disponibles en los pasos siguientes. Los flujos de trabajo de larga duración pueden pausarse, reanudarse horas después y continuar con el estado completo intacto. Cada sesión admite hasta cinco procesos en segundo plano.

Confianza cero por defecto

La arquitectura de seguridad asume código no confiable por defecto. Los entornos aislados no tienen acceso directo a la red. Cuando se requiere conectividad de salida, el tráfico se enruta a través de un proxy de salida que se ejecuta fuera del entorno aislado. El proxy hace coincidir las solicitudes de salida con el dominio de destino e inyecta las credenciales apropiadas. El código que se ejecuta dentro del entorno aislado nunca tiene acceso a claves API sin procesar o secretos. Los tiempos de espera integrados y los límites de recursos imponen límites de ejecución.

API de Agente como capa de orquestación

La API del entorno aislado estará disponible como una herramienta dentro de la API de Agente, lo que permitirá que el tiempo de ejecución de la orquestación delegue la ejecución de código determinista durante el flujo de trabajo. El agente decide qué calcular, lo envía al entorno aislado, observa el resultado y continúa su ciclo de razonamiento. Misma clave API, mismo conjunto de créditos.

La API del entorno aislado llegará pronto. Abriremos una versión beta privada en breve, con documentación en docs.perplexity.ai