API de entorno aislado: Ejecución de código aislada para agentes de IA

Los flujos de trabajo de los agentes suelen requerir una ejecución determinista. Cuando un agente necesita realizar un análisis estadístico, generar un gráfico, validar un cálculo o transformar un conjunto de datos, requiere una ejecución determinista con resultados exactos. El agente razona sobre qué calcular. El entorno aislado lo calcula.

Diseñado para Perplexity, ahora disponible como servicio

Creamos el entorno aislado para respaldar este patrón internamente. Perplexity Computer, nuestro agente financiero y Investigación profunda ejecutan código dentro de entornos aislados. Computer ejecuta miles de sesiones por minuto. El agente financiero utiliza el entorno aislado para realizar cálculos de datos de mercado en tiempo real. Investigación profunda lo utiliza para la generación de archivos, el procesamiento de datos y la conversión de formatos a mitad del flujo de trabajo. La API de entorno aislado ofrece el mismo entorno de ejecución como un servicio independiente.

Sesiones con estado y sistemas de archivos persistentes

Cada sesión se ejecuta en su propio pod de Kubernetes aislado. El desarrollador no gestiona ninguna infraestructura subyacente: nosotros nos encargamos del aprovisionamiento, las redes y la limpieza. Los lenguajes compatibles son Python, JavaScript y SQL, con la posibilidad de instalar paquetes de tiempo de ejecución por sesión.

Las sesiones tienen estado. Se monta un sistema de archivos persistente a través de FUSE. El demonio FUSE intercepta las operaciones de archivo y las traduce para el agente: leer, escribir, listar archivos y realizar un seguimiento de las modificaciones desde la creación de la sesión. Los archivos creados en un paso están disponibles en los pasos siguientes. Los flujos de trabajo de larga duración pueden pausarse, reanudarse horas después y continuar con el estado intacto. Cada sesión admite hasta cinco procesos en segundo plano.

Confianza cero de forma predeterminada

La arquitectura de seguridad asume código no confiable de forma predeterminada. Los entornos aislados no tienen acceso directo a la red. Cuando se requiere conectividad saliente, el tráfico se enruta a través de un proxy de salida que se ejecuta fuera del entorno aislado. El proxy compara las solicitudes salientes por dominio de destino e inyecta las credenciales correspondientes. El código que se ejecuta dentro del entorno aislado nunca tiene acceso a claves de API sin procesar o secretos. Los tiempos de espera integrados y los límites de recursos imponen los límites de ejecución.

API de agentes como capa de orquestación

La API de entorno aislado estará disponible como herramienta dentro de la API de agentes, lo que permitirá que el entorno de ejecución de orquestación delegue en la ejecución de código determinista a mitad del flujo de trabajo. El agente decide qué calcular, lo envía al entorno aislado, observa el resultado y continúa su bucle de razonamiento. Misma clave de API, mismo conjunto de créditos.

La API de entorno aislado llegará pronto. Próximamente abriremos una beta privada con documentación en docs.perplexity.ai