Sandbox API: esecuzione di codice isolato per agenti AI

I flussi di lavoro agentici richiedono spesso un'esecuzione deterministica. Quando un agente deve eseguire un'analisi statistica, generare un grafico, convalidare un calcolo o trasformare un set di dati, necessita di un'esecuzione deterministica con output esatti. L'agente ragiona su cosa calcolare. La sandbox lo calcola.

Realizzato per Perplexity, ora disponibile come servizio

Abbiamo creato la sandbox per supportare internamente questo modello. Perplexity Computer, il nostro Finance Agent e Deep Research eseguono tutto il codice all'interno di ambienti sandbox. Computer esegue migliaia di sessioni al minuto. Il Finance Agent utilizza la sandbox per i calcoli dei dati di mercato in tempo reale. Deep Research la utilizza per la generazione di file, l'elaborazione dei dati e la conversione di formato durante il flusso di lavoro. La sandbox API rende disponibile lo stesso ambiente di esecuzione come servizio autonomo.

Sessioni stateful con file system persistenti

Ogni sessione viene eseguita nel proprio pod Kubernetes isolato. Lo sviluppatore non gestisce alcuna infrastruttura sottostante: ci occupiamo noi del provisioning, della rete e della pulizia. I linguaggi supportati sono Python, JavaScript e SQL, con installazione di pacchetti runtime disponibile per ogni sessione.

Le sessioni sono stateful. Un file system persistente viene montato tramite FUSE. Il demone FUSE intercetta le operazioni sui file e le traduce per l'agente: lettura, scrittura, elenco file e tracciamento delle modifiche dalla creazione della sessione. I file creati in una fase sono disponibili nelle fasi successive. I flussi di lavoro a lunga esecuzione possono essere messi in pausa, ripresi ore dopo e ripresi con lo stato completo intatto. Ogni sessione supporta fino a cinque processi in background.

Zero-trust per impostazione predefinita

L'architettura di sicurezza presuppone codice non attendibile per impostazione predefinita. Le sandbox non hanno accesso diretto alla rete. Quando è richiesta la connettività in uscita, il traffico viene instradato attraverso un proxy di uscita in esecuzione all'esterno della sandbox. Il proxy associa le richieste in uscita al dominio di destinazione e inserisce le credenziali appropriate. Il codice in esecuzione all'interno della sandbox non ha mai accesso a chiavi API non elaborate o segreti. I timeout integrati e i limiti delle risorse impongono confini di esecuzione.

Agent API come livello di orchestrazione

La sandbox API sarà disponibile come strumento all'interno dell'Agent API, consentendo al runtime di orchestrazione di delegare l'esecuzione del codice deterministico a metà del flusso di lavoro. L'agente decide cosa calcolare, invia alla sandbox, osserva l'output e continua il suo ciclo di ragionamento. Stessa chiave API, stesso set di crediti.

La sandbox API sarà presto disponibile. Apriremo a breve una beta privata, con documentazione su docs.perplexity.ai