SPACE diventa open source: la piattaforma sandbox alla base di Computer

Dal lancio di Computer a febbraio, Perplexity è stata tra i pionieri degli agenti personali. Siamo impegnati ad affrontare i problemi più difficili della governance degli agenti: rilevare i comportamenti non sicuri e prevenire le attività di agenti fuori controllo. A luglio abbiamo sostituito il nostro fornitore commerciale di sandbox con una soluzione interna più robusta e resiliente, che abbiamo chiamato SPACE.

SPACE offre un elevato livello di sicurezza per i sistemi agentici avanzati. Una recente serie intensiva di test di sicurezza ha infatti dimostrato la resilienza di SPACE contro tecniche di aggiramento della rete come quelle utilizzate nell'incidente OpenAI/Hugging Face.

Oggi rendiamo open source SPACE per offrire agli sviluppatori una base su cui costruire sistemi di agenti più sicuri e contribuire a rafforzare le protezioni in tutto il settore. Gli sviluppatori possono accedere al repository qui.

La governance degli agenti è un problema di ingegneria e l'open source è essenziale per risolverlo. Quando gli sviluppatori dispongono di sistemi che possono esaminare, adattare ed estendere, individuano più vulnerabilità e sviluppano strumenti migliori. Rendere SPACE open source offre agli sviluppatori una base collaudata in produzione per i runtime degli agenti, con isolamento, ripristino dello stato e controlli su credenziali e rete integrati.

Una base per altri sviluppatori

Le sandbox mantengono gli agenti al sicuro: consentono loro di accedere agli strumenti e ai file necessari per completare queste attività, proteggendo al tempo stesso le informazioni sensibili.

Rendere SPACE open source offre agli sviluppatori un punto di partenza per gli ambienti in cui i loro agenti eseguono codice e lavorano con i file. I team possono vedere come funziona la piattaforma sandbox SPACE e sviluppare a partire dalla sua implementazione. Possono anche adattarla alle proprie esigenze invece di ricreare l'infrastruttura sottostante.

In Computer, SPACE supporta l'esecuzione isolata del codice, la pausa e la ripresa, il ripristino e la ramificazione delle sessioni. Queste funzionalità costituiscono la base per assistenti in grado di:

• Analizzare dati: pulire un foglio di calcolo, eseguire calcoli e creare grafici in uno spazio di lavoro separato.
• Riprendere il lavoro: sospendere l'attività per consentire a qualcuno di rivedere una bozza o fornire informazioni mancanti, quindi riprendere conservando i file e lo stato di esecuzione.
• Esplorare alternative: testare due modi diversi di pulire un set di dati in copie separate dello spazio di lavoro o ripristinare un file precedente dopo un errore.

Questi esempi mostrano come gli sviluppatori potrebbero usare i controlli di isolamento e di sessione documentati di SPACE. Gli ingegneri di piattaforma e di sicurezza possono inoltre esaminare il modello di isolamento e gli esempi di sicurezza prima di integrare SPACE nei propri sistemi.

Più sicurezza per il lavoro autonomo

Quando diamo agli agenti più libertà nel risolvere i problemi, servono limiti chiari sul modo in cui lo fanno. Sappiamo che anche agenti impegnati in attività legittime possono oltrepassare i confini di sicurezza quando cercano di aggirare file mancanti, richieste non riuscite o permessi negati.

Possiamo introdurre misure di protezione nel modello per ridurre la probabilità di comportamenti non sicuri. Aggiungere controlli indipendenti nel sistema circostante aiuta a contenere i danni se queste protezioni falliscono. Questi controlli limitano ciò a cui un agente può accedere, indipendentemente da ciò che decide di fare.

SPACE applica questi controlli a uno spazio di lavoro separato per il codice e i file generati dagli agenti. Lo abbiamo progettato per combinare isolamento, ripristino ed esecuzione efficiente. In questo modo gli agenti possono svolgere un lavoro utile durante sessioni lunghe senza affidarsi solo al modello per il rispetto dei confini di sicurezza.

Esecuzione in un sistema operativo dedicato

Ogni sandbox SPACE viene eseguita all'interno di una piccola macchina virtuale con un proprio sistema operativo, creando un confine di isolamento tra il lavoro dell'agente e il sistema host. Un piano di controllo centrale coordina quando questi spazi di lavoro vengono creati, messi in pausa, ripresi o rimossi.

SPACE considera la sandbox non attendibile e gestisce l'accesso alla rete e le credenziali detenute dalla piattaforma al di fuori della sandbox. Gli agenti possono connettersi ai servizi autorizzati senza che tali credenziali vengano memorizzate nel loro ambiente di lavoro.

Snapshot frequenti dei file e checkpoint dell'intero ambiente in esecuzione preservano i progressi in caso di interruzioni. Per mantenere efficienti queste operazioni, SPACE memorizza le modifiche anziché copiare ripetutamente interi ambienti. Ciò riduce il lavoro necessario per creare, ripristinare o ramificare una sandbox.

Prestazioni migliori in produzione

Da luglio SPACE alimenta tutte le sessioni di Computer e gestisce milioni di creazioni di sandbox al giorno. In un confronto sullo stesso traffico di produzione, la creazione delle sandbox è risultata da tre a cinque volte più veloce rispetto al nostro fornitore precedente.

Abbiamo inoltre testato SPACE contro agenti che cercavano deliberatamente di violarne i confini. La nostra valutazione di sicurezza pubblicata non ha rilevato alcuna fuga dalla macchina virtuale all'host in 108 tentativi, ma alcuni agenti hanno trovato modi per aggirare le restrizioni di rete. Abbiamo corretto queste vulnerabilità e nei test successivi nessuno dei due metodi di attacco individuati ha avuto successo.

Abbiamo anche segnalato ai rispettivi fornitori vulnerabilità analoghe individuate in altre piattaforme sandbox, estendendo questo lavoro oltre la nostra infrastruttura.

Contribuire a un'IA agentica più sicura

SPACE fa parte di un impegno più ampio per rafforzare i sistemi su cui le persone fanno affidamento man mano che l'IA si fa carico di una parte crescente del lavoro. Attraverso il Secure Intelligence Institute conduciamo ricerche sulla sicurezza e collaboriamo con la comunità più ampia, traducendo i risultati in difese concrete.

Crediamo che rendere open source gli strumenti di sicurezza offra agli sviluppatori più modi per testare le difese, individuare le vulnerabilità e costruire sistemi di IA più sicuri. Abbiamo condiviso strumenti che affrontano diversi aspetti di questo lavoro:

• BrowseSafe, un modello e un benchmark per rilevare istruzioni dannose nascoste nelle pagine web.
• Numbat, un toolkit di sicurezza reso open source a luglio, che aiuta a rilevare, analizzare e prevenire i comportamenti pericolosi degli agenti sui computer
• Bumblebee, uno scanner reso open source a maggio, che controlla i computer degli sviluppatori alla ricerca di pacchetti software, estensioni e configurazioni di strumenti di IA rischiosi

Rendere disponibili questi strumenti permette ad altri team di esaminare il nostro lavoro, adattarlo alle proprie esigenze e contribuire con miglioramenti. Con SPACE estendiamo questo approccio agli ambienti in cui gli agenti eseguono codice e lavorano con i file.

Implementazione per i sistemi di agenti

Akamai ha testato e lanciato SPACE sulla propria piattaforma cloud e sta collaborando con Perplexity per renderlo disponibile ai propri clienti. Anche Crusoe ha avviato una partnership con Perplexity per aggiungere SPACE al proprio portafoglio di Managed AI Services. CoreWeave ha pubblicato una guida alla configurazione per gli sviluppatori che desiderano distribuire SPACE su CKS a scopo di valutazione.

Gli sviluppatori possono partire dalle istruzioni di configurazione e dalle indicazioni di sicurezza di SPACE per implementarlo nei propri sistemi di agenti. Il repository e la documentazione definiscono le configurazioni supportate e i componenti inclusi.