SPACE, sandbox-plattformen bak Computer, blir åpen kildekode

Siden lanseringen av Computer i februar har Perplexity vært en tidlig pioner innen personlige agenter. Vi har forpliktet oss til å ta tak i de vanskelige problemene innen agentstyring: å oppdage usikker atferd og forhindre ukontrollert agentaktivitet. I juli erstattet vi vår kommersielt tilgjengelige sandbox-leverandør med en mer robust og motstandsdyktig intern løsning som vi kalte SPACE.

SPACE gir høy sikkerhet for avanserte agentbaserte systemer. En nylig omfattende runde med sikkerhetstesting viste faktisk at SPACE står imot teknikker for nettverksomgåelse av samme type som ble brukt i hendelsen med OpenAI/Hugging Face.

I dag gjør vi SPACE tilgjengelig som åpen kildekode for å gi utviklere et grunnlag for å bygge tryggere agentsystemer og bidra til sterkere beskyttelse i hele bransjen. Utviklere finner repositoriet her.

Agentstyring er et ingeniørproblem, og åpen kildekode er avgjørende for å løse det. Når utviklere har systemer de kan granske, tilpasse og bygge videre på, finner de flere svakheter og utvikler bedre verktøy. Ved å gjøre SPACE til åpen kildekode får utviklere et produksjonstestet fundament for agentkjøremiljøer, med innebygd isolasjon, tilstandsgjenoppretting og kontroll av legitimasjon og nettverk.

Et fundament for andre utviklere

Sandboxer holder agentene sikre: De får tilgang til verktøyene og filene de trenger for å fullføre disse oppgavene, samtidig som sensitiv informasjon forblir beskyttet.

Ved å gjøre SPACE til åpen kildekode får utviklere et utgangspunkt for miljøene der agentene deres kjører kode og arbeider med filer. Team kan se hvordan sandbox-plattformen SPACE fungerer, og bygge videre på implementeringen. De kan også tilpasse den til egne behov i stedet for å gjenskape den underliggende infrastrukturen.

I Computer støtter SPACE isolert kodekjøring, pause og gjenopptakelse, gjenoppretting og forgrening av økter. Disse egenskapene danner grunnlaget for assistenter som kan:

• Analysere data: Rydde i et regneark, kjøre beregninger og lage diagrammer i et separat arbeidsområde.
• Gjenoppta arbeid: Sette arbeidet på pause mens noen gjennomgår et utkast eller fyller inn manglende informasjon, og deretter fortsette med filene og kjøretilstanden bevart.
• Utforske alternativer: Teste to måter å rydde et datasett på i separate kopier av arbeidsområdet, eller gjenopprette en tidligere fil etter en feil.

Disse eksemplene viser hvordan utviklere kan bruke de dokumenterte isolasjons- og øktkontrollene i SPACE. Plattform- og sikkerhetsingeniører kan også gå gjennom isolasjonsmodellen og sikkerhetseksemplene før de integrerer SPACE i sine egne systemer.

Styrket sikkerhet for autonomt arbeid

Når vi gir agenter større spillerom til å løse problemer, trenger vi tydelige grenser for hvordan de gjør det. Vi vet at agenter som utfører legitime oppgaver, likevel kan krysse sikkerhetsgrenser når de prøver å omgå manglende filer, mislykkede forespørsler eller avslåtte tillatelser.

Vi kan innføre sikkerhetstiltak i modellen for å redusere sannsynligheten for usikker atferd. Uavhengige kontroller i det omkringliggende systemet bidrar til å begrense skaden hvis disse tiltakene svikter. De begrenser hva en agent har tilgang til, uansett hva den bestemmer seg for å gjøre.

SPACE legger disse kontrollene rundt et separat arbeidsområde for agentgenerert kode og filer. Vi har utformet det for å kombinere isolasjon, gjenoppretting og effektiv kjøring. Dermed kan agenter utføre nyttig arbeid over lange økter uten at man må stole på at modellen alene respekterer sikkerhetsgrensene.

Kjører i sitt eget operativsystem

Hver SPACE-sandbox kjører i en liten virtuell maskin med sitt eget operativsystem, noe som skaper en isolasjonsgrense mellom agentens arbeid og vertssystemet. Et sentralt kontrollplan koordinerer når disse arbeidsområdene opprettes, settes på pause, gjenopptas eller fjernes.

SPACE behandler sandboxen som upålitelig og håndterer nettverkstilgang og plattformens egen legitimasjon utenfor sandboxen. Agenter kan koble til autoriserte tjenester uten at denne legitimasjonen lagres i arbeidsmiljøet deres.

Hyppige øyeblikksbilder av filer og sjekkpunkter av hele kjøremiljøet bevarer fremdriften ved avbrudd. For å holde disse operasjonene effektive lagrer SPACE endringer i stedet for å kopiere hele miljøer gang på gang. Dette reduserer arbeidet som kreves for å opprette, gjenopprette eller forgrene en sandbox.

Bedre ytelse i produksjon

Siden juli har SPACE drevet alle Computer-økter og håndtert millioner av sandbox-opprettelser per dag. I en sammenligning på den samme produksjonstrafikken gikk opprettelsen av sandboxer tre til fem ganger raskere enn med vår tidligere leverandør.

Vi testet også SPACE mot agenter som bevisst forsøkte å bryte gjennom grensene. Vår publiserte sikkerhetsevaluering viste at ingen av de 108 forsøkene klarte å bryte seg ut av den virtuelle maskinen og inn på verten, men noen agenter fant måter å omgå nettverksbegrensningene på. Vi utbedret disse svakhetene, og ingen av de to identifiserte angrepsmetodene lyktes i oppfølgingstestingen.

Vi har også varslet leverandørene av andre sandbox-plattformer om relaterte svakheter vi fant hos dem, slik at arbeidet strekker seg utover vår egen infrastruktur.

Et bidrag til tryggere agentbasert AI

SPACE er en del av et bredere arbeid for å styrke systemene folk er avhengige av, etter hvert som AI tar på seg mer arbeid. Gjennom Secure Intelligence Institute driver vi sikkerhetsforskning og samarbeider med det bredere fellesskapet for å omsette funnene til praktiske forsvarstiltak.

Vi mener at det å gjøre sikkerhetsverktøy til åpen kildekode gir utviklere flere måter å teste forsvar, finne svakheter og bygge tryggere AI-systemer på. Vi har delt verktøy som tar for seg ulike deler av dette arbeidet:

• BrowseSafe, en modell og en referansetest for å oppdage ondsinnede instruksjoner skjult på nettsider.
• Numbat, et sikkerhetsverktøysett som ble gjort til åpen kildekode i juli, og som hjelper med å oppdage, undersøke og forhindre farlig agentatferd på datamaskiner
• Bumblebee, en skanner som ble gjort til åpen kildekode i mai, og som sjekker utviklermaskiner for risikable programvarepakker, utvidelser og konfigurasjoner av AI-verktøy

Når vi gjør disse verktøyene tilgjengelige, kan andre team granske arbeidet vårt, tilpasse det til egne behov og bidra med forbedringer. Med SPACE utvider vi denne tilnærmingen til miljøene der agenter kjører kode og arbeider med filer.

Distribusjon i agentsystemer

Akamai har testet og lansert SPACE på sin skyplattform og samarbeider med Perplexity om å tilby løsningen til kundene sine. Crusoe samarbeider også med Perplexity om å legge SPACE til i sin Managed AI Services-portefølje. CoreWeave har publisert en veiledning for oppsett for utviklere som vil distribuere SPACE på CKS for å evaluere løsningen.

Utviklere kan starte med installasjonsinstruksjonene og sikkerhetsveiledningen for SPACE for å distribuere det i sine egne agentsystemer. Repositoriet og dokumentasjonen definerer de støttede konfigurasjonene og de inkluderte komponentene.