SPACE, sandboxplatformen bag Computer, bliver open source

Siden lanceringen af Computer i februar har Perplexity været en tidlig pioner inden for personlige agenter. Vi er dedikerede til at løse de svære problemer inden for agentstyring: at opdage usikker adfærd og forhindre løbsk agentaktivitet. I juli erstattede vi vores kommercielt tilgængelige sandboxudbyder med en mere robust og modstandsdygtig intern løsning, som vi kaldte SPACE.

SPACE giver et højt sikkerhedsniveau for avancerede agentbaserede systemer. Faktisk viste en nylig omfattende serie af sikkerhedstests, at SPACE er modstandsdygtig over for teknikker til omgåelse af netværksbegrænsninger som dem, der blev brugt i OpenAI/Hugging Face-hændelsen.

I dag gør vi SPACE til open source for at give udviklere et fundament til at bygge sikrere agentsystemer og bidrage til stærkere beskyttelse på tværs af branchen. Udviklere kan finde repositoriet her.

Agentstyring er et ingeniørproblem, og open source er afgørende for at løse det. Når udviklere har systemer, de kan undersøge, tilpasse og bygge videre på, finder de flere svagheder og udvikler bedre værktøjer. Når SPACE bliver open source, får udviklere et produktionstestet fundament for agent-runtimes med indbygget isolation, gendannelse af tilstand samt kontrol med legitimationsoplysninger og netværk.

Et fundament for andre udviklere

Sandboxe holder agenter sikre og giver dem adgang til de værktøjer og filer, de skal bruge for at udføre disse opgaver, mens følsomme oplysninger forbliver beskyttede.

Når SPACE bliver open source, får udviklere et udgangspunkt for de miljøer, hvor deres agenter kører kode og arbejder med filer. Teams kan se, hvordan SPACE-sandboxplatformen fungerer, og bygge videre på dens implementering. De kan også tilpasse den til deres behov i stedet for at genskabe den underliggende infrastruktur.

I Computer understøtter SPACE isoleret kodeudførelse, pause og genoptagelse, gendannelse og forgrening af sessioner. Disse funktioner danner grundlaget for assistenter, der kunne:

• Analysere data: Rense et regneark, køre beregninger og oprette diagrammer i et separat arbejdsmiljø.
• Genoptage arbejdet: Holde pause, så en person kan gennemgå et udkast eller levere manglende oplysninger, og derefter fortsætte med filer og kørende tilstand bevaret.
• Udforske alternativer: Teste to måder at rense et datasæt på i separate kopier af arbejdsmiljøet eller gendanne en tidligere fil efter en fejl.

Disse eksempler viser, hvordan udviklere kan bruge de dokumenterede isolations- og sessionskontroller i SPACE. Platform- og sikkerhedsingeniører kan også gennemgå isolationsmodellen og sikkerhedseksemplerne, før de integrerer SPACE i deres egne systemer.

Øget sikkerhed for autonomt arbejde

Når vi giver agenter mere spillerum til at løse problemer, har vi brug for klare grænser for, hvordan de gør det. Vi ved, at agenter, der udfører legitime opgaver, stadig kan krydse sikkerhedsgrænser, når de forsøger at omgå manglende filer, mislykkede anmodninger eller nægtede tilladelser.

Vi kan indføre sikkerhedsforanstaltninger i modellen for at mindske sandsynligheden for usikker adfærd. Ved at tilføje uafhængige kontroller i det omgivende system kan skaden begrænses, hvis disse sikkerhedsforanstaltninger svigter. Kontrollerne begrænser, hvad en agent har adgang til, uanset hvad den beslutter sig for at gøre.

SPACE lægger disse kontroller omkring et separat arbejdsmiljø til agentgenereret kode og filer. Vi har designet platformen til at kombinere isolation, gendannelse og effektiv udførelse. Det gør det muligt for agenter at udføre nyttigt arbejde i lange sessioner uden at være afhængige af, at modellen alene respekterer sikkerhedsgrænserne.

Kører i sit eget operativsystem

Hver SPACE-sandbox kører i en lille virtuel maskine med sit eget operativsystem, hvilket skaber en isolationsgrænse mellem agentens arbejde og værtssystemet. Et centralt kontrolplan koordinerer, hvornår disse arbejdsmiljøer oprettes, sættes på pause, genoptages eller fjernes.

SPACE behandler sandboxen som ikke-betroet og administrerer netværksadgang og platformens legitimationsoplysninger uden for sandboxen. Agenter kan oprette forbindelse til godkendte tjenester, uden at disse legitimationsoplysninger gemmes i deres arbejdsmiljø.

Hyppige snapshots af filer og checkpoints af hele det kørende miljø bevarer fremskridtet ved afbrydelser. For at holde disse operationer effektive gemmer SPACE ændringer i stedet for gentagne gange at kopiere hele miljøer. Det reducerer det arbejde, der kræves for at oprette, gendanne eller forgrene en sandbox.

Bedre ydeevne i produktion

Siden juli har SPACE drevet alle Computer-sessioner og håndteret millioner af sandboxoprettelser om dagen. I en sammenligning på den samme produktionstrafik gik det tre til fem gange hurtigere at oprette sandboxe end hos vores tidligere udbyder.

Vi har også testet SPACE mod agenter, der bevidst forsøgte at bryde igennem dens grænser. Vores offentliggjorte sikkerhedsevaluering fandt intet udbrud fra den virtuelle maskine til værten i 108 forsøg, men nogle forsøg fandt veje uden om netværksbegrænsningerne. Vi har udbedret disse svagheder, og ingen af de to identificerede angrebsmetoder lykkedes i den efterfølgende test.

Vi har også gjort de berørte leverandører opmærksomme på relaterede svagheder, som vi fandt i andre sandboxplatforme, og dermed udvidet arbejdet ud over vores egen infrastruktur.

Et bidrag til sikrere agentbaseret AI

SPACE er en del af en bredere indsats for at styrke de systemer, folk er afhængige af, efterhånden som AI påtager sig mere arbejde. Gennem Secure Intelligence Institute udfører vi sikkerhedsforskning og samarbejder med det bredere fællesskab om at omsætte resultaterne til praktiske forsvarsmekanismer.

Vi mener, at når vi gør sikkerhedsværktøjer open source, får udviklere flere muligheder for at teste forsvar, finde svagheder og bygge sikrere AI-systemer. Vi har delt værktøjer, der dækker forskellige dele af dette arbejde:

• BrowseSafe, en model og et benchmark til at opdage ondsindede instruktioner skjult på websider.
• Numbat, et sikkerhedsværktøjssæt, der blev gjort open source i juli, og som hjælper med at opdage, undersøge og forhindre farlig agentadfærd på computere
• Bumblebee, en scanner, der blev gjort open source i maj, og som tjekker udvikleres maskiner for risikable softwarepakker, udvidelser og konfigurationer af AI-værktøjer

Når vi gør disse værktøjer tilgængelige, kan andre teams undersøge vores arbejde, tilpasse det til deres behov og bidrage med forbedringer. Med SPACE udvider vi den tilgang til de miljøer, hvor agenter udfører kode og arbejder med filer.

Udrulning til agentsystemer

Akamai har testet og lanceret SPACE på sin cloudplatform og samarbejder med Perplexity om at gøre løsningen tilgængelig for sine kunder. Crusoe har også indgået et partnerskab med Perplexity om at tilføje SPACE til sin Managed AI Services-portefølje. CoreWeave har udgivet en opsætningsvejledning til udviklere, der ønsker at udrulle SPACE til evaluering på CKS.

Udviklere kan starte med opsætningsvejledningen og sikkerhedsretningslinjerne for SPACE for at udrulle platformen til deres egne agentsystemer. Repositoriet og dokumentationen beskriver de understøttede konfigurationer og medfølgende komponenter.