SPACE, het sandboxplatform achter Computer, wordt open source

Sinds de lancering van Computer in februari is Perplexity een vroege pionier op het gebied van persoonlijke agents. We zetten ons in voor de lastige vraagstukken rond agentgovernance: het detecteren van onveilig gedrag en het voorkomen van ongecontroleerde agentactiviteit. In juli hebben we onze commercieel verkrijgbare sandboxprovider vervangen door een robuustere en veerkrachtigere eigen oplossing, die we SPACE hebben genoemd.

SPACE biedt een hoog beveiligingsniveau voor geavanceerde agentische systemen. Een recente reeks intensieve beveiligingstests toonde zelfs aan dat SPACE bestand is tegen technieken om netwerkbeperkingen te omzeilen, zoals die bij het incident met OpenAI/Hugging Face werden gebruikt.

Vandaag maken we SPACE open source om ontwikkelaars een basis te bieden voor het bouwen van veiligere agentsystemen en om bij te dragen aan sterkere beschermingsmaatregelen in de hele sector. Ontwikkelaars vinden de repository hier.

Agentgovernance is een technisch vraagstuk, en open source is essentieel om het op te lossen. Wanneer ontwikkelaars beschikken over systemen die ze kunnen inspecteren, aanpassen en waarop ze kunnen voortbouwen, vinden ze meer zwakke plekken en ontwikkelen ze betere tools. Door SPACE open source te maken, krijgen ontwikkelaars een in productie geteste basis voor agent-runtimes, met ingebouwde isolatie, statusherstel en controles voor inloggegevens en netwerktoegang.

Een basis leggen voor andere ontwikkelaars

Sandboxes houden agents veilig: ze geven hen toegang tot de tools en bestanden die ze nodig hebben om deze taken uit te voeren, terwijl gevoelige informatie beschermd blijft.

Door SPACE open source te maken, krijgen ontwikkelaars een startpunt voor de omgevingen waarin hun agents code uitvoeren en met bestanden werken. Teams kunnen zien hoe het SPACE-sandboxplatform werkt en voortbouwen op de implementatie ervan. Ook kunnen ze het aanpassen aan hun behoeften, in plaats van de onderliggende infrastructuur opnieuw te bouwen.

In Computer ondersteunt SPACE geïsoleerde code-uitvoering, pauzeren en hervatten, herstel en het vertakken van sessies. Die mogelijkheden vormen de basis voor assistenten die het volgende zouden kunnen:

• Gegevens analyseren: Een spreadsheet opschonen, berekeningen uitvoeren en grafieken maken in een aparte werkomgeving.
• Werk hervatten: Pauzeren zodat iemand een concept kan beoordelen of ontbrekende informatie kan aanleveren, en daarna verdergaan met behoud van de bestanden en de actieve status.
• Alternatieven verkennen: Twee manieren testen om een dataset op te schonen in aparte kopieën van de werkomgeving, of na een fout een eerdere versie van een bestand herstellen.

Deze voorbeelden laten zien hoe ontwikkelaars de gedocumenteerde isolatie- en sessiecontroles van SPACE zouden kunnen gebruiken. Platform- en beveiligingsengineers kunnen ook het isolatiemodel en de beveiligingsvoorbeelden bekijken voordat ze SPACE in hun eigen systemen integreren.

Betere beveiliging voor autonoom werk

Als we agents meer ruimte geven om problemen op te lossen, hebben we duidelijke grenzen nodig voor de manier waarop ze dat doen. We weten dat agents die legitieme taken uitvoeren toch beveiligingsgrenzen kunnen overschrijden wanneer ze proberen ontbrekende bestanden, mislukte verzoeken of geweigerde machtigingen te omzeilen.

We kunnen waarborgen in het model inbouwen om de kans op onveilig gedrag te verkleinen. Door onafhankelijke controles toe te voegen aan het omringende systeem, kan de schade worden beperkt als die waarborgen falen. Ze beperken waartoe een agent toegang heeft, ongeacht wat die besluit te doen.

SPACE plaatst die controles rond een aparte werkomgeving voor door agents gegenereerde code en bestanden. We hebben het ontworpen om isolatie, herstel en efficiënte uitvoering te combineren. Zo kunnen agents tijdens lange sessies nuttig werk verrichten zonder dat alleen op het model wordt vertrouwd om beveiligingsgrenzen te respecteren.

Draaien in een eigen besturingssysteem

Elke SPACE-sandbox draait in een kleine virtuele machine met een eigen besturingssysteem, waardoor er een isolatiegrens ontstaat tussen het werk van de agent en het hostsysteem. Een centrale besturingslaag (control plane) coördineert wanneer deze werkomgevingen worden aangemaakt, gepauzeerd, hervat of verwijderd.

SPACE behandelt de sandbox als niet-vertrouwd en beheert netwerktoegang en door het platform bewaarde inloggegevens buiten de sandbox. Agents kunnen verbinding maken met geautoriseerde services zonder dat die inloggegevens in hun werkomgeving worden opgeslagen.

Regelmatige bestandssnapshots en checkpoints van de volledige actieve omgeving bewaren de voortgang bij onderbrekingen. Om deze bewerkingen efficiënt te houden, slaat SPACE wijzigingen op in plaats van telkens complete omgevingen te kopiëren. Dat vermindert het werk dat nodig is om een sandbox aan te maken, te herstellen of te vertakken.

Betere prestaties in productie

Sinds juli draaien alle Computer-sessies op SPACE en worden er dagelijks miljoenen sandboxes mee aangemaakt. In een vergelijking op hetzelfde productieverkeer werden sandboxes drie tot vijf keer sneller aangemaakt dan bij onze vorige provider.

We hebben SPACE ook getest met agents die doelbewust probeerden de grenzen ervan te doorbreken. Onze gepubliceerde beveiligingsevaluatie vond in 108 pogingen geen enkele ontsnapping van de virtuele machine naar de host, maar sommige agents vonden wel manieren om netwerkbeperkingen te omzeilen. We hebben die zwakke plekken verholpen, en geen van beide geïdentificeerde aanvalsmethoden slaagde bij vervolgtests.

We hebben verwante zwakke plekken die we in andere sandboxplatforms vonden ook gemeld aan de betreffende leveranciers, waarmee we dat werk hebben uitgebreid tot buiten onze eigen infrastructuur.

Bijdragen aan veiligere agentische AI

SPACE maakt deel uit van een bredere inspanning om de systemen te versterken waarop mensen vertrouwen nu AI steeds meer werk overneemt. Via het Secure Intelligence Institute doen we beveiligingsonderzoek en werken we samen met de bredere community, waarbij we bevindingen vertalen naar praktische verdedigingsmaatregelen.

We zijn ervan overtuigd dat het open source maken van beveiligingstools ontwikkelaars meer mogelijkheden geeft om verdedigingsmechanismen te testen, zwakke plekken te vinden en veiligere AI-systemen te bouwen. We hebben tools gedeeld die verschillende onderdelen van dat werk aanpakken:

• BrowseSafe, een model en benchmark voor het detecteren van kwaadaardige instructies die in webpagina's verborgen zitten.
• Numbat, een beveiligingstoolkit die in juli open source is gemaakt en helpt bij het detecteren, onderzoeken en voorkomen van gevaarlijk agentgedrag op computers
• Bumblebee, een scanner die in mei open source is gemaakt en ontwikkelaarsmachines controleert op riskante softwarepakketten, extensies en configuraties van AI-tools

Door deze tools beschikbaar te stellen, kunnen andere teams ons werk inspecteren, het aanpassen aan hun behoeften en verbeteringen bijdragen. Met SPACE breiden we die aanpak uit naar de omgevingen waarin agents code uitvoeren en met bestanden werken.

Implementeren voor agentsystemen

Akamai heeft SPACE getest en gelanceerd op zijn cloudplatform en werkt samen met Perplexity om het beschikbaar te maken voor zijn klanten. Ook Crusoe werkt samen met Perplexity om SPACE toe te voegen aan zijn portfolio van Managed AI Services. CoreWeave heeft installatierichtlijnen gepubliceerd voor ontwikkelaars die SPACE ter evaluatie willen implementeren op CKS.

Ontwikkelaars kunnen beginnen met de installatie-instructies en beveiligingsrichtlijnen van SPACE om het voor hun eigen agentsystemen te implementeren. De repository en documentatie beschrijven de ondersteunde configuraties en meegeleverde componenten.