SPACE, sandlådeplattformen bakom Computer, blir öppen källkod

Sedan lanseringen av Computer i februari har Perplexity varit en tidig pionjär inom personliga agenter. Vi har åtagit oss att ta itu med de svåra problemen inom agentstyrning: att upptäcka osäkra beteenden och förhindra okontrollerad agentaktivitet. I juli ersatte vi vår kommersiellt tillgängliga sandlådeleverantör med en mer robust och motståndskraftig egenutvecklad lösning som vi döpte till SPACE.

SPACE ger hög säkerhet för avancerade agentiska system. En nyligen genomförd omfattande serie säkerhetstester visade faktiskt att SPACE står emot tekniker för att kringgå nätverksbegränsningar, liknande dem som användes vid incidenten med OpenAI/Hugging Face.

I dag släpper vi SPACE som öppen källkod för att ge utvecklare en grund för att bygga säkrare agentsystem och bidra till starkare skydd i hela branschen. Utvecklare hittar kodförrådet här.

Agentstyrning är ett tekniskt problem, och öppen källkod är avgörande för att lösa det. När utvecklare har system som de kan granska, anpassa och bygga vidare på hittar de fler svagheter och utvecklar bättre verktyg. Genom att SPACE släpps som öppen källkod får utvecklare en produktionstestad grund för agentkörmiljöer, med inbyggd isolering, tillståndsåterställning samt kontroller för autentiseringsuppgifter och nätverk.

En grund för andra utvecklare att bygga på

Sandlådor håller agenter säkra och ger dem åtkomst till de verktyg och filer de behöver för att utföra dessa uppgifter, samtidigt som känslig information förblir skyddad.

Genom att SPACE släpps som öppen källkod får utvecklare en utgångspunkt för de miljöer där deras agenter kör kod och arbetar med filer. Team kan se hur sandlådeplattformen SPACE fungerar och bygga vidare på dess implementering. De kan också anpassa den efter sina behov i stället för att återskapa den underliggande infrastrukturen.

I Computer har SPACE stöd för isolerad kodkörning, paus och återupptagning, återställning och förgrening av sessioner. Dessa funktioner utgör grunden för assistenter som skulle kunna:

• Analysera data: Rensa ett kalkylark, göra beräkningar och skapa diagram i en separat arbetsyta.
• Återuppta arbete: Pausa så att någon kan granska ett utkast eller komplettera med information som saknas, och sedan fortsätta med filerna och körtillståndet bevarade.
• Utforska alternativ: Testa två sätt att rensa en datauppsättning i separata kopior av arbetsytan, eller återställa en tidigare fil efter ett misstag.

Exemplen visar hur utvecklare skulle kunna använda de dokumenterade isolerings- och sessionskontrollerna i SPACE. Plattforms- och säkerhetsingenjörer kan också granska isoleringsmodellen och säkerhetsexemplen innan de integrerar SPACE i sina egna system.

Ökad säkerhet för autonomt arbete

När vi ger agenter mer utrymme att lösa problem behöver vi tydliga gränser för hur de gör det. Vi vet att agenter som utför legitima uppgifter ändå kan överskrida säkerhetsgränser när de försöker ta sig runt saknade filer, misslyckade förfrågningar eller nekade behörigheter.

Vi kan införa skyddsmekanismer i modellen för att minska risken för osäkert beteende. Genom att lägga till oberoende kontroller i det omgivande systemet kan skadan begränsas om dessa skyddsmekanismer fallerar. De begränsar vad en agent kan komma åt, oavsett vad den bestämmer sig för att göra.

SPACE lägger dessa kontroller runt en separat arbetsyta för kod och filer som agenter genererar. Vi utformade den för att kombinera isolering, återställning och effektiv körning. Det gör att agenter kan utföra meningsfullt arbete under långa sessioner utan att enbart förlita sig på att modellen respekterar säkerhetsgränserna.

Körs i ett eget operativsystem

Varje SPACE-sandlåda körs i en liten virtuell maskin med ett eget operativsystem, vilket skapar en isoleringsgräns mellan agentens arbete och värdsystemet. Ett centralt kontrollplan samordnar när dessa arbetsytor skapas, pausas, återupptas eller tas bort.

SPACE behandlar sandlådan som opålitlig och hanterar nätverksåtkomst och plattformens autentiseringsuppgifter utanför sandlådan. Agenter kan ansluta till godkända tjänster utan att dessa autentiseringsuppgifter lagras i deras arbetsmiljö.

Täta ögonblicksbilder av filer och kontrollpunkter för hela körmiljön bevarar framstegen vid avbrott. För att hålla dessa åtgärder effektiva lagrar SPACE ändringar i stället för att upprepade gånger kopiera hela miljöer. Det minskar arbetet som krävs för att skapa, återställa eller förgrena en sandlåda.

Bättre prestanda i produktion

Sedan juli har SPACE drivit alla sessioner i Computer och hanterat skapandet av miljontals sandlådor per dag. I en jämförelse på samma produktionstrafik gick det tre till fem gånger snabbare att skapa sandlådor än med vår tidigare leverantör.

Vi har också testat SPACE mot agenter som medvetet försökte ta sig förbi dess gränser. Vår publicerade säkerhetsutvärdering visade att inget av 108 försök lyckades ta sig ut från den virtuella maskinen till värden, men vissa hittade sätt att kringgå nätverksbegränsningarna. Vi åtgärdade de svagheterna, och ingen av de två identifierade attackmetoderna lyckades i uppföljande tester.

Vi rapporterade också relaterade svagheter som vi hittade i andra sandlådeplattformar till deras leverantörer, vilket utvidgade arbetet bortom vår egen infrastruktur.

Ett bidrag till säkrare agentisk AI

SPACE är en del av en större satsning för att stärka de system som människor förlitar sig på i takt med att AI tar på sig mer arbete. Genom Secure Intelligence Institute bedriver vi säkerhetsforskning och samarbetar med den bredare gemenskapen för att omsätta resultaten i praktiska försvar.

Vi anser att säkerhetsverktyg med öppen källkod ger utvecklare fler sätt att testa försvar, hitta svagheter och bygga säkrare AI-system. Vi har delat verktyg som hanterar olika delar av det arbetet:

• BrowseSafe, en modell och ett riktmärke för att upptäcka skadliga instruktioner som döljs på webbsidor.
• Numbat, en säkerhetsverktygslåda som släpptes som öppen källkod i juli och som hjälper till att upptäcka, utreda och förhindra farligt agentbeteende på datorer
• Bumblebee, en skanner som släpptes som öppen källkod i maj och som kontrollerar utvecklares datorer efter riskabla programvarupaket, tillägg och konfigurationer av AI-verktyg

Genom att göra verktygen tillgängliga kan andra team granska vårt arbete, anpassa det efter sina behov och bidra med förbättringar. Med SPACE utvidgar vi det arbetssättet till de miljöer där agenter kör kod och arbetar med filer.

Driftsättning för agentsystem

Akamai har testat och lanserat SPACE på sin molnplattform och samarbetar med Perplexity för att göra det tillgängligt för sina kunder. Crusoe samarbetar också med Perplexity för att lägga till SPACE i sin Managed AI Services-portfölj. CoreWeave har publicerat installationsanvisningar för utvecklare som vill driftsätta SPACE för utvärdering på CKS.

Utvecklare kan börja med installationsanvisningarna och säkerhetsvägledningen för SPACE för att driftsätta det i sina egna agentsystem. Kodförrådet och dokumentationen beskriver vilka konfigurationer som stöds och vilka komponenter som ingår.