Objavljujemo SPACE, sandbox platformu na kojoj se temelji Computer, kao otvoreni kod

Otkako je u veljači pokrenuo Computer, Perplexity je jedan od pionira na području osobnih agenata. Posvećeni smo rješavanju teških problema upravljanja agentima, otkrivanju nesigurnih ponašanja i sprječavanju nekontroliranih aktivnosti agenata. U srpnju smo komercijalno dostupnog pružatelja sandboxa zamijenili robusnijim i otpornijim internim rješenjem koje smo nazvali SPACE.

SPACE pruža visoku razinu sigurnosti za napredne agentske sustave. Štoviše, nedavni niz sigurnosnih testova dokazao je da je SPACE otporan na tehnike zaobilaženja mrežnih ograničenja poput onih korištenih u incidentu OpenAI/Hugging Face.

Danas objavljujemo SPACE kao projekt otvorenog koda kako bismo programerima pružili temelj za izgradnju sigurnijih agentskih sustava i pridonijeli snažnijoj zaštiti u cijeloj industriji. Programeri mogu pristupiti repozitoriju ovdje.

Upravljanje agentima inženjerski je problem, a otvoreni kod ključan je za njegovo rješavanje. Kada programeri imaju sustave koje mogu pregledati, prilagoditi i nadograditi, pronalaze više slabosti i razvijaju bolje alate. Objavljivanje platforme SPACE kao otvorenog koda programerima daje u produkciji provjeren temelj za izvršna okruženja agenata, s ugrađenom izolacijom, oporavkom stanja te kontrolama vjerodajnica i mreže.

Postavljanje temelja za druge graditelje

Sandboxovi štite agente: omogućuju im pristup alatima i datotekama potrebnima za izvršavanje tih zadataka, a pritom čuvaju osjetljive podatke.

Objavljivanje platforme SPACE kao otvorenog koda programerima daje polazište za okruženja u kojima njihovi agenti izvršavaju kod i rade s datotekama. Timovi mogu vidjeti kako sandbox platforma SPACE funkcionira i nadograđivati njezinu implementaciju. Mogu je i prilagoditi svojim potrebama umjesto da iznova grade temeljnu infrastrukturu.

U Computeru SPACE podržava izolirano izvršavanje koda, pauziranje i nastavak rada, oporavak te grananje sesija. Te mogućnosti čine temelj za asistente koji bi mogli:

• Analizirati podatke: Očistiti proračunsku tablicu, provesti izračune i izraditi grafikone u zasebnom radnom okruženju.
• Nastaviti rad: Zastati dok netko pregleda nacrt ili dostavi podatke koji nedostaju, a zatim nastaviti uz očuvane datoteke i stanje izvođenja.
• Istražiti alternative: Testirati dva načina čišćenja skupa podataka u zasebnim kopijama radnog okruženja ili vratiti raniju verziju datoteke nakon pogreške.

Ovi primjeri pokazuju kako bi programeri mogli koristiti dokumentirane kontrole izolacije i sesija platforme SPACE. Inženjeri za platforme i sigurnost također mogu pregledati model izolacije i sigurnosne primjere prije integracije platforme SPACE u vlastite sustave.

Veća sigurnost za autonomni rad

Kada agentima damo više prostora za rješavanje problema, potrebna su nam jasna ograničenja načina na koji to čine. Znamo da agenti koji obavljaju legitimne zadatke i dalje mogu prijeći sigurnosne granice kada pokušavaju zaobići datoteke koje nedostaju, neuspjele zahtjeve ili odbijene dozvole.

Možemo uvesti zaštitne mjere na razini modela kako bismo smanjili vjerojatnost nesigurnog ponašanja. Dodavanje neovisnih kontrola u okolnom sustavu pomaže ograničiti štetu ako te zaštitne mjere zakažu. One ograničavaju čemu agent može pristupiti, bez obzira na to što odluči učiniti.

SPACE te kontrole postavlja oko zasebnog radnog okruženja za kod i datoteke koje generiraju agenti. Osmislili smo ga tako da objedinjuje izolaciju, oporavak i učinkovito izvršavanje. Tako agenti mogu obavljati koristan posao tijekom dugih sesija, a da se pritom u poštivanju sigurnosnih granica ne oslanjaju samo na model.

Rad unutar vlastitog operacijskog sustava

Svaki SPACE sandbox radi unutar malog virtualnog stroja s vlastitim operacijskim sustavom, čime se stvara izolacijska granica između rada agenta i sustava domaćina. Središnji upravljački sloj koordinira kada se ta radna okruženja stvaraju, pauziraju, nastavljaju ili uklanjaju.

SPACE sandbox tretira kao nepouzdan te mrežnim pristupom i vjerodajnicama koje drži platforma upravlja izvan sandboxa. Agenti se mogu povezati s ovlaštenim uslugama, a da te vjerodajnice nisu pohranjene u njihovu radnom okruženju.

Česte snimke datoteka i kontrolne točke cijelog aktivnog okruženja čuvaju napredak unatoč prekidima. Kako bi te operacije ostale učinkovite, SPACE pohranjuje promjene umjesto da opetovano kopira cijela okruženja. Time se smanjuje količina posla potrebnog za stvaranje, vraćanje ili grananje sandboxa.

Poboljšanje performansi u produkciji

Od srpnja SPACE pokreće sve sesije Computera, a dnevno obrađuje stvaranje milijuna sandboxa. U usporedbi na istom produkcijskom prometu stvaranje sandboxa bilo je tri do pet puta brže nego kod našeg prethodnog pružatelja usluga.

Također smo testirali SPACE pomoću agenata koji su namjerno pokušavali probiti njegove granice. Naša objavljena sigurnosna procjena nije utvrdila nijedan bijeg iz virtualnog stroja na sustav domaćina u 108 pokušaja, no neki su agenti pronašli načine za zaobilaženje mrežnih ograničenja. Te smo slabosti otklonili, a u naknadnom testiranju nije uspjela nijedna od utvrđenih metoda napada.

Povezane slabosti koje smo pronašli na drugim sandbox platformama prijavili smo i njihovim dobavljačima, čime smo taj rad proširili izvan vlastite infrastrukture.

Doprinos sigurnijoj agentskoj umjetnoj inteligenciji

SPACE je dio šireg nastojanja da se ojačaju sustavi na koje se ljudi oslanjaju dok AI preuzima sve više posla. Putem instituta Secure Intelligence Institute provodimo sigurnosna istraživanja i surađujemo sa širom zajednicom te otkrića pretvaramo u praktične mjere zaštite.

Vjerujemo da objavljivanje sigurnosnih alata kao otvorenog koda programerima pruža više načina za testiranje obrane, pronalaženje slabosti i izgradnju sigurnijih AI sustava. Podijelili smo alate koji se bave različitim dijelovima tog posla:

• BrowseSafe, model i referentni test za otkrivanje zlonamjernih uputa skrivenih na web-stranicama.
• Numbat, sigurnosni alat otvorenog koda objavljen u srpnju, koji pomaže otkriti, istražiti i spriječiti opasno ponašanje agenata na računalima
• Bumblebee, skener otvorenog koda objavljen u svibnju, koji na računalima programera provjerava rizične softverske pakete, proširenja i konfiguracije AI alata

Kad te alate učinimo dostupnima, drugi timovi mogu pregledati naš rad, prilagoditi ga svojim potrebama i doprinijeti poboljšanjima. Platformom SPACE taj pristup proširujemo na okruženja u kojima agenti izvršavaju kod i rade s datotekama.

Implementacija za agentske sustave

Akamai testirao je i pokrenuo SPACE na svojoj platformi u oblaku te surađuje s tvrtkom Perplexity kako bi ga ponudio svojim klijentima. Crusoe također surađuje s tvrtkom Perplexity kako bi SPACE uvrstio u svoj portfelj usluga Managed AI Services. CoreWeave objavio je upute za postavljanje namijenjene programerima koji žele implementirati SPACE radi evaluacije na platformi CKS.

Programeri mogu početi s uputama za postavljanje i sigurnosnim smjernicama platforme SPACE kako bi je implementirali za vlastite agentske sustave. Repozitorij i dokumentacija definiraju podržane konfiguracije i uključene komponente.