Objavljujemo SPACE, sandbox platformu na kojoj radi Computer, kao otvoreni kod

Od pokretanja platforme Computer u februaru, Perplexity je jedan od ranih pionira u oblasti ličnih agenata. Posvećeni smo rešavanju teških problema upravljanja agentima, otkrivanja nebezbednog ponašanja i sprečavanja nekontrolisanih aktivnosti agenata. U julu smo komercijalno dostupnog dobavljača sandbox okruženja zamenili robusnijim i otpornijim internim rešenjem koje smo nazvali SPACE.

SPACE pruža visok nivo bezbednosti za napredne agentske sisteme. Zapravo, nedavna serija bezbednosnih testova pokazala je da je SPACE otporan na tehnike zaobilaženja mrežnih ograničenja poput onih korišćenih u incidentu OpenAI/Hugging Face.

Danas objavljujemo SPACE kao projekat otvorenog koda kako bismo programerima pružili osnovu za izgradnju bezbednijih agentskih sistema i doprineli jačoj zaštiti u celoj industriji. Programeri mogu da pristupe repozitorijumu ovde.

Upravljanje agentima je inženjerski problem, a otvoreni kod je ključan za njegovo rešavanje. Kada programeri imaju sisteme koje mogu da pregledaju, prilagode i nadograđuju, pronalaze više slabosti i razvijaju bolje alate. Objavljivanje platforme SPACE kao otvorenog koda daje programerima osnovu za runtime okruženja agenata proverenu u produkciji, sa ugrađenom izolacijom, oporavkom stanja i kontrolama akreditiva i mreže.

Postavljanje temelja za druge programere

Sandbox okruženja održavaju bezbednost agenata – omogućavaju im pristup alatima i datotekama koji su im potrebni za obavljanje ovih zadataka, a osetljive informacije ostaju zaštićene.

Objavljivanje platforme SPACE kao otvorenog koda daje programerima polaznu tačku za okruženja u kojima njihovi agenti izvršavaju kod i rade sa datotekama. Timovi mogu da vide kako funkcioniše SPACE sandbox platforma i da nadograđuju njenu implementaciju. Mogu i da je prilagode svojim potrebama umesto da iznova grade osnovnu infrastrukturu.

U okviru platforme Computer, SPACE podržava izolovano izvršavanje koda, pauziranje i nastavak rada, oporavak i grananje sesija. Te mogućnosti čine osnovu za asistente koji bi mogli da:

• Analiziraju podatke: Očiste tabelu, izvrše proračune i naprave grafikone u zasebnom radnom okruženju.
• Nastave rad: Pauziraju kako bi neko pregledao nacrt ili dostavio informacije koje nedostaju, a zatim nastave rad uz sačuvane datoteke i stanje izvršavanja.
• Istraže alternative: Testiraju dva načina čišćenja skupa podataka u zasebnim kopijama radnog okruženja ili vrate raniju verziju datoteke nakon greške.

Ovi primeri ilustruju kako bi programeri mogli da koriste dokumentovane kontrole izolacije i sesija platforme SPACE. Inženjeri za platforme i bezbednost takođe mogu da pregledaju model izolacije i bezbednosne primere pre nego što integrišu SPACE u sopstvene sisteme.

Veća bezbednost za autonomni rad

Kada agentima damo više prostora za rešavanje problema, potrebna su nam jasna ograničenja u pogledu načina na koji to rade. Znamo da i agenti koji obavljaju legitimne zadatke mogu da pređu bezbednosne granice kada pokušavaju da zaobiđu datoteke koje nedostaju, neuspele zahteve ili odbijene dozvole.

Možemo da uvedemo zaštitne mehanizme u model kako bismo smanjili verovatnoću nebezbednog ponašanja. Dodavanje nezavisnih kontrola u okolni sistem pomaže da se ograniči šteta ako ti zaštitni mehanizmi zakažu. Te kontrole ograničavaju čemu agent može da pristupi, bez obzira na to šta odluči da uradi.

SPACE postavlja te kontrole oko zasebnog radnog okruženja za kod i datoteke koje generišu agenti. Dizajnirali smo ga tako da objedini izolaciju, oporavak i efikasno izvršavanje. Tako agenti mogu da obavljaju koristan posao tokom dugih sesija, a da se poštovanje bezbednosnih granica ne prepušta isključivo modelu.

Rad unutar sopstvenog operativnog sistema

Svaki SPACE sandbox radi unutar male virtuelne mašine sa sopstvenim operativnim sistemom, čime se uspostavlja granica izolacije između rada agenta i host sistema. Centralna kontrolna ravan koordinira kada se ova radna okruženja kreiraju, pauziraju, nastavljaju ili uklanjaju.

SPACE tretira sandbox kao nepouzdan i izvan sandbox okruženja upravlja mrežnim pristupom i akreditivima koje čuva platforma. Agenti mogu da se povežu sa ovlašćenim uslugama, a da ti akreditivi ne budu sačuvani u njihovom radnom okruženju.

Česti snimci datoteka i kontrolne tačke celog aktivnog okruženja čuvaju napredak uprkos prekidima. Da bi ove operacije ostale efikasne, SPACE čuva izmene umesto da iznova kopira cela okruženja. Time se smanjuje posao potreban za kreiranje, vraćanje ili grananje sandbox okruženja.

Poboljšanje performansi u produkciji

Od jula SPACE pokreće sve Computer sesije i svakog dana obrađuje kreiranje miliona sandbox okruženja. U poređenju na istom produkcionom saobraćaju, kreiranje sandbox okruženja bilo je tri do pet puta brže nego kod našeg prethodnog dobavljača.

Takođe smo testirali SPACE pomoću agenata koji su namerno pokušavali da probiju njegove granice. Naša objavljena bezbednosna procena nije zabeležila nijedan izlazak iz virtuelne mašine na host sistem u 108 pokušaja, ali su neki agenti pronašli načine da zaobiđu mrežna ograničenja. Otklonili smo te slabosti, a nijedan od dva otkrivena metoda napada nije uspeo u naknadnom testiranju.

Srodne slabosti koje smo pronašli na drugim sandbox platformama takođe smo prijavili njihovim dobavljačima, čime smo taj rad proširili i izvan sopstvene infrastrukture.

Doprinos bezbednijoj agentskoj veštačkoj inteligenciji

SPACE je deo šireg nastojanja da se ojačaju sistemi na koje se ljudi oslanjaju dok AI preuzima sve više posla. Kroz Secure Intelligence Institute sprovodimo bezbednosna istraživanja i sarađujemo sa širom zajednicom, pretvarajući nalaze u praktične mehanizme odbrane.

Verujemo da objavljivanje bezbednosnih alata kao otvorenog koda programerima daje više načina da testiraju odbrambene mehanizme, pronađu slabosti i grade bezbednije AI sisteme. Podelili smo alate koji pokrivaju različite delove tog posla:

• BrowseSafe, model i benčmark za otkrivanje zlonamernih uputstava skrivenih na veb-stranicama.
• Numbat, skup bezbednosnih alata objavljen kao otvoreni kod u julu, koji pomaže u otkrivanju, istraživanju i sprečavanju opasnog ponašanja agenata na računarima
• Bumblebee, skener objavljen kao otvoreni kod u maju, koji proverava računare programera u potrazi za rizičnim softverskim paketima, ekstenzijama i konfiguracijama AI alata

Kada ove alate učinimo dostupnim, drugi timovi mogu da pregledaju naš rad, prilagode ga svojim potrebama i doprinesu poboljšanjima. Sa platformom SPACE proširujemo taj pristup na okruženja u kojima agenti izvršavaju kod i rade sa datotekama.

Primena u sistemima agenata

Akamai je testirao i pokrenuo SPACE na svojoj platformi u oblaku i sarađuje sa kompanijom Perplexity kako bi ga ponudio svojim klijentima. Crusoe takođe sarađuje sa kompanijom Perplexity kako bi uvrstio SPACE u svoj portfolio usluga Managed AI Services. CoreWeave je objavio uputstvo za podešavanje namenjeno programerima koji žele da implementiraju SPACE radi evaluacije na platformi CKS.

Programeri mogu da počnu od uputstava za podešavanje i bezbednosnih smernica za SPACE kako bi ga primenili u sopstvenim sistemima agenata. Repozitorijum i dokumentacija definišu podržane konfiguracije i uključene komponente.