Publicăm ca open source SPACE, platforma de sandbox din spatele Computer

De la lansarea Computer în februarie, Perplexity a fost unul dintre pionierii agenților personali. Ne-am angajat să abordăm problemele dificile ale guvernanței agenților, detectând comportamentele nesigure și prevenind activitatea agenților scăpați de sub control. În iulie, am înlocuit furnizorul de sandbox disponibil comercial cu o soluție internă mai robustă și mai rezilientă, pe care am numit-o SPACE.

SPACE oferă un nivel ridicat de securitate pentru sistemele agentice avansate. De altfel, o serie recentă de teste de securitate a demonstrat că SPACE rezistă tehnicilor de ocolire a restricțiilor de rețea precum cele folosite în incidentul OpenAI/Hugging Face.

Astăzi, lansăm SPACE ca proiect open source pentru a le oferi dezvoltatorilor o bază pentru construirea unor sisteme de agenți mai sigure și pentru a contribui la protecții mai solide în întreaga industrie. Dezvoltatorii pot accesa depozitul aici.

Guvernanța agenților este o problemă de inginerie, iar open source-ul este esențial pentru rezolvarea ei. Când dezvoltatorii au sisteme pe care le pot examina, adapta și extinde, aceștia găsesc mai multe vulnerabilități și creează instrumente mai bune. Publicarea SPACE ca open source le oferă dezvoltatorilor o fundație testată în producție pentru mediile de rulare ale agenților, cu izolare, recuperarea stării și controale integrate pentru credențiale și rețea.

Crearea unei fundații pentru alți dezvoltatori

Sandboxurile mențin agenții în siguranță, permițându-le să acceseze instrumentele și fișierele de care au nevoie pentru a îndeplini aceste sarcini și protejând, în același timp, informațiile sensibile.

Publicarea SPACE ca open source le oferă dezvoltatorilor un punct de plecare pentru mediile în care agenții lor rulează cod și lucrează cu fișiere. Echipele pot vedea cum funcționează platforma de sandbox SPACE și pot construi pe baza implementării sale. De asemenea, o pot adapta nevoilor lor, în loc să recreeze infrastructura de bază.

În Computer, SPACE permite execuția izolată a codului, punerea pe pauză și reluarea, recuperarea și ramificarea sesiunilor. Aceste capabilități oferă fundația pentru asistenți care ar putea realiza:

• Analiza datelor: Curățarea unei foi de calcul, efectuarea de calcule și crearea de grafice într-un spațiu de lucru separat.
• Reluarea lucrului: Punerea pe pauză pentru ca cineva să revizuiască o ciornă sau să furnizeze informațiile lipsă, apoi reluarea activității cu fișierele și starea de execuție păstrate.
• Explorarea alternativelor: Testarea a două moduri de curățare a unui set de date în copii separate ale spațiului de lucru sau restaurarea unei versiuni anterioare a unui fișier după o greșeală.

Aceste exemple ilustrează modul în care dezvoltatorii ar putea folosi controalele de izolare și de sesiune documentate ale SPACE. Inginerii de platformă și de securitate pot, de asemenea, să analizeze modelul de izolare și exemplele de securitate înainte de a integra SPACE în propriile sisteme.

Securitate sporită pentru munca autonomă

Când le oferim agenților mai multă libertate pentru a rezolva probleme, avem nevoie de limite clare privind modul în care o fac. Știm că agenții care urmăresc sarcini legitime pot totuși să depășească limitele de securitate atunci când încearcă să ocolească fișiere lipsă, solicitări eșuate sau refuzuri de permisiuni.

Putem implementa măsuri de protecție la nivelul modelului pentru a reduce probabilitatea unui comportament nesigur. Adăugarea unor controale independente în sistemul înconjurător ajută la limitarea daunelor dacă aceste măsuri de protecție eșuează. Ele restricționează ceea ce poate accesa un agent, indiferent de ceea ce decide acesta să facă.

SPACE aplică aceste controale în jurul unui spațiu de lucru separat pentru codul și fișierele generate de agenți. L-am conceput pentru a combina izolarea, recuperarea și execuția eficientă. Astfel, agenții pot desfășura activități utile pe parcursul unor sesiuni lungi, fără a depinde doar de model pentru respectarea limitelor de securitate.

Rulare în propriul sistem de operare

Fiecare sandbox SPACE rulează într-o mașină virtuală de mici dimensiuni, cu propriul sistem de operare, creând o limită de izolare între munca agentului și sistemul gazdă. Un plan de control central coordonează momentul în care aceste spații de lucru sunt create, puse pe pauză, reluate sau eliminate.

SPACE tratează sandboxul ca fiind nesigur și gestionează accesul la rețea și credențialele deținute de platformă în afara sandboxului. Agenții se pot conecta la serviciile autorizate fără ca aceste credențiale să fie stocate în mediul lor de lucru.

Instantaneele frecvente ale fișierelor și punctele de control ale întregului mediu în execuție păstrează progresul în cazul întreruperilor. Pentru ca aceste operațiuni să rămână eficiente, SPACE stochează modificările în loc să copieze în mod repetat medii întregi. Acest lucru reduce efortul necesar pentru a crea, restaura sau ramifica un sandbox.

Îmbunătățirea performanței în producție

Din iulie, SPACE alimentează toate sesiunile Computer și gestionează milioane de creări de sandboxuri pe zi. Într-o comparație efectuată pe același trafic de producție, crearea sandboxurilor a fost de trei până la cinci ori mai rapidă decât cu furnizorul nostru anterior.

De asemenea, am testat SPACE împotriva unor agenți care încercau în mod deliberat să-i încalce limitele. Evaluarea de securitate pe care am publicat-o nu a identificat nicio evadare din mașina virtuală către gazdă în 108 încercări, însă unii agenți au găsit modalități de a ocoli restricțiile de rețea. Am remediat aceste vulnerabilități, iar niciuna dintre metodele de atac identificate nu a mai reușit în testele ulterioare.

De asemenea, am raportat furnizorilor altor platforme de sandbox vulnerabilitățile similare pe care le-am descoperit la acestea, extinzând astfel această muncă dincolo de propria noastră infrastructură.

Contribuția la o AI agentică mai sigură

SPACE face parte dintr-un efort mai amplu de a consolida sistemele pe care se bazează oamenii, pe măsură ce AI preia tot mai multă muncă. Prin intermediul Secure Intelligence Institute, desfășurăm cercetări în domeniul securității și colaborăm cu comunitatea extinsă, transformând constatările în mecanisme de apărare practice.

Credem că publicarea instrumentelor de securitate ca open source le oferă dezvoltatorilor mai multe modalități de a testa mecanismele de apărare, de a găsi vulnerabilități și de a construi sisteme AI mai sigure. Am pus la dispoziție instrumente care abordează diferite aspecte ale acestei activități:

• BrowseSafe, un model și un benchmark pentru detectarea instrucțiunilor rău intenționate ascunse în paginile web.
• Numbat, un set de instrumente de securitate, publicat ca open source în iulie, care ajută la detectarea, investigarea și prevenirea comportamentelor periculoase ale agenților pe computere
• Bumblebee, un scaner publicat ca open source în mai, care verifică mașinile dezvoltatorilor pentru a identifica pachete software, extensii și configurații de instrumente AI riscante

Punerea la dispoziție a acestor instrumente le permite altor echipe să ne examineze munca, să o adapteze nevoilor lor și să contribuie cu îmbunătățiri. Cu SPACE, extindem această abordare la mediile în care agenții execută cod și lucrează cu fișiere.

Implementarea pentru sistemele de agenți

Akamai a testat și lansat SPACE pe platforma sa de cloud și colaborează cu Perplexity pentru a-l pune la dispoziția clienților săi. Crusoe a încheiat, de asemenea, un parteneriat cu Perplexity pentru a include SPACE în portofoliul său Managed AI Services. CoreWeave a publicat un ghid de configurare pentru dezvoltatorii care doresc să implementeze SPACE în scopul evaluării pe CKS.

Dezvoltatorii pot începe cu instrucțiunile de configurare și ghidul de securitate ale SPACE pentru a-l implementa în propriile sisteme de agenți. Depozitul și documentația definesc configurațiile acceptate și componentele incluse.