Sandbox-uri sigure pentru agenți

Agenții AI efectuează o muncă reală în numele nostru: editarea fișierelor, rularea codului și îndeplinirea de sarcini în mai mulți pași care durează ore sau zile. Acest lucru necesită adesea acces la informații private, ceea ce face ca locul în care rulează un agent să conteze mai mult decât cât de inteligent este modelul.

Medii izolate (sandbox-uri) mențin agenții în siguranță, permițându-le să acceseze instrumentele și fișierele de care au nevoie pentru a finaliza aceste sarcini, menținând în același timp informațiile sensibile protejate.

Când am creat platforma noastră pentru agenți Computer, am explorat opțiuni de sandbox gata de utilizat. Fiecare opțiune ne-a obligat să luăm în considerare compromisurile dintre funcționalitate, eficiență și securitate. Perplexity Computer avea nevoie de toate trei, așa că am creat un tip complet nou de sandbox.

Astăzi, prezentăm SPACE, o platformă de tip sandbox concepută pentru a debloca întregul potențial al Computer și pentru a asigura cel mai înalt nivel de securitate pentru sistemele avansate de tip agent.

Reinventarea arhitecturii sandbox

SPACE lansează sandbox-uri efemere care există doar atât timp cât este necesar pentru rularea codului, interacțiunea cu fișierele sau alte sarcini. Când sarcina se termină, sandbox-ul și tot ce se află în interiorul său sunt distruse.

Pentru activități pe termen lung care trebuie să supraviețuiască repornirilor, SPACE încapsulează fiecare sandbox într-o sesiune care poate fi pusă pe pauză, reluată sau ramificată în mai multe sandbox-uri. Tehnologia de tip snapshot ciclic a SPACE permite contextului să însoțească activitatea, chiar dacă niciun sandbox individual nu face acest lucru.

Eliminarea compromisurilor anterioare

Majoritatea platformelor sandbox rezolvă doar două dintre cele trei variabile: funcționalitate, eficiență sau securitate. Optimizarea pentru una tinde să se facă în detrimentul alteia. Unele soluții au primitive puternice de izolare, dar lasă credențialele expuse în interiorul mediului. Altele execută bine sarcini de scurtă durată, dar pierd starea și eșuează atunci când o sesiune trebuie să ruleze ore în șir.

SPACE le rezolvă pe toate trei prin separarea responsabilităților între servicii dedicate. Rețeaua Gateway, Space Daemon și Serviciul de fișiere asigură fiecare o parte diferită a stivei. De asemenea, acestea livrează credențiale din afara sandbox-ului doar în momentul în care sunt necesare.

Cu acest design, un agent compromis nu are nicio cale de acces la credențialele gestionate de platformă în mod implicit. Și nu are acces dincolo de sarcina care i-a fost atribuită, indiferent de durata sesiunii sau de backend.

Crearea a trei niveluri de securitate

SPACE este alcătuit din trei niveluri cheie, fiecare având măsuri de securitate puternice integrate:

Planul de control: Primul nivel al arhitecturii SPACE, Planul de control este responsabil cu orchestrarea ciclului de viață al sandbox-ului. El primește fiecare cerere printr-un singur API, urmărește starea sandbox-ului și decide în timp real către ce backend să facă rutarea. El determină când o sarcină are nevoie de un nou sandbox. De asemenea, decide când o sarcină este completă și sandbox-ul corespunzător poate fi distrus. Deoarece Planul de control nu are stare și este găzduit central, același apel API funcționează pe orice infrastructură existentă, inclusiv pe o mașină locală.

Servicii la nivel de nod: În SPACE, serviciile la nivel de nod reprezintă locul unde postura de securitate a Perplexity se evidențiază. Cu SPACE, credențialele nu trec niciodată în sandbox. În schimb, ele sunt transmise din afara sandbox-ului doar în momentul precis în care sunt necesare. Când un agent are nevoie de acces temporar pentru a se conecta la un cont Google, SPACE poate gestiona fluxul de conectare fără a expune credențialele în interiorul sandbox-ului. Traficul de rețea de ieșire este, de asemenea, controlat la nivel de nod. Un agent compromis nu poate accesa nimic în afara domeniului său permis.

În sandbox: Nivelul din interiorul sandbox-ului este ultima linie de apărare a SPACE. Cu SPACE, fiecare sarcină rulează într-un microVM Firecracker, un mediu complet izolat cu propriul sistem de operare. Asta înseamnă că nimic din interior nu poate afecta gazda sau orice alt sandbox care rulează în paralel. Space Daemon este singurul proces care comunică cu planul de control al Perplexity. El transmite semnale operaționale, cum ar fi comenzi de pornire, pauză și instantanee (snapshot). Acesta este lucrul care face ca canalul de comunicare să poată fi auditat și controlat.

Oferirea unui set complet de controale

SPACE este unic printre furnizori prin faptul că oferă un set complet de controale. SPACE combină pauza și reluarea, bifurcarea sesiunilor, izolarea credențialelor pe sesiune, redirecționarea protocoalelor și orchestrarea multi-backend într-o singură platformă.

SPACE realizează instantanee ciclice ale stării complete a sesiunii, capturând memoria în timp real împreună cu fișierele la fiecare minut. Poate merge în timp înapoi cu o săptămână. Este practic o mașină a timpului încorporată: Oricine poate pleca în mijlocul unei sarcini, se poate întoarce o săptămână mai târziu, iar agentul reia activitatea exact de unde a pus-o pe pauză.

SPACE tratează sandbox-ul ca fiind nesigur în mod implicit și îl înconjoară cu controale de rețea, controale de credențiale, separare între chiriași (tenant separation) și stocare criptată. Dacă un nivel este compromis, celelalte vor proteja informațiile personale.

Cu SPACE, clienții enterprise își pot aduce și propriile chei de criptare. Dacă un client își revocă cheia, noile sandbox-uri nu pot porni, iar datele existente criptate de client nu mai pot fi decriptate.

Pentru cei care lucrează cu date deosebit de sensibile, SPACE este conceput să funcționeze atât local (on-prem), cât și complet offline. Acest nivel de control asigură că datele nu trebuie să părăsească niciodată un mediu sigur.

Alimentarea Perplexity

Inginerii Perplexity au transformat SPACE din concept în produs în 10 săptămâni. Am folosit SPACE intern în ultimele două luni. În ultima săptămână, a susținut milioane de creații de sandbox-uri și zeci de milioane de reconectări la sandbox-uri. Este activ în Computer pentru toți utilizatorii începând de astăzi.

SPACE a fost conceput să ruleze oriunde. Într-un test timpuriu pe CPU-ul NVIDIA Vera, fluxurile de lucru reale de tip Computer au rulat de aproximativ 1,5 ori mai repede decât referința noastră actuală de producție și au pornit sandbox-uri concurente de până la 1,9 ori mai repede. Acest semnal timpuriu demonstrează că Vera va oferi o valoare excepțională pentru sandbox-urile pentru agenți și validează agnosticismul de backend din spatele SPACE.

Investiția în medii sigure

Credem că nu ar trebui să existe un compromis între funcționalitate, eficiență și securitate. Agenții ar trebui să lucreze cu aceleași date ca noi, având aceeași încredere pe care am acorda-o oricărui coleg de echipă.

SPACE este doar prima iterație a acestui mediu sigur. Pe măsură ce AI continuă să evolueze, la fel o vor face și sistemele noastre de securitate și infrastructură.

Vizualizează Crearea SPACE: Runtimes sigure și eficiente pentru agenții care rulează pe termen lung pentru mai multe detalii.