Bezpečné sandboxu pre agentov

Agenti umelej inteligencie vykonávajú reálnu prácu v našom mene: upravujú súbory, spúšťajú kód a realizujú viackrokové úlohy trvajúce hodiny alebo dni. To často vyžaduje prístup k súkromným informáciám, čo znamená, že kde agent beží, je dôležitejšie ako to, aký je model múdry.

Sandbox udržiava agentov v bezpečí, umožňuje im prístup k nástrojom a súborom, ktoré potrebujú na dokončenie týchto úloh, a zároveň chráni citlivé informácie.

Pri vytváraní našej agentovej platformy Computer sme preskúmali hotové možnosti sandboxu. Každá možnosť od nás vyžadovala zvážiť kompromisy medzi funkčnosťou, efektivitou a bezpečnosťou. Perplexity Computer potrebovala všetky tri, a preto sme vytvorili úplne nový typ sandboxu.

Dnes predstavujeme SPACE, platformu sandboxu navrhnutú tak, aby odomkla plný potenciál Computeru a zároveň poskytovala najvyššiu úroveň bezpečnosti pre pokročilé systémy agentov.

Inovácia architektúry sandboxu

SPACE spúšťa efemérne sandboxu, ktoré žijú len tak dlho, kým sú potrebné na spúšťanie kódu, interakciu so súbormi alebo iné úlohy. Po dokončení úlohy sa sandbox a všetko, čo je v ňom, zničí.

Pre dlhodobé úlohy, ktoré musia prežiť reštarty, SPACE obaľuje každý sandbox do relácie, ktorú možno pozastaviť, obnoviť alebo rozdeliť do viacerých sandboxov. Technológia priebežných snímok SPACE umožňuje kontextu cestovať spolu s prácou, hoci žiadny jednotlivý sandbox necestuje.

Odstránenie predchádzajúcich kompromisov

Väčšina platforiem sandboxu rieši iba dve z troch premenných: funkčnosť, efektivitu alebo bezpečnosť. Optimalizácia jednej z nich má tendenciu byť na úkor druhej. Niektoré riešenia majú silné izolačné prvky, ale nechávajú poverenia odhalené vnútri prostredia. Iné dobre vykonávajú krátkodobé úlohy, ale strácajú stav a zlyhávajú, keď relácia musí bežať hodiny.

SPACE rieši všetky tri oddelením úloh prostredníctvom vyhradených služieb. Sieťová brána (Network Gateway), Space Daemon a služba súborov (File Service) zabezpečujú každá inú časť zásobníka. Okrem toho doručujú poverenia zvonka sandboxu presne v momente, keď sú potrebné.

S týmto dizajnom nemá kompromitovaný agent predvolene žiadnu cestu k povereniam spravovaným platformou. A nemá prístup nad rámec úlohy, ktorá mu bola daná, bez ohľadu na trvanie relácie alebo backend.

Vytvorenie troch vrstiev zabezpečenia

SPACE sa skladá z troch kľúčových vrstiev, pričom každá má zabudované silné bezpečnostné opatrenia:

Riadchová rovina (Control Plane): Prvá vrstva architektúry SPACE, riadiaca rovina, zodpovedá za orchesterovanie životného cyklu sandboxu. Prijíma každú požiadavku prostredníctvom jedinečného API, sleduje stav sandboxu a v reálnom čase rozhoduje, na ktorý backend ju presmerovať. Určuje, kedy úloha potrebuje nový sandbox. Rovnako rozhoduje, kedy je úloha dokončená a jej zodpovedajúci sandbox možno zničiť. Keďže riadiaca rovina je bezstavová a centrálne hostovaná, rovnaké volanie API funguje na akejkoľvek existujúcej infraštruktúre vrátane lokálneho počítača.

Služby na úrovni uzla: V systéme SPACE vyniká v službách na úrovni uzla bezpečnostný postoj Perplexity. Vďaka SPACE poverenia nikdy nevstupujú do sandboxu. Namiesto toho sú odovzdané z vonkajšej strany sandboxu iba v presnom momente, keď sú potrebné. Keď agent potrebuje dočasný prístup na pripojenie k účtu Google, SPACE dokáže zvládnuť proces prihlásenia bez odhalenia poverení vnútri sandboxu. Odchádzajúca sieťová premávka je tiež kontrolovaná na úrovni uzla. Kompromitovaný agent sa nemôže dostať k ničomu mimo svojho povoleného rozsahu.

Vnútri sandboxu: Vrstva vnútri sandboxu je poslednou líniou obrany SPACE. S SPACE každá úloha beží vnútri mikrovirtualizačného stroja Firecracker, čo je plne izolované prostredie s vlastným operačným systémom. To znamená, že nič vnútri nemôže ovplyvniť hostiteľa ani žiadny iný sandbox bežiaci paralelne. Služba Space Daemon je jediným procesom, ktorý komunikuje s riadiacou rovinou Perplexity. Prenáša prevádzkové signály, ako sú príkazy na spustenie, pozastavenie a vytvorenie snímky. To je to, čo robí komunikačný kanál overiteľným a kontrolovateľným.

Ponuka kompletnej sady ovládacích prvkov

SPACE je medzi poskytovateľmi jedinečný tým, že ponúka kompletnú sadu ovládacích prvkov. SPACE kombinuje pozastavenie a obnovenie, vetvenie relácií, izoláciu poverení na základe relácií, presmerovanie protokolov a viacbackendovú orchestráciu v jednej platforme.

SPACE vytvára priebežné snímky celého stavu relácie, pričom zachytáva živú pamäť spolu so súbormi tak často, ako každú minútu. Dokáže sa vrátiť v čase o týždeň. V podstate ide o zabudovaný stroj času: Ktokoľvek môže uprostred úlohy odísť, vrátiť sa o týždeň neskôr a agent pokračuje presne tam, kde bol pozastavený.

SPACE považuje sandbox predvolene za nedôveryhodný a obklopuje ho sieťovými kontrolami, kontrolou poverení, oddelením nájomníkov a šifrovaným úložiskom. Ak je jedna vrstva kompromitovaná, ostatné ochránia osobné informácie.

So systémom SPACE môžu firemní zákazníci priniesť aj vlastné šifrovacie kľúče. Ak zákazník odvolá svoj kľúč, nové sandboxu sa nemôžu spustit' a existujúce dáta šifrované zákazníkom už nie je možné dešifrovať.

Pre tých, ktorí pracujú s mimoriadne citlivými údajmi, je SPACE navrhnutý tak, aby fungoval lokálne (on-prem) aj úplne offline. Táto úroveň kontroly zabezpečuje, že údaje nikdy nemusia opustiť bezpečné prostredie.

Poháňanie Perplexity

Inžinieri Perplexity dostali SPACE od konceptu k produktu za 10 týždňov. SPACE používame interne posledné dva mesiace. Za posledný týždeň podporil milióny vytvorení sandboxu a desiatky miliónov opätovných pripojení k sandboxu. Dnes je spustený v Computeri pre všetkých používateľov.

SPACE bol vytvorený tak, aby fungoval kdekoľvek. V skorom teste na procesore NVIDIA Vera bežali skutočné pracovné postupy v štýle Computeru približne 1,5-krát rýchlejšie ako naše súčasné produkčné referencie a spúšťali súbežné sandboxu až 1,9-krát rýchlejšie. Tento skorý signál ukazuje, že Vera prinesie výnimočnú hodnotu pre sandboxu agentov a potvrdzuje agnosticitu backendu za systémom SPACE.

Investície do bezpečných prostredí

Veríme, že by nemal existovať kompromis medzi funkčnosťou, efektivitou a bezpečnosťou. Agenti by mali pracovať s rovnakými údajmi ako my a s takou istou dôverou, akú by sme vložili do ktoréhokoľvek kolegu.

SPACE je len prvou iteráciou tohto bezpečného prostredia. S tým, ako sa AI bude ďalej vyvíjať, sa budú vyvíjať aj naše bezpečnostné a infraštruktúrne systémy.

Pozrite si Vytvorenie SPACE: Bezpečné a efektivne behové prostredia pre dlhotrvajúcich agentov pre ďalšie podrobnosti.