Sprístupňujeme ako open source SPACE, sandboxovú platformu, na ktorej beží Computer

Od spustenia služby Computer vo februári patrí Perplexity medzi prvých priekopníkov osobných agentov. Venujeme sa náročným problémom správy agentov, odhaľovaniu nebezpečného správania a predchádzaniu nekontrolovanej činnosti agentov. V júli sme komerčne dostupného poskytovateľa sandboxov nahradili robustnejším a odolnejším interným riešením, ktoré sme nazvali SPACE.

SPACE poskytuje vysokú úroveň zabezpečenia pre pokročilé agentové systémy. Nedávna séria bezpečnostných testov dokonca preukázala odolnosť SPACE voči technikám obchádzania sieťových obmedzení, aké boli použité pri incidente OpenAI/Hugging Face.

Dnes uvoľňujeme SPACE ako open source, aby sme vývojárom poskytli základ na budovanie bezpečnejších agentových systémov a prispeli k silnejšej ochrane v celom odvetví. Vývojári nájdu repozitár tu.

Správa agentov je inžiniersky problém a open source je pre jeho riešenie nevyhnutný. Keď majú vývojári systémy, ktoré môžu skúmať, prispôsobovať a na ktorých môžu stavať, nachádzajú viac slabín a vyvíjajú lepšie nástroje. Sprístupnenie SPACE ako open source dáva vývojárom v produkcii overený základ pre behové prostredia agentov so zabudovanou izoláciou, obnovou stavu a kontrolou poverení a siete.

Vytvárame základ pre ďalších tvorcov

Sandboxy udržiavajú agentov v bezpečí – umožňujú im prístup k nástrojom a súborom, ktoré potrebujú na dokončenie týchto úloh, a zároveň chránia citlivé informácie.

Sprístupnenie SPACE ako open source dáva vývojárom východiskový bod pre prostredia, v ktorých ich agenti spúšťajú kód a pracujú so súbormi. Tímy môžu vidieť, ako sandboxová platforma SPACE funguje, a stavať na jej implementácii. Môžu ju tiež prispôsobiť svojim potrebám namiesto toho, aby znovu vytvárali základnú infraštruktúru.

V službe Computer platforma SPACE podporuje izolované spúšťanie kódu, pozastavenie a obnovenie, zotavenie po zlyhaní a vetvenie relácií. Tieto schopnosti tvoria základ pre asistentov, ktorí by mohli:

• Analyzovať dáta: vyčistiť tabuľku, vykonať výpočty a vytvoriť grafy v samostatnom pracovnom prostredí.
• Pokračovať v práci: pozastaviť sa, kým niekto skontroluje koncept alebo doplní chýbajúce informácie, a potom pokračovať so zachovanými súbormi a stavom behu.
• Skúmať alternatívy: otestovať dva spôsoby čistenia súboru dát v samostatných kópiách pracovného prostredia alebo po chybe obnoviť starší súbor.

Tieto príklady ilustrujú, ako by vývojári mohli využiť zdokumentované ovládacie prvky izolácie a relácií v SPACE. Platformoví a bezpečnostní inžinieri si tiež môžu pred integráciou SPACE do svojich systémov preštudovať model izolácie a bezpečnostné príklady.

Vyššia bezpečnosť pre autonómnu prácu

Keď agentom dáme viac priestoru na riešenie problémov, potrebujeme jasné limity toho, ako to robia. Vieme, že aj agenti, ktorí plnia legitímne úlohy, môžu prekročiť bezpečnostné hranice, keď sa snažia obísť chýbajúce súbory, neúspešné požiadavky alebo zamietnuté oprávnenia.

Môžeme zaviesť ochranné mechanizmy modelu, ktoré znižujú pravdepodobnosť nebezpečného správania. Pridanie nezávislých kontrol v okolitom systéme pomáha obmedziť škody, ak tieto mechanizmy zlyhajú. Kontroly obmedzujú, k čomu má agent prístup, bez ohľadu na to, čo sa rozhodne urobiť.

SPACE uplatňuje tieto kontroly na samostatné pracovné prostredie pre kód a súbory generované agentmi. Navrhli sme ho tak, aby spájal izoláciu, obnovu a efektívne spúšťanie. Agenti tak môžu vykonávať užitočnú prácu počas dlhých relácií bez toho, aby sa pri dodržiavaní bezpečnostných hraníc spoliehali len na samotný model.

Beh vo vlastnom operačnom systéme

Každý sandbox SPACE beží v malom virtuálnom stroji s vlastným operačným systémom, čím vzniká izolačná hranica medzi prácou agenta a hostiteľským systémom. Centrálna riadiaca vrstva koordinuje, kedy sa tieto pracovné prostredia vytvárajú, pozastavujú, obnovujú alebo odstraňujú.

SPACE považuje sandbox za nedôveryhodný a sieťový prístup aj poverenia spravované platformou riadi mimo sandboxu. Agenti sa tak môžu pripájať k autorizovaným službám bez toho, aby boli tieto poverenia uložené v ich pracovnom prostredí.

Časté snímky súborov a kontrolné body celého bežiaceho prostredia zachovávajú postup aj pri prerušeniach. Aby tieto operácie zostali efektívne, SPACE ukladá zmeny namiesto opakovaného kopírovania celých prostredí. Znižuje sa tak množstvo práce potrebnej na vytvorenie, obnovenie alebo vetvenie sandboxu.

Vyšší výkon v produkcii

Od júla SPACE poháňa všetky relácie služby Computer a denne zvláda vytváranie miliónov sandboxov. V porovnaní na rovnakej produkčnej prevádzke bolo vytváranie sandboxov troj- až päťkrát rýchlejšie ako u nášho predchádzajúceho poskytovateľa.

Tiež sme otestovali SPACE proti agentom, ktorí sa zámerne snažili prelomiť jeho hranice. Naše zverejnené hodnotenie bezpečnosti nezistilo v 108 pokusoch žiadny únik z virtuálneho stroja na hostiteľa, niektoré pokusy však našli spôsoby, ako obísť sieťové obmedzenia. Tieto slabiny sme odstránili a pri následnom testovaní neuspela ani jedna z identifikovaných metód útoku.

Súvisiace slabiny, ktoré sme našli v iných sandboxových platformách, sme tiež nahlásili ich dodávateľom, čím sme túto prácu rozšírili aj mimo našej vlastnej infraštruktúry.

Prispievame k bezpečnejšej agentovej AI

SPACE je súčasťou širšieho úsilia posilniť systémy, na ktoré sa ľudia spoliehajú, keďže AI preberá čoraz viac práce. Prostredníctvom Secure Intelligence Institute realizujeme bezpečnostný výskum a spolupracujeme so širšou komunitou, pričom zistenia premieňame na praktickú ochranu.

Veríme, že sprístupnenie bezpečnostných nástrojov ako open source dáva vývojárom viac možností testovať obranu, hľadať slabiny a budovať bezpečnejšie systémy AI. Zdieľali sme nástroje, ktoré sa zameriavajú na rôzne časti tejto práce:

• BrowseSafe, model a benchmark na odhaľovanie škodlivých pokynov skrytých na webových stránkach.
• Numbat, bezpečnostná sada nástrojov sprístupnená ako open source v júli, ktorá pomáha odhaľovať a vyšetrovať nebezpečné správanie agentov na počítačoch a predchádzať mu
• Bumblebee, skener sprístupnený ako open source v máji, ktorý kontroluje vývojárske počítače, či neobsahujú rizikové softvérové balíky, rozšírenia a konfigurácie nástrojov AI

Sprístupnenie týchto nástrojov umožňuje iným tímom preskúmať našu prácu, prispôsobiť ju svojim potrebám a prispievať zlepšeniami. So SPACE rozširujeme tento prístup aj na prostredia, v ktorých agenti spúšťajú kód a pracujú so súbormi.

Nasadenie pre agentové systémy

Spoločnosť Akamai otestovala a spustila SPACE na svojej cloudovej platforme a spolupracuje s Perplexity na jeho sprístupnení svojim zákazníkom. Aj spoločnosť Crusoe nadviazala partnerstvo s Perplexity s cieľom pridať SPACE do svojho portfólia Managed AI Services. Spoločnosť CoreWeave zverejnila návod na nastavenie pre vývojárov, ktorí chcú nasadiť SPACE na účely vyhodnotenia v prostredí CKS.

Vývojári môžu začať s pokynmi na nastavenie a bezpečnostnými odporúčaniami pre SPACE a nasadiť ho pre svoje vlastné agentové systémy. Repozitár a dokumentácia definujú podporované konfigurácie a zahrnuté komponenty.