Безбедна sandbox окружења за агенте

AI агенти обављају стварни посао у наше име: уређују фајлове, покрећу код и извршавају вишестепене задатке током сати или дана. Ово често захтијева приступ приватним информацијама, због чега гдје агент ради постаје важније од тога колико је модел паметан.

Sandbox окружења чувају агенте безбедним, омогућавајући им приступ алатима и фајловима који су им потребни за завршетак ових задатака, док осјетљиве информације остају заштићене.

Приликом изградње наше платфере агента Computer, истражили смо готове опције за sandbox. Свака опција је захтијевала да размотримо компромисе између функционалности, ефикасности и безбедности. Perplexity Computer је захтијевао све три, па смо изградили потпуно нову врсту sandbox-а.

Данас представљамо SPACE, sandbox платформу дизајнирану да откључа пуну снагу Computer-а уз пружање највишег нивоа безбедности за напредне системе агената.

Поновно осмишљавање архитектуре sandbox-а

SPACE покреће ефемерне sandbox-ове који живе само онолико дуго колико је потребно за покретање кода, интеракцију са фајловима или друге задатке. Када се задатак заврши, sandbox и све у њему бива уништено.

За дугорочни рад који треба да преживи поновна покретања, SPACE обавија сваки sandbox у сесију која се може паузирати, наставити или разгранати у више sandbox-ова. Технологија ротирајућих снимка екрана система SPACE омогућава контексту да путује са радом, иако ниједан појединачни sandbox то не чини.

Уклањање претходних компромиса

Већина sandbox платформи рјешава само двије од три промјенљиве: функционалност, ефикасност или безбедност. Оптимизација за једну обично долази на рачун друге. Нека рјешења имају јаке примитиве изолације, али остављају акредитиве изложене унутар окружења. Друга добро извршавају краткотрајне послове, али губе стање и не успијевају када сесија треба да ради сатима.

SPACE рјешава све три раздвајањем брига преко наменских сервиса. Мрежни пролаз (Network Gateway), Space Daemon и Сервис за фајлове (File Service) обезбјеђују различити дио стока. Они такође испоручују акредитиве изван sandbox-а само у тренутку када су потребни.

Са овим дизајном, компромитовани агент нема пут до акредитива којима управља платформа по дефиницији. И нема приступ изван задатка који му је дат, без обзира на трајање сесије или позадински систем.

Стварање три слоја безбедности

SPACE се састоји од три кључна слоја, од којих сваки има уграђене јаке мјере безбедности:

Контролна раван (Control Plane): Први слој архитектуре система SPACE, контролна раван је одговорна за оркестрацију животног циклуса sandbox-а. Она прима сваки захтјев преко једног API-ја, прати стање sandbox-а и одлучује у реалном времену на који позадински систем да га усмјери. Она одређује када задатак захтијева нови sandbox. Такође одлучује када је задатак завршен и када његов одговарајући sandbox може бити уништен. Пошто је контролна раван без стања и централно хостована, исти API позив ради на било којој постојећој инфраструктури, укључујући и локалну машину.

Сервиси на нивоу чвора: У систему SPACE, сервиси на нивоу чвора су мјесто гдје се безбедносни став компаније Perplexity истиче. Са системом SPACE, акредитиви никада не улазе у sandbox. Умјесто тога, они се прослеђују изван sandbox-а само у тачном тренутку када су потребни. Када агенту треба привремени приступ за повезивање са Google налогом, SPACE може да управља током пријављивања без излагања акредитива унутар sandbox-а. Одлазни мрежни саобраћај се такође контролише на нивоу чвора. Компромитовани агент не може да досегне ништа изван свог дозвољеног опсега.

Унутар sandbox-а: Слој унутар sandbox-а је последња линија одбране система SPACE. Са системом SPACE, сваки задатак се извршава унутар Firecracker microVM-а, потпуно изолованог окружења са сопственим оперативним системом. То значи да ништа унутра не може утицати на домаћина или било који други sandbox који ради паралелно. Space Daemon је једини процес који комуницира са контролном равни компаније Perplexity. Он носите оперативне сигнале као што су команде за почетак, паузу и снимак екрана. Ово је оно што комуникацијски канал чини ревидибилним и контролабилним.

Нуђење комплетиг скупа контрола

SPACE је јединствен међу пружаоцима услуга по нуђењу комплетног скупа контрола. SPACE комбинује паузирање и наставак, гранање сесије, изолацију акредитива по сесији, прослеђивање протокола и вишепозадинску оркестрацију у једној платформи.

SPACE прави ротирајуће снимке комплетног стања сесије, хватајући живу меморију заједно са фајловима тако често као сваки минут. Може да се врати у прошлост недељу дана. То је у суштини уграђена временска машина: свако може да оде усред задатка, врати се недељу дана касније, а агент наставља тачно тамо гдје је паузиран.

SPACE третира sandbox као неповјерљив по дефиницији и окружује га мрежним контролама, контролама акредитива, раздвајањем закупна и шифрованим складиштем. Ако је један слој компромитован, остали ће заштитити личне информације.

Са системом SPACE, пословни корисници такође могу донијети сопствене кључеве за шифровање. Ако корисник опозове свој кључ, нови sandbox-ови се не могу покренути и постојећи подаци шифровани од стране корисника се више не могу дешифровати.

За оне који раде са посебно осјетљивим подацима, SPACE је дизајниран да ради и на сопственој инфраструктури и потпуно ван мреже. Овај ниво контроле осигурава да подаци никада не морају да напусте безбедно окружење.

Покретање компаније Perplexity

Инжењери компаније Perplexity превели су SPACE од концепта до производа за 10 недеља. Користимо SPACE интерно већ посљедња два мјесеца. Током протекле недеље, он је подржао милионе креирања sandbox-ова и десетине милиона поновних повезивања са sandbox-ом. Тренутно је доступан у систему Computer за све кориснике.

SPACE је изграђен да ради било гдје. У раном тесту на NVIDIA Vera CPU-у, стварни токови рада у стилу система Computer радили су отприлике 1,5 пута брже од наше тренутне производне референце, а покренули су истовремене sandbox-ове до 1,9 пута брже. Овај рани сигнал показује да ће Vera пружити изузетну вриједност за sandbox-ове за агенте и потврђује позадинску агностичност која стоји иза система SPACE.

Улагање у безбедна окружења

Вјерујемо да не би требало да постоји компромис између функционалности, ефикасности и безбедности. Агенти би требало да раде са истим подацима као и ми, са истим повјерењем које бисмо указали било ком сараднику.

SPACE је само прва итерација овог безбједног окружења. Како AI наставља да се развија, наши безбједносни и инфраструктурни системи ће такође.

Погледајте Making SPACE: Secure and Efficient Runtimes for Long-Running Agents за више детаља.