Сигурни Sandbox среди за агенти

AI агентите извършват реална работа от наше име: редактират файлове, изпълняват код и изпълняват многостъпкови задачи в продължение на часове или дни. Това често изисква достъп до лична информация, което прави мястото, където работи агентът, по-важно от това колко интелигентен е моделът.

Sandbox средите поддържат агентите сигурни, като им позволяват достъп до инструментите и файловете, от които се нуждаят за завършване на тези задачи, като същевременно пазата поверителната информация защитена.

Когато изграждахме нашата платформа за агенти Computer, изследвахме готови Sandbox опции. Всяка опция изискваше да обмислим компромиси между функционалност, ефективност и сигурност. Perplexity Computer се нуждаеше и от трите, затова изградихме съвсем нов тип Sandbox.

Днес представяме SPACE – платформа за Sandbox, проектирана да разгърне пълния потенциал на Computer, като същевременно осигурява най-високо ниво на сигурност за усъвършенствани системи с агенти.

Преосмисляне на архитектурата на Sandbox

SPACE създава ефимерни Sandbox среди, които съществуват само толкова дълго, колкото е необходимо за изпълнение на код, работа с файлове или други задачи. Когато задачата приключи, Sandbox средата и всичко в нея се унищожават.

За дългосрочна работа, която трябва да надживее рестартиранията, SPACE обвива всяка Sandbox среда в сесия, която може да бъде поставена на пауза, възобновена или разделена на множество Sandbox среди. Технологията на SPACE за динамични моментни снимки позволява на контекста да пътува заедно с работата, въпреки че нито една отделна Sandbox среда не го прави.

Елиминиране на предишните компромиси

Повечето Sandbox платформи решават само две от три променливи: функционалност, ефективност или сигурност. Оптимизирането за една обикновено е за сметка на друга. Някои решения имат силни примитиви за изолация, но оставят идентификационните данни изложени в средата. Други изпълняват добре кратки задачи, но губят състоянието и се провалят, когато сесията трябва да работи с часове.

SPACE решава и трите проблемни области, като разделя отговорностите между специализирани услуги. Мрежовият шлюз, демонът на Space и услугата за файлове защитават всяка различна част от стека. Те също така доставят идентификационни данни извън Sandbox средата само в момента, в който са необходими.

С този дизайн компрометираният агент по подразбиране няма път към управляваните от платформата идентификационни данни. И той няма достъп извън дадената му задача, независимо от продължителността на сесията или бекенда.

Създаване на три слоя сигурност

SPACE се състои от три ключови слоя, всеки от които има вградени строги мерки за сигурност:

Контролен панел: Първият слой на архитектурата на SPACE, контролният панел, отговаря за оркестрацията на жизнения цикъл на Sandbox средата. Той получава всяка заявка през един API, проследява състоянието на Sandbox средата и решава в реално време към кой бекенд да я насочи. Той определя кога дадена задача се нуждае от нова Sandbox среда. Той също така решава кога една задача е завършена и съответната Sandbox среда може да бъде унищожена. Тъй като контролният панел е без съдържание (stateless) и се хоства централно, същата API заявка работи на всяка съществуваща инфраструктура, включително локална машина.

Услуги на ниво възет (Node-level Services): В SPACE услугите на ниво възет са мястото, където позицията на сигурност на Perplexity се откроява. С SPACE идентификационните данни никога не преминават в Sandbox средата. Вместо това те се подават отвън Sandbox средата само в точния момент, в който са необходими. Когато агент се нуждае от временен достъп за връзка с Google акаунт, SPACE може да управлява потока за влизане, без да излага идентификационните данни вътре в Sandbox средата. Изходящият мрежов трафик също се контролира на ниво възел. Компрометиран агент не може да достигне нищо извън разрешения му обхват.

Вътре в Sandbox средата: Слоят вътре в Sandbox средата е последната линия на защита на SPACE. С SPACE всяка задача работи в микровиртуална машина Firecracker – напълно изолирана среда със собствена операционна система. Това означава, че нищо вътре не може да засегне хоста или която и да е друга Sandbox среда, работеща паралелно. Демонът на Space е единственият процес, който комуникира с контролния панел на Perplexity. Той пренася оперативни сигнали като команди за стартиране, пауза и моментни снимки. Това прави комуникационния канал одитируем и контролируем.

Предлагане на пълен набор от контроли

SPACE е уникален сред доставчиците с предлагането на пълен набор от контроли. SPACE съчетава пауза и възобновяване, разклоняване на сесии (session forking), изолация на идентификационни данни за сесия, пренасочване на протоколи и оркестрация с множество бекенди в една единствена платформа.

SPACE прави моментни снимки на цялото състояние на сесията, като улавя активната памет заедно с файловете на всеки минута. Тя може да се върне назад във времето с една седмица. Това по същество е вградена машина на времето: всеки може да се оттегли по средата на задачата, да се върне седмица по-късно и агентът да продължи точно там, където е бил поставен на пауза.

SPACE третира Sandbox средата като недоверена по подразбиране и я заобикаля с мрежови контроли, контроли на идентификационните данни, разделяне на наемателите и криптирано хранилище. Ако един слой бъде компрометиран, останалите ще защитят личната информация.

С SPACE корпоративните клиенти могат да донесат и свои собствени ключове за криптиране. Ако даден клиент оттегли ключа си, новите Sandbox среди не могат да се зареждат и съществуващите криптирани от клиента данни вече не могат да бъдат декриптирани.

За тези, които работят с особено чувствителни данни, SPACE е проектиран да работи както локално (on-prem), така и напълно офлайн. Това ниво на контрол гарантира, че данните никога няма нужда да напускат сигурна среда.

Захранване на Perplexity

Инженерите на Perplexity пренесоха SPACE от концепция до продукт за 10 седмици. Използваме SPACE вътрешно през последните два месеца. През последната седмица тя поддържа милиони създавания на Sandbox среди и десетки милиони свързвания към тях. Тя е активна в Computer за всички потребители днес.

SPACE е изграден да работи навсякъде. При първоначален тест на CPU NVIDIA Vera, работните процеси в стил Computer се изпълняваха приблизително 1.5 пъти по-бързо от настоящата ни производствена референция и стартираха едновременни Sandbox среди с до 1.9 пъти по-бързо. Този ранен сигнал показва, че Vera ще осигури изключителна стойност за Sandbox средите за агенти и потвърждава агностицизма към бекенда зад SPACE.

Инвестиране в сигурни среди

Вярваме, че не трябва да има компромис между функционалност, ефективност и сигурност. Агентите трябва да работят със същите данни, с които и ние, със същото доверие, което бихме гласували на всеки колега.

SPACE е само първата итерация на тази сигурна среда. Тъй като изкуственият интелект продължава да се развива, нашите системи за сигурност и инфраструктура също ще го правят.

Вижте Създаване на SPACE: Сигурни и ефективни среди за изпълнение на дългосрочни агенти за повече подробности.