Публикуваме с отворен код SPACE – sandbox платформата зад Computer

След пускането на Computer през февруари Perplexity е сред ранните пионери в областта на персоналните агенти. Ангажирани сме с трудните проблеми на управлението на агенти – откриването на опасно поведение и предотвратяването на неконтролирана дейност на агенти. През юли заменихме търговския си доставчик на sandbox среди с по-надеждно и устойчиво собствено решение, което нарекохме SPACE.

SPACE осигурява висока степен на сигурност за усъвършенствани агентни системи. Всъщност неотдавнашна поредица от тестове за сигурност доказа устойчивостта на SPACE срещу техники за заобикаляне на мрежови ограничения като използваните при инцидента с OpenAI/Hugging Face.

Днес публикуваме SPACE като проект с отворен код, за да дадем на разработчиците основа за изграждане на по-безопасни агентни системи и да допринесем за по-силна защита в цялата индустрия. Разработчиците могат да получат достъп до хранилището тук.

Управлението на агенти е инженерен проблем, а отвореният код е от съществено значение за решаването му. Когато разработчиците разполагат със системи, които могат да проверяват, адаптират и надграждат, те откриват повече слабости и създават по-добри инструменти. Отварянето на кода на SPACE дава на разработчиците изпитана в производствена среда основа за средите за изпълнение на агенти с вградени изолация, възстановяване на състоянието и контроли за идентификационни данни и мрежа.

Създаване на основа за други разработчици

Sandbox средите осигуряват сигурността на агентите, като им дават достъп до инструментите и файловете, необходими за изпълнението на тези задачи, и същевременно защитават чувствителната информация.

Отварянето на кода на SPACE дава на разработчиците отправна точка за средите, в които агентите им изпълняват код и работят с файлове. Екипите могат да видят как работи sandbox платформата SPACE и да надграждат нейната реализация. Могат също да я адаптират към своите нужди, вместо да пресъздават базовата инфраструктура.

В Computer SPACE поддържа изолирано изпълнение на код, пауза и възобновяване, възстановяване и разклоняване на сесии. Тези възможности създават основата за асистенти, които биха могли:

• Да анализират данни: да почистват електронна таблица, да извършват изчисления и да създават диаграми в отделно работно пространство.
• Да възобновяват работата: да правят пауза, докато някой прегледа чернова или предостави липсваща информация, и след това да продължават със запазени файлове и състояние на изпълнение.
• Да проучват алтернативи: да изпробват два начина за почистване на набор от данни в отделни копия на работното си пространство или да възстановяват по-ранна версия на файл след грешка.

Тези примери показват как разработчиците биха могли да използват документираните контроли за изолация и сесии на SPACE. Платформените инженери и инженерите по сигурността могат също да прегледат модела на изолация и примерите за сигурност, преди да интегрират SPACE в собствените си системи.

Повече сигурност за автономната работа

Когато даваме на агентите повече свобода да решават проблеми, се нуждаем от ясни граници за начина, по който го правят. Знаем, че агенти, изпълняващи легитимни задачи, все пак могат да прекрачат границите на сигурността, когато се опитват да заобиколят липсващи файлове, неуспешни заявки или откази на достъп.

Можем да въведем предпазни механизми в модела, за да намалим вероятността от опасно поведение. Добавянето на независими контроли в заобикалящата система помага да се ограничат щетите, ако тези механизми се провалят. Те ограничават до какво има достъп агентът, независимо какво реши да направи.

SPACE поставя тези контроли около отделно работно пространство за генерираните от агента код и файлове. Проектирахме го така, че да съчетава изолация, възстановяване и ефективно изпълнение. Това позволява на агентите да вършат полезна работа в дълги сесии, без да се разчита единствено на модела да спазва границите на сигурност.

Работа в собствена операционна система

Всяка sandbox среда на SPACE работи в малка виртуална машина със собствена операционна система, което създава изолационна граница между работата на агента и хост системата. Централна контролна равнина координира кога тези работни пространства се създават, поставят на пауза, възобновяват или премахват.

SPACE третира sandbox средата като ненадеждна и управлява мрежовия достъп и съхраняваните от платформата идентификационни данни извън нея. Агентите могат да се свързват с оторизирани услуги, без тези идентификационни данни да се съхраняват в работната им среда.

Честите моментни снимки на файловете и контролните точки на цялата работеща среда запазват напредъка при прекъсвания. За да бъдат тези операции ефективни, SPACE съхранява промените, вместо многократно да копира цели среди. Това намалява работата, необходима за създаване, възстановяване или разклоняване на sandbox среда.

По-висока производителност в производствена среда

От юли SPACE захранва всички сесии на Computer и обработва създаването на милиони sandbox среди дневно. При сравнение при един и същ производствен трафик създаването на sandbox среда беше от три до пет пъти по-бързо, отколкото с предишния ни доставчик.

Също така тествахме SPACE срещу агенти, които умишлено се опитваха да пробият границите му. Публикуваната ни оценка на сигурността не установи нито едно излизане от виртуалната машина към хоста при 108 опита, но някои агенти намериха начини да заобиколят мрежовите ограничения. Отстранихме тези слабости и нито един от двата установени метода за атака не успя при последващите тестове.

Освен това уведомихме доставчиците на други sandbox платформи за сходни слабости, които открихме в техните продукти, като така разширихме тази работа отвъд собствената си инфраструктура.

Принос към по-безопасен агентен ИИ

SPACE е част от по-широко усилие за укрепване на системите, на които хората разчитат, докато ИИ поема все повече работа. Чрез Secure Intelligence Institute провеждаме изследвания в областта на сигурността и си сътрудничим с по-широката общност, като превръщаме откритията в практически защити.

Вярваме, че публикуването на инструменти за сигурност с отворен код дава на разработчиците повече начини да тестват защитите, да откриват слабости и да изграждат по-безопасни ИИ системи. Споделихме инструменти, които обхващат различни аспекти на тази работа:

• BrowseSafe – модел и бенчмарк за откриване на злонамерени инструкции, скрити в уеб страници.
• Numbat – набор от инструменти за сигурност, публикуван с отворен код през юли, който помага за откриване, разследване и предотвратяване на опасно поведение на агенти на компютри
• Bumblebee – скенер, публикуван с отворен код през май, който проверява компютрите на разработчиците за рискови софтуерни пакети, разширения и конфигурации на ИИ инструменти

Предоставянето на тези инструменти позволява на други екипи да проверяват работата ни, да я адаптират към своите нужди и да допринасят с подобрения. Със SPACE разширяваме този подход към средите, в които агентите изпълняват код и работят с файлове.

Внедряване в агентни системи

Akamai тества и стартира SPACE в своята облачна платформа и работи с Perplexity, за да го предложи на своите клиенти. Crusoe също си партнира с Perplexity, за да добави SPACE към портфолиото си Managed AI Services. CoreWeave публикува ръководство за настройка за разработчици, които искат да внедрят SPACE за оценка в CKS.

Разработчиците могат да започнат с инструкциите за настройка и насоките за сигурност на SPACE, за да го внедрят в собствените си агентни системи. Хранилището и документацията определят поддържаните конфигурации и включените компоненти.