SPACE, sandbox платформа која покреће Computer, сада је отвореног кода

Од покретања производа Computer у фебруару, Perplexity је међу раним пионирима у области личних агената. Посвећени смо рјешавању тешких проблема управљања агентима, откривања небезбједног понашања и спрјечавања неконтролисаних активности агената. У јулу смо комерцијално доступног провајдера sandbox окружења замијенили робуснијим и отпорнијим интерним рјешењем које смо назвали SPACE.

SPACE пружа висок ниво безбједности за напредне агентске системе. Заправо, недавни низ безбједносних тестова показао је да је SPACE отпоран на технике заобилажења мрежних ограничења попут оних коришћених у инциденту OpenAI/Hugging Face.

Данас SPACE објављујемо као пројекат отвореног кода како бисмо програмерима пружили основу за изградњу безбједнијих агентских система и допринијели снажнијој заштити у читавој индустрији. Програмери могу приступити репозиторијуму овдје.

Управљање агентима је инжењерски проблем, а отворени код је кључан за његово рјешавање. Када програмери имају системе које могу да прегледају, прилагоде и надограђују, проналазе више слабости и развијају боље алате. Објављивањем платформе SPACE као отвореног кода програмери добијају у продукцији провјерен темељ за окружења за извршавање агената, са уграђеном изолацијом, опоравком стања и контролама акредитива и мреже.

Стварање темеља за друге ствараоце

Sandbox окружења одржавају безбједност агената тако што им омогућавају приступ алатима и фајловима потребним за обављање ових задатака, док осјетљиве информације остају заштићене.

Објављивањем платформе SPACE као отвореног кода програмери добијају полазну тачку за окружења у којима њихови агенти извршавају код и раде са фајловима. Тимови могу да виде како sandbox платформа SPACE функционише и да надограђују њену имплементацију. Могу је и прилагодити својим потребама умјесто да изнова граде основну инфраструктуру.

У оквиру производа Computer, SPACE подржава изоловано извршавање кода, паузирање и наставак рада, опоравак и гранање сесија. Те могућности чине темељ за асистенте који би могли:

• Анализирати податке: Очистити табелу, извршити прорачуне и направити графиконе у засебном радном простору.
• Наставити рад: Паузирати док неко прегледа нацрт или достави информације које недостају, а затим наставити рад уз очуване фајлове и стање извршавања.
• Истражити алтернативе: Тестирати два начина чишћења скупа података у засебним копијама радног простора или вратити ранију верзију фајла након грешке.

Ови примјери илуструју како би програмери могли да користе документоване контроле изолације и сесија у платформи SPACE. Инжењери за платформе и безбједност такође могу да прегледају модел изолације и безбједносне примјере прије интеграције платформе SPACE у сопствене системе.

Већа безбједност за аутономни рад

Када агентима дамо више простора за рјешавање проблема, потребна су нам јасна ограничења у погледу начина на који то раде. Знамо да агенти који обављају легитимне задатке и даље могу да пређу безбједносне границе када покушавају да заобиђу фајлове који недостају, неуспјеле захтјеве или одбијене дозволе.

Можемо увести заштитне механизме на нивоу модела како бисмо смањили вјероватноћу небезбједног понашања. Додавање независних контрола у систем који окружује модел помаже да се ограничи штета ако ти механизми закажу. Те контроле ограничавају чему агент може да приступи, без обзира на то шта одлучи да уради.

SPACE поставља те контроле око засебног радног простора за код и фајлове које генеришу агенти. Дизајнирали смо га тако да комбинује изолацију, опоравак и ефикасно извршавање. Тиме агенти могу да обављају користан посао током дугих сесија, а да се поштовање безбједносних граница не препушта искључиво моделу.

Рад унутар сопственог оперативног система

Свако SPACE sandbox окружење ради унутар мале виртуелне машине са сопственим оперативним системом, чиме се ствара граница изолације између рада агента и хост система. Централна контролна раван координира када се ови радни простори креирају, паузирају, настављају или уклањају.

SPACE полази од тога да sandbox окружењу не треба вјеровати, па мрежним приступом и акредитивима које чува платформа управља изван њега. Агенти се могу повезати са овлашћеним сервисима, а да ти акредитиви не буду ускладиштени у њиховом радном окружењу.

Чести снимци фајлова и контролне тачке цијелог покренутог окружења чувају напредак током прекида. Да би ове операције остале ефикасне, SPACE чува промјене умјесто да изнова копира цијела окружења. Тиме се смањује посао потребан за креирање, враћање или гранање sandbox окружења.

Побољшање перформанси у продукцији

Од јула SPACE покреће све сесије производа Computer и свакодневно обрађује милионе креирања sandbox окружења. У поређењу на истом продукционом саобраћају, креирање sandbox окружења било је три до пет пута брже него код нашег претходног провајдера.

Такође смо тестирали SPACE против агената који су намјерно покушавали да пробију његове границе. Наша објављена безбједносна евалуација није забиљежила ниједан бијег из виртуелне машине на хост у 108 покушаја, али су неки агенти пронашли начине да заобиђу мрежна ограничења. Те слабости смо отклонили, а ниједна од идентификованих метода напада није успјела у накнадном тестирању.

Сродне слабости које смо пронашли на другим sandbox платформама пријавили смо и њиховим добављачима, проширујући тај рад изван сопствене инфраструктуре.

Допринос безбједнијој агентској вјештачкој интелигенцији

SPACE је дио ширег напора да се ојачају системи на које се људи ослањају док AI преузима све више посла. Кроз Secure Intelligence Institute спроводимо безбједносна истраживања и сарађујемо са широм заједницом, претварајући налазе у практичне механизме одбране.

Вјерујемо да објављивање безбједносних алата као отвореног кода програмерима даје више начина да тестирају одбрану, пронађу слабости и граде безбједније AI системе. Подијелили смо алате који покривају различите дијелове тог посла:

• BrowseSafe, модел и бенчмарк за откривање злонамјерних инструкција скривених на веб-страницама.
• Numbat, безбједносни алат објављен као отворени код у јулу, који помаже у откривању, истраживању и спрјечавању опасног понашања агената на рачунарима
• Bumblebee, скенер објављен као отворени код у мају, који на рачунарима програмера провјерава ризичне софтверске пакете, екстензије и конфигурације AI алата

Доступност ових алата омогућава другим тимовима да прегледају наш рад, прилагоде га својим потребама и допринесу побољшањима. Са платформом SPACE тај приступ проширујемо на окружења у којима агенти извршавају код и раде са фајловима.

Примјена у агентским системима

Akamai је тестирао и покренуо SPACE на својој платформи у облаку и сарађује са компанијом Perplexity како би га понудио својим клијентима. Crusoe такође партнерски сарађује са компанијом Perplexity како би SPACE уврстио у свој портфолио Managed AI Services. CoreWeave је објавио упутство за подешавање намијењено програмерима који желе да поставе SPACE на сервису CKS ради евалуације.

Програмери могу почети од упутстава за подешавање и безбједносних смјерница за SPACE како би га примијенили у сопственим агентским системима. Репозиторијум и документација дефинишу подржане конфигурације и укључене компоненте.