Агенттерге арналған қауіпсіз sandbox орталары

AI агенттері біздің атымыздан нақты жұмыстарды атқарады: файлдарды өңдейді, кодты орындайды және сағаттар немесе күндер бойы бірнеше қадамды тапсырмаларды орындайды. Бұл көбінесе жеке ақпаратқа қол жеткізуді талап етеді, бұл модельдің қаншалықты ақылды екенінен гөрі агенттің қай жерде жұмыс істейтінін маңыздырақ етеді.

Sandbox орталары агенттерді қауіпсіз ұстайды, оларға осы тапсырмаларды орындау үшін қажетті құралдар мен файлдарға қол жеткізуге мүмкіндік береді, сонымен бірге құпия ақпаратты қорғалған күйде сақтайды.

Computer агент платформасын құру кезінде біз дайын sandbox опцияларын зерттедік. Әрбір опция функционалдылық, тиімділік және қауіпсіздік арасындағы ымыраларды қарастыруды талап етті. Perplexity Computer-ге үшеуі де қажет болды, сондықтан біз толығымен жаңа Sandbox түрін жасадық.

Бүгін біз озық агенттік жүйелер үшін ең жоғары қауіпсіздік деңгейін қамтамасыз ете отырып, Computer-дің толық қуатын ашуға арналған sandbox платформасы SPACE кеңістігін таныстырамыз.

Sandbox архитектурасын қайта елестету

SPACE кеңістігі кодты іске қосу, файлдармен әрекеттесу немесе басқа тапсырмалар үшін қанша уақыт қажет болса, сонша ғана өмір сүретін уақытша sandbox орталарын іске қосады. Тапсырма аяқталған кезде, sandbox және оның ішіндегі барлық нәрсе жойылады.

Қайта іске қосудан аман өтуі тиіс ұзақ мерзімді жұмыс үшін SPACE кеңістігі әрбір sandbox ортасын кідіртуге, қайта бастауға немесе бірнеше sandbox орталарына тармақтауға болатын сеанспен қоршайды. SPACE кеңістігінің динамикалық көшірме технологиясы жеке sandbox қозғалмаса да, мәнмәтіннің жұмыспен бірге жүруіне мүмкіндік береді.

Бұрынғы ымыраларды жою

Көптеген sandbox платформалары үш айнымалының екеуін ғана шешеді: функционалдылық, тиімділік немесе қауіпсіздік. Біреуін оңтайландыру әдетте екіншісінің есебінен жүзеге асады. Кейбір шешімдердің қатаң оқшаулау элементтері бар, бірақ тіркелгі деректерін ортаның ішінде қорғалмаған күйде қалдырады. Басқалары қысқа мерзімді жұмыстарды жақсы орындайды, бірақ сеанс сағаттар бойы жұмыс істеуі керек болғанда күйді жоғалтады және сәтсіздікке ұшырайды.

SPACE кеңістігі арнайы қызметтер бойынша мәселелерді бөлу арқылы үшеуін де шешеді. Network Gateway, Space Daemon және File Service қызметтері стектің әртүрлі бөлігін қорғайды. Олар сондай-ақ тіркелгі деректерін қажет еткен сәтте ғана sandbox сыртынан жеткізеді.

Бұл дизайнның арқасында ымыраға келген агенттің әдепкі бойынша платформа басқаратын тіркелгі деректеріне жолы жоқ. Және сеанстың ұзақтығына немесе бэкендіне қарамастан, оған берілген тапсырмадан тыс қол жеткізе алмайды.

Қауіпсіздіктің үш қабатын құру

SPACE кеңістігі әрқайсысының ішіне кірістірілген күшті қауіпсіздік шаралары бар үш негізгі қабаттан тұрады:

Control Plane: SPACE архитектурасының бірінші қабаты, Control Plane sandbox тіршілік циклін үйлестіруге жауап береді. Ол әрбір сұрауды бір API арқылы қабылдайды, sandbox күйін бақылайды және нақты уақытта қай бэкендке бағыттау керектігін шешеді. Ол тапсырмаға қашан жаңа sandbox қажет екенін анықтайды. Сондай-ақ тапсырма қашан аяқталғанын және оның сәйкес sandbox ортасының қашан жойылуы мүмкін екенін шешеді. Control Plane күйсіз және орталықтан хостинг жасалғандықтан, бірдей API қоңырауы кез келген қолданыстағы инфрақұрылымда, соның ішінде жергілікті машинада жұмыс істейді.

Node-level Services: SPACE жүйесінде Node-level Services бұл Perplexity қауіпсіздік позициясы ерекшеленетін орын. SPACE көмегімен тіркелгі деректері ешқашан sandbox ішіне өтпейді. Оның орнына олар тек қажетті дәл сәтте sandbox сыртынан беріледі. Агентке Google Account тіркелгісіне қосылу үшін уақытша қолжетімділік қажет болғанда, SPACE тіркелгі деректерін sandbox ішінде ашпастан кіру ағынын басқара алады. Шығыс желілік трафик те түйін деңгейінде басқарылады. Ымыраға келген агент өзінің рұқсат етілген ауқымынан тыс ештеңеге қол жеткізе алмайды.

In-sandbox: Sandbox ішіндегі қабат — бұл SPACE кеңістігінің соңғы қорғаныс шебі. SPACE көмегімен әрбір тапсырма өзінің операциялық жүйесі бар толығымен оқшауланған орта Firecracker микроVM ішінде орындалады. Бұл іштегі ешбір нәрсе хостқа немесе параллель жұмыс істейтін басқа sandbox ортасына әсер ете алмайтынын білдіреді. Space Daemon — Perplexity басқару жазықтығымен сөйлесетін жалғыз процесс. Ол бастау, кідірту және snapshot командалары сияқты жұмыс сигналдарын тасымалдайды. Бұл байланыс арнасын аудиттеуге және бақылауға болатын етеді.

Басқару элементтерінің толық жиынтығын ұсыну

SPACE провайдерлер арасында басқару элементтерінің толық жиынтығын ұсынуымен ерекшеленеді. SPACE бір платформада кідірту және жалғастыру, сеансты шанышқылау, сеанс бойынша тіркелгі деректерін оқшаулау, хаттаманы бағыттау және бірнеше бэкендті үйлестіру мүмкіндіктерін біріктіреді.

SPACE тіпті әр минут сайын файлдармен қатар тікелей жадты түсіре отырып, толық сеанс күйінің динамикалық көшірмелерін алады. Ол бір апта бұрынғы уақытқа орала алады. Бұл негізінен кірістірілген уақыт машинасы: кез келген адам тапсырманың ортасында кетіп, бір аптадан кейін орала алады, ал агент дәл тоқтаған жерінен жалғастырады.

SPACE әдепкі бойынша sandbox ортасын сенімсіз деп санайды және оны желілік басқару элементтерімен, тіркелгі деректерін басқару элементтерімен, арендаторды бөлумен және шифрланған сақтау орнымен қоршайды. Егер бір қабат ымыраға келсе, қалғандары жеке ақпаратты қорғайды.

SPACE көмегімен корпоративті тұтынушылар өздерінің шифрлау кілттерін де әкелее алады. Егер тұтынушы өз кілтін қайтарып алса, жаңа sandbox орталары жүктелмейді және тұтынушы шифрлаған қолданыстағы деректерді бұдан былай шифрлаудан шығару мүмкін емес.

Әсіресе құпия деректермен жұмыс істейтіндер үшін SPACE жергілікті ортада (on-prem) және толығымен офлайн режимде жұмыс істеуге арналған. Бақылаудың бұл деңгейі деректердің қауіпсіз ортадан шығуына ешқашан қажет етпеуін қамтамасыз етеді.

Perplexity қуат беру

Perplexity инженерлері SPACE кеңістігін тұжырымдамадан өнімге 10 апта ішінде жеткізді. Біз соңғы екі ай бойы SPACE кеңістігін ішкі жүйеде қолданып келеміз. Соңғы аптада ол миллиондаған sandbox жасауды және он миллиондаған sandbox қайта қосылуларын қолдады. Бұл бүгінгі таңда барлық пайдаланушылар үшін Computer жүйесінде тікелей жұмыс істейді.

SPACE кез келген жерде жұмыс істеу үшін жасалған. NVIDIA Vera CPU процессорындағы ерте сынақта нақты Computer стиліндегі жұмыс процестері біздің ағымдағы өндірістік эталонымыздан шамамен 1.5 есе жылдам жұмыс істеді және бір мезгілдегі sandbox орталарын 1.9 есе жылдам іске қосты. Бұл ерте сигнал Vera агентикалық sandbox орталары үшін ерекше мән беретінін көрсетеді және SPACE артындағы бэкендтің тәуелсіздігін растайды.

Қауіпсіз орталарға инвестиция салу

Біз функционалдылық, тиімділік және қауіпсіздік арасындағы ымыра болмауы тиіс деп санаймыз. Агенттер біз сенетін кез келген әріптеске қоятын сеніммен, біз жұмыс істейтін бірдей деректермен жұмыс істеуі керек.

SPACE — бұл қауіпсіз ортаның бірінші итерациясы ғана. Жасанды интеллект дамуын жалғастырған сайын, біздің қауіпсіздік және инфрақұрылым жүйелеріміз де дамиды.

Қосымша мәліметтер алу үшін Making SPACE: Secure and Efficient Runtimes for Long-Running Agents қараңыз.