Saugios smėlio dėžės agentams

Dirbtinio intelekto agentai atlieka realius darbus už mus: redaguoja failus, vykdo kodą ir atlieka daugiapakopes užduotis valandas ar dienas. Tam dažnai reikia prieigos prie privačios informacijos, todėl kur agentas veikia, yra svarbiau nei tai, koks išmanus yra modelis.

Smėlio dėžės (sandbox) užtikrina agentų saugumą, leisdamos jiems pasiekti įrankius ir failus, kurių reikia šioms užduotims atlikti, o jautri informacija išlieka apsaugota.

Kurkite savo agentų platformą Computer, ištyrėme paruoštas smėlio dėžės parinktis. Kiekviena parinktis reikalavo atsižvelgti į kompromisus tarp funkcionalumo, efektyvumo ir saugumo. „Perplexity Computer“ reikėjo visų trijų, todėl sukūrėme visiškai naujo tipo smėlio dėžę.

Šiandien pristatome SPACE – smėlio dėžės platformą, skirtą išnaudoti visas „Computer“ galimybes ir kartu užtikrinti aukščiausio lygio saugumą pažangioms agentų sistemoms.

Smėlio dėžės architektūros iš naujo išradimas

SPACE paleidžia efemeras smėlio dėžes, kurios gyvuoja tik tiek, kiek reikia kodui vykdyti, sąveikauti su failais ar kitoms užduotims atlikti. Užduočiai pasibaigus, smėlio dėžė ir viskas joje esanti yra sunaikinama.

Atliekant ilgalaikius darbus, kuriuos reikia išsaugoti po paleidimo iš naujo, SPACE apgaubia kiekvieną smėlio dėžę sesija, kurią galima pristabdyti, pratęsti arba išsiakoti į kelias smėlio dėžes. SPACE dinaminio momentinio kopijavimo technologija leidžia kontekstui keliauti kartu su darbu, net jei jokia atskira smėlio dėžė to nedaro.

Ankstesnių kompromisų panaikinimas

Dauguma smėlio dėžės platformų sprendžia tik du iš trijų kintamųjų: funkcionalumą, efektyvumą arba saugumą. Optimizuojant vieną iš jų, paprastai nukenčia kitas. Kai kurie sprendimai turi stiprius izoliavimo primityvus, tačiau paliekant kredencialus atvirus aplinkoje. Kiti gerai vykdo trumpalaikes užduotis, tačiau praranda būseną ir žlunga, kai sesija turi veikt valandas.

SPACE išsprendžia visus tris aspektus, atskirdama rūpesčius tarp tam skirtų paslaugų. Tinklo šliuzas („Network Gateway“), „Space“ demonas („Space Daemon“) ir failų tarnyba („File Service“) apsaugo skirtingas dėklo dalis. Jie taip pat pateikia kredencialus iš smėlio dėžės išorės tik tada, kai jų reikia.

Pagal šį dizainą, pažeistas agentas iš pradžių neturi kelio į platformos tvarkomus kredencialus. Ir jis neturi prieigos už jam pavestos užduoties ribų, nepriklausomai nuo sesijos trukmės ar backend.

Trijų saugumo sluoksnių kūrimas

SPACE susideda iš trijų pagrindinių sluoksnių, kurių kiekvienas turi įdiegtas stiprias saugumo priemones:

Valdymo plokštumą (Control Plane): Pirmojo SPACE architektūros sluoksnio, valdymo plokštuma yra atsakinga už smėlio dėžės gyvavimo ciklo organizavimą. Ji gauna kiekvieną užklausą per vieną API, seka smėlio dėžės būseną ir realiuoju laiku nusprendžia, į kurį backend nukreipti. Ji nustato, kada užduočiai reikia naujos smėlio dėžės. Ji taip pat nusprendžia, kada užduotis baigta ir atitinkama smėlio dėžė gali būti sunaikinta. Kadangi valdymo plokštuma yra bebūsenė ir centralizuotai talpinama, tas pats API iškvietimas veikia bet kurioje esamoje infrastruktūroje, įskaitant vietinį kompiuterį.

Mazgo lygio paslaugos: SPACE mazgo lygio paslaugose išsiskiria „Perplexity“ saugumo pozicija. Su SPACE kredencialai niekada nepatenka į smėlio dėžę. Vietoj to jie perduodami iš smėlio dėžės išorės tiksliai tuo momentu, kai jų reikia. Kai agentui reikia laikinos prieigos prisijungti prie „Google“ paskyros, SPACE gali tvarkyti prisijungimo srautą neatskleisdamas kredencialų smėlio dėžės viduje. Išeinantis tinklo srautas taip pat valdomas mazgo lygiu. Pažeistas agentas negali pasiekti nieko, kas yra už jo leidžiamos taikymo srities ribų.

Smėlio dėžės viduje: Smėlio dėžės vidinis sluoksnis yra paskutinė SPACE gynybos linija. Su SPACE kiekviena užduotis veikia „Firecracker“ mikrovirtualiojoje mašinoje (microVM) – visiškai izoliuotoje aplinkoje su savo operacine sistema. Tai reiškia, kad niekas viduje negali paveikti pagrindinio kompiuterio ar bet kurios kitos lygiagrečiai veikiančios smėlio dėžės. „Space“ demonas yra vienintelis procesas, kalbantis su „Perplexity“ valdymo plokštuma. Jis perduoda operacinius signalus, tokius kaip paleidimo, pauzės ir momentinio kopijavimo komandos. Dėl to ryšio kanalas tampa audituojamas ir valdomas.

Siūlome pilną valdiklių rinkinį

SPACE yra unikali tarp teikėjų, siūlanti pilną valdiklių rinkinį. SPACE sujungia pristabdymą ir pratęsimą, sesijų šakojimą, kredencialų izoliavimą sesijai, protokolo peruntimą ir kelių backend organizavimą vienoje platformoje.

SPACE daro dinamines visos sesijos būsenos momentines kopijas, užfiksuodama tiesioginę atmintį kartu su failais kas minutę. Ji gali grįžti laiku savaitę atgal. Tai iš esmės įmontuota laiko mašina: kiekvienas gali išeiti užduoties viduryje, sugrįžti po savaitės, o agentas tęsia lygiai ten, kur sustojo.

SPACE laiko smėlio dėžę nepatikima pagal nutylėjimą ir apsupa ją tinklo valdikliais, kredencialų valdikliais, nuomininkų atskyrimu ir šifruota saugykla. Jei vienas sluoksnis bus pažeistas, kiti apsaugos asmeninę informaciją.

Su SPACE įmonių klientai taip pat gali atsinešti savo šifravimo raktus. Jei klientas atšaukia savo raktą, naujos smėlio dėžės negali pasileisti, o esami kliento užšifruoti duomenys nebegali būti iššifruoti.

Dirbantiems su ypatingai jautriais duomenimis, SPACE sukurta veikti tiek vietoje (on-prem), tiek visiškai be interneto ryšio (offline). Šis valdymo lygis užtikrina, kad duomenims niekada nereikia palikti saugios aplinkos.

„Perplexity“ maitinimas

„Perplexity“ inžinieriai pavertė SPACE iš koncepcijos į produktą per 10 savaičių. Pastaruosius du mėnesius SPACE naudojome viduje. Per paskutinę savaitę ji palaikė milijonus smėlio dėžės sukūrimų ir dešimtis milijonų smėlio dėžės prisijungimų iš naujo. Šiandien ji jau veikia „Computer“ visiems vartotojams.

SPACE buvo sukurta veikti bet kur. Ankstyvojo testo metu su „NVIDIA Vera CPU“ reali, „Computer“ tipo darbo eiga (workflow) veikė maždaug 1,5 karto greičiau nei mūsų dabartinė gamybinė nuoroda ir pradėjo lygiagrečias smėlio dėžes iki 1,9 karto greičiau. Šis ankstyvas signalas rodo, kad „Vera“ suteiks išskirtinę vertę agentinėms smėlio dėžėms ir patvirtina SPACE backend agnosticizmą.

Investicijos į saugias aplinkas

Tikime, kad neturėtų būti kompromiso tarp funkcionalumo, efektyvumo ir saugumo. Agentai turėtų dirbti su tais pačiais duomenimis kaip ir mes, su tokiu pačiu pasitikėjimu, kokį skirtume bet kuriam komandos nariui.

SPACE yra tik pirmoji šios saugios aplinkos iteracija. AI ir toliau evoliucionuojant, mūsų saugumo ir infrastruktūros sistemos taip pat keisis.

Daugiau informacijos rasite žiūrėdami Making SPACE: Secure and Efficient Runtimes for Long-Running Agents.