Drošas smilšu kastes aģentiem

AI aģenti veic reālu darbu mūsu labā: rediģē failus, izpilda kodu un veic vairāku soļu uzdevumus stundu vai dienu garumā. Tam bieži vien ir nepieciešama piekļuve privātai informācijai, tāpēc kur aģents darbojas, ir svarīgāk nekā tas, cik gudrs ir modelis.

Smilšu kastes nodrošina aģentu drošību, ļaujot tiem piekļūt rīkiem un failiem, kas nepieciešami šo uzdevumu izpildei, vienlaikus aizsargājot sensitīvu informāciju.

Veidojot savu aģentu platformu Computer, mēs izpētījām gatavās smilšu kastu opcijas. Katra opcija lika mums izvērtēt kompromisus starp funkcionalitāti, efektivitāti un drošību. Perplexity Computer bija nepieciešamas visas trīs, tāpēc mēs izveidojām pilnīgi jauna veida smilšu kasti.

Šodien mēs piedāvājam SPACE — smilšu kastu platformu, kas izstrādāta, lai pilnībā atraisītu Computer potenciālu, vienlaikus nodrošinot visaugstāko drošības līmeni uzlabotām aģentu sistēmām.

Smilšu kastes arhitektūras no jauna izgudrošana

SPACE izveido gaistošas smilšu kastes, kas pastāv tikai tik ilgi, cik nepieciešams koda izpildei, mijiedarbībai ar failiem vai citiem uzdevumiem. Kad uzdevums ir pabeigts, smilšu kaste un viss tajā esošais tiek iznīcināts.

Ilgtermiņa darbam, kam jāpārdzīvo restartēšana, SPACE ietver katru smilšu kasti sesijā, kuru var apturēt, atjaunot vai sadalīt vairākās smilšu kastēs. SPACE mainīgā momentuzņēmuma tehnoloģija ļauj kontekstam ceļot kopā ar darbu, pat ja neviena atsevišķa smilšu kaste to nedara.

Iepriekšējo kompromisu novēršana

Lielākā daļa smilšu kastu platformu atrisina tikai divus no trim mainīgajiem: funkcionalitāti, efektivitāti vai drošību. Optimizācija vienam parasti notiek uz cita rēķina. Dažiem risinājumiem ir spēcīgi izolācijas pamatelementi, bet tie atstāj akreditācijas datus pakļautus riskam vidē. Citi labi izpilda īslaicīgus darbus, bet zaudē stāvokli un cieš neveiksmi, kad sesijai ir jādarbojas stundām ilgi.

SPACE atrisina visus trīs, sadalot pienākumus starp īpašiem pakalpojumiem. Tīkla vārteja (Network Gateway), Space dēmons (Space Daemon) un failu pakalpojums (File Service) katrs nodrošina citu steka daļu. Tie arī piegādā akreditācijas datus no ārpuses smilšu kastei tikai tajā brīdī, kad tie ir nepieciešami.

Pateicoties šim dizainam, kompromitētam aģentam pēc noklusējuma nav ceļa uz platformas pārvaldītajiem akreditācijas datiem. Un tam nav piekļuves ārpus tam piešķirtā uzdevuma, neatkarīgi no sesijas ilguma vai aizmugursistēnas.

Trīs drošības slāņu izveide

SPACE sastāv no trim galvenajiem slāņiem, katram no kuriem ir iebūvēti stingri drošības pasākumi:

Vadības plakne (Control Plane): SPACE arhitektūras pirmais slānis, vadības plakne, ir atbildīga par smilšu kastes dzīves cikla orķestrēšanu. Tā saņem katru pieprasījumu, izmantojot vienu API, izseko smilšu kastes stāvokli un reāllaikā izlemj, uz kuru aizmugursistēnu pāradresēt. Tā nosaka, kad uzdevumam ir nepieciešama jauna smilšu kaste. Tā arī izlemj, kad uzdevums ir pabeigts un tā atbilstošo smilšu kasti var iznīcināt. Tā kā vadības plakne ir bezstatutiska un centralizēti mitināta, tā pati API izsaukuma funkcija darbojas jebkurā esošajā infrastruktūrā, tostarp vietējā datorā.

Mezgli līmeņa pakalpojumi (Node-level Services): SPACE sistēmā mezglu līmeņa pakalpojumi ir vieta, kur izceļas Perplexity drošības nostāja. Izmantojot SPACE, akreditācijas dati nekad neiekļūst smilšu kastē. Tā vietā tie tiek nodoti no smilšu kastes ārpuses tikai precīzā brīdī, kad tie ir nepieciešami. Kad aģentam ir nepieciešama pagaidu piekļuve, lai izveidotu savienojumu ar Google kontu, SPACE var apstrādāt pieteikšanās plūsmu, neeksponējot akreditācijas datus smilšu kastē. Izejošā tīkla datplūsma tiek kontrolēta arī mezgla līmenī. Kompromitēts aģents nevar sasniegt neko ārpus tam atļautā apjoma.

Smilšu kastes iekšienē (In-sandbox): Smilšu kastes iekšējais slānis ir SPACE pēdējā aizsardzības līnija. Izmantojot SPACE, katrs uzdevums darbojas Firecracker microVM vidē — pilnībā izolētā vidē ar savu operētājsistēmu. Tas nozīmē, ka nekas iekšpusē nevar ietekmēt resursdatoru vai citu smilšu kasti, kas darbojas paralēli. Space dēmons ir vienīgais process, kas sazinās ar Perplexity vadības plakni. Tas pārvadā tādus darbības signālus kā palaišanas, pauzēšanas un momentuzņēmuma komandas. Tas padara saziņas kanālu auditējamu un kontrolējamu.

Pilna vadības līdzekļu komplekta piedāvāšana

SPACE ir unikāls starp pakalpojumu sniedzējiem, piedāvājot pilnu vadības līdzekļu komplektu. SPACE apvieno pauzēšanu un atjaunošanu, sesiju sadalīšanu (forking), sesijas akreditācijas datu izolāciju, protokolu pāradresāciju un vairāku aizmugursistēnu orķestrēšanu vienā platformā.

SPACE uzņem pilnas sesijas stāvokļa mainīgos momentuzņēmumus, tverot tiešsaistes atmiņu kopā ar failiem pat reizi minūtē. Tas var atgriezties pagātnē nedēļu senā pagātnē. Tā būtībā ir iebūvēta laika mašīna: ikviens var aiziet prom uzdevuma vidū, atgriezties pēc nedēļas, un aģents turpina darbu precīzā vietā, kur tas tika apturēts.

SPACE pēc noklusējuma uzskata smilšu kasti par neuzticamu un ietver to ar tīkla vadīklām, akreditācijas datu vadīklām, nomnieku atdalīšanu un šifrētu krātuvi. Ja viens slānis tiek kompromitēts, pārējie aizsargās personisko informāciju.

Izmantojot SPACE, uzņēmumu klienti var arī izmantot savas šifrēšanas atslēgas. Ja klients anulē savu atslēgu, jaunas smilšu kastes nevar sākt darbību un esošos klienta šifrētos datus vairs nevar atšifrēt.

Tiem, kas strādā ar īpaši sensitīviem datiem, SPACE ir izstrādāts tā, lai darbotos gan lokālajā vidē (on-prem), gan pilnībā bezsaistē. Šāds kontroles līmenis nodrošina, ka datiem nekad nav jāpamet droša vide.

Perplexity nodrošināšana

Perplexity inženieri pārvērta SPACE no koncepcijas par produktu 10 nedēļu laikā. Mēs esam izmantojuši SPACE iekšēji pēdējo divu mēnešu laikā. Pagājušajā nedēļā tas ir atbalstījis miljoniem smilšu kastu izveidi un desmitiem miljonu smilšu kastu atkārtotu savienojumu. Šodien tas darbojas Computer platformā visiem lietotājiem.

SPACE tika izveidots, lai darbotos jebkurā vietā. Agrīnā testā ar NVIDIA Vera CPU faktiskās Computer stila darbplūsmas darbojās aptuveni 1,5 reizes ātrāk nekā mūsu pašreizējā ražošanas atsauce un palaida vienlaicīgas smilšu kastes līdz pat 1,9 reizēm ātrāk. Šis agrīnais signāls parāda, ka Vera sniegs izcilu vērtību aģentu smilšu kastēm, un apstiprina aizmugursistēnas agnosticismu aiz SPACE.

Ieguldījumi drošās vidēs

Mēs uzskatām, ka nevajadzētu būt kompromisam starp funkcionalitāti, efektivitāti un drošību. Aģentiem vajadzētu strādāt ar tiem pašiem datiem, ar kuriem mēs, ar tādu pašu uzticību, ko mēs veltītu jebkuram komandas biedram.

SPACE ir tikai šīs drošās vides pirmā iterācija. Mākslīgajam intelektam turpinot attīstīties, attīstīsies arī mūsu drošības un infrastruktūras sistēmas.

Skatiet Making SPACE: Secure and Efficient Runtimes for Long-Running Agents, lai iegūtu sīkāku informāciju.