Atveram SPACE — Computer pamatā esošās smilšu kastu platformas — pirmkodu

Kopš Computer laišanas klajā februārī Perplexity ir bijis viens no personīgo aģentu pionieriem. Mēs esam apņēmušies risināt sarežģītās aģentu pārvaldības problēmas, atklājot nedrošu uzvedību un novēršot nekontrolētu aģentu darbības. Jūlijā mēs aizstājām mūsu komerciāli pieejamo smilšu kastu pakalpojumu sniedzēju ar robustāku un noturīgāku iekšēji izstrādātu risinājumu, ko nosaucām par SPACE.

SPACE nodrošina augstu drošības līmeni progresīvām aģentiskām sistēmām. Nesenā intensīvā drošības testu sērija apliecināja, ka SPACE ir noturīga pret tīkla apiešanas paņēmieniem, kas līdzīgi tiem, kuri tika izmantoti OpenAI/Hugging Face incidentā.

Šodien mēs padarām SPACE pieejamu kā atvērtā pirmkoda projektu, lai nodrošinātu izstrādātājiem pamatu drošāku aģentu sistēmu veidošanai un veicinātu stingrāku aizsardzību visā nozarē. Izstrādātāji var piekļūt repozitorijam šeit.

Aģentu pārvaldība ir inženiertehniska problēma, un atvērtais pirmkods ir būtisks tās risināšanai. Ja izstrādātājiem ir sistēmas, kuras viņi var pārbaudīt, pielāgot un uz kurām var balstīties, viņi atrod vairāk vājo vietu un izstrādā labākus rīkus. SPACE pirmkoda atvēršana sniedz izstrādātājiem ražošanas vidē pārbaudītu pamatu aģentu izpildlaika vidēm ar iebūvētu izolāciju, stāvokļa atkopšanu, kā arī akreditācijas datu un tīkla kontroli.

Pamata radīšana citiem izstrādātājiem

Smilšu kastes nodrošina aģentu drošību: tās ļauj aģentiem piekļūt rīkiem un failiem, kas nepieciešami šo uzdevumu izpildei, vienlaikus aizsargājot sensitīvu informāciju.

SPACE pirmkoda atvēršana sniedz izstrādātājiem sākumpunktu vidēm, kurās viņu aģenti izpilda kodu un strādā ar failiem. Komandas var redzēt, kā darbojas SPACE smilšu kastu platforma, un balstīties uz tās implementāciju. Tās var arī pielāgot platformu savām vajadzībām, nevis no jauna veidot pamatā esošo infrastruktūru.

Pakalpojumā Computer SPACE nodrošina izolētu koda izpildi, apturēšanu un atsākšanu, atkopšanu un sesiju sazarošanu. Šīs iespējas veido pamatu asistentiem, kas varētu:

• Analizēt datus: attīrīt izklājlapu, veikt aprēķinus un izveidot diagrammas atsevišķā darbvietā.
• Atsākt darbu: apturēt darbu, lai kāds varētu pārskatīt melnrakstu vai sniegt trūkstošo informāciju, un pēc tam to atsākt, saglabājot failus un darbības stāvokli.
• Izpētīt alternatīvas: izmēģināt divus datu kopas attīrīšanas veidus atsevišķās darbvietas kopijās vai pēc kļūdas atjaunot kādu agrāku faila versiju.

Šie piemēri ilustrē, kā izstrādātāji varētu izmantot SPACE dokumentētās izolācijas un sesiju kontroles iespējas. Platformu un drošības inženieri pirms SPACE integrēšanas savās sistēmās var arī pārskatīt izolācijas modeli un drošības piemērus.

Drošības stiprināšana autonomam darbam

Dodot aģentiem lielāku rīcības brīvību problēmu risināšanā, mums ir nepieciešami skaidri ierobežojumi tam, kā tie to dara. Mēs zinām, ka aģenti, kas veic leģitīmus uzdevumus, tik un tā var pārkāpt drošības robežas, mēģinot apiet trūkstošus failus, neizdevušos pieprasījumus vai atteiktas atļaujas.

Mēs varam ieviest modeļa aizsardzības mehānismus, lai samazinātu nedrošas uzvedības iespējamību. Neatkarīgu kontroles mehānismu pievienošana apkārtējā sistēmā palīdz ierobežot kaitējumu, ja šie aizsardzības mehānismi nenostrādā. Tie ierobežo to, kam aģents var piekļūt, neatkarīgi no tā, ko tas nolemj darīt.

Ar šiem kontroles mehānismiem SPACE norobežo atsevišķu darbvietu, kas paredzēta aģentu ģenerētam kodam un failiem. Mēs to izstrādājām, lai apvienotu izolāciju, atkopšanu un efektīvu izpildi. Tas ļauj aģentiem veikt lietderīgu darbu ilgās sesijās, nepaļaujoties tikai uz to, ka modelis pats ievēros drošības robežas.

Darbība savā operētājsistēmā

Katra SPACE smilšu kaste darbojas nelielā virtuālajā mašīnā ar savu operētājsistēmu, izveidojot izolācijas robežu starp aģenta darbu un resursdatora sistēmu. Centrālā vadības plakne koordinē, kad šīs darbvietas tiek izveidotas, apturētas, atsāktas vai noņemtas.

SPACE uzskata smilšu kasti par neuzticamu un pārvalda tīkla piekļuvi un platformas glabātos akreditācijas datus ārpus smilšu kastes. Aģenti var izveidot savienojumu ar autorizētiem pakalpojumiem, un šie akreditācijas dati netiek glabāti to darba vidē.

Bieži failu momentuzņēmumi un visas darbojošās vides kontrolpunkti saglabā progresu arī pārtraukumu gadījumā. Lai šīs darbības būtu efektīvas, SPACE saglabā izmaiņas, nevis atkārtoti kopē visas vides. Tas samazina darbu, kas nepieciešams, lai izveidotu, atjaunotu vai sazarotu smilšu kasti.

Veiktspējas uzlabošana ražošanas vidē

Kopš jūlija SPACE darbina visas Computer sesijas un ik dienu apstrādā miljoniem smilšu kastu izveides pieprasījumu. Salīdzinājumā, kas veikts ar to pašu ražošanas vides datplūsmu, smilšu kastu izveide bija trīs līdz piecas reizes ātrāka nekā ar mūsu iepriekšējo pakalpojumu sniedzēju.

Mēs arī testējām SPACE pret aģentiem, kas apzināti mēģināja pārkāpt tās robežas. Mūsu publicētajā drošības novērtējumā 108 mēģinājumos netika konstatēta neviena izkļūšana no virtuālās mašīnas uz resursdatoru, taču dažos mēģinājumos izdevās apiet tīkla ierobežojumus. Mēs novērsām šīs vājās vietas, un atkārtotajā testēšanā neviena no abām konstatētajām uzbrukuma metodēm vairs nebija sekmīga.

Mēs arī informējām citu smilšu kastu platformu piegādātājus par saistītām vājajām vietām, ko atklājām šajās platformās, tādējādi paplašinot šo darbu ārpus mūsu pašu infrastruktūras.

Ieguldījums drošāka aģentiskā MI attīstībā

SPACE ir daļa no plašākiem centieniem stiprināt sistēmas, uz kurām cilvēki paļaujas, MI uzņemoties arvien vairāk darba. Ar Secure Intelligence Institute starpniecību mēs veicam drošības pētījumus un sadarbojamies ar plašāku kopienu, pārvēršot atklājumus praktiskos aizsardzības līdzekļos.

Mēs uzskatām, ka drošības rīku pirmkoda atvēršana sniedz izstrādātājiem vairāk iespēju testēt aizsardzību, atrast vājās vietas un veidot drošākas MI sistēmas. Esam publiskojuši rīkus, kas risina dažādas šī darba daļas:

• BrowseSafe — modelis un etalontests, kas paredzēts tīmekļa lapās paslēptu ļaunprātīgu instrukciju noteikšanai.
• Numbat — drošības rīkkopa, kuras pirmkods tika atvērts jūlijā un kas palīdz atklāt, izmeklēt un novērst bīstamu aģentu uzvedību datoros
• Bumblebee — skeneris, kura pirmkods tika atvērts maijā un kas pārbauda izstrādātāju datorus, meklējot riskantas programmatūras pakotnes, paplašinājumus un MI rīku konfigurācijas

Šo rīku pieejamība ļauj citām komandām pārbaudīt mūsu darbu, pielāgot to savām vajadzībām un sniegt savus uzlabojumus. Ar SPACE mēs attiecinām šo pieeju arī uz vidēm, kurās aģenti izpilda kodu un strādā ar failiem.

Izvēršana aģentu sistēmās

Uzņēmums Akamai ir pārbaudījis un ieviesis SPACE savā mākoņplatformā un sadarbojas ar Perplexity, lai to piedāvātu saviem klientiem. Arī uzņēmums Crusoe sadarbojas ar Perplexity, lai iekļautu SPACE savā pakalpojumu portfelī Managed AI Services. Uzņēmums CoreWeave ir publicējis iestatīšanas norādījumus izstrādātājiem, kuri vēlas izvietot SPACE novērtēšanai platformā CKS.

Izstrādātāji var sākt ar SPACE iestatīšanas norādījumiem un drošības vadlīnijām, lai izvērstu to savās aģentu sistēmās. Repozitorijā un dokumentācijā ir definētas atbalstītās konfigurācijas un iekļautie komponenti.