Atveriame SPACE – sandbox platformos, kuria veikia Computer, – kodą

Nuo tada, kai vasarį pristatė Computer, Perplexity yra viena asmeninių agentų pradininkių. Esame įsipareigoję spręsti sudėtingas agentų valdymo problemas – aptikti nesaugų elgesį ir užkirsti kelią nekontroliuojamai agentų veiklai. Liepą komerciškai prieinamą sandbox aplinkų tiekėją pakeitėme patikimesniu ir atsparesniu vidiniu sprendimu, kurį pavadinome SPACE.

SPACE užtikrina aukšto lygio saugumą pažangioms agentinėms sistemoms. Iš tiesų neseniai atlikta intensyvių saugumo testų serija įrodė, kad SPACE atspari tinklo apribojimų apėjimo metodams, panašiems į naudotus OpenAI / Hugging Face incidente.

Šiandien atveriame SPACE kodą, kad suteiktume kūrėjams pagrindą kurti saugesnes agentų sistemas ir prisidėti prie stipresnės apsaugos visoje pramonėje. Kūrėjai gali rasti saugyklą čia.

Agentų valdymas yra inžinerinė problema, o atvirasis kodas yra būtinas jai išspręsti. Kai kūrėjai turi sistemas, kurias gali išnagrinėti, pritaikyti ir toliau plėtoti, jie randa daugiau spragų ir sukuria geresnius įrankius. Paskelbę SPACE kaip atvirąjį kodą, suteikiame kūrėjams gamybinėje aplinkoje išbandytą agentų vykdymo aplinkų pagrindą su integruota izoliacija, būsenos atkūrimu ir prisijungimo duomenų bei tinklo valdymo priemonėmis.

Pagrindas kitiems kūrėjams

Sandbox aplinkos užtikrina agentų saugumą: jos leidžia agentams pasiekti įrankius ir failus, kurių reikia šioms užduotims atlikti, o jautri informacija lieka apsaugota.

Paskelbę SPACE kaip atvirąjį kodą, suteikiame kūrėjams atspirties tašką kuriant aplinkas, kuriose jų agentai vykdo kodą ir dirba su failais. Komandos gali pamatyti, kaip veikia SPACE sandbox platforma, ir remtis jos įgyvendinimu. Jos taip pat gali pritaikyti platformą savo poreikiams, užuot iš naujo kūrusios pagrindinę infrastruktūrą.

Computer sistemoje SPACE palaiko izoliuotą kodo vykdymą, pristabdymą ir tęsimą, atkūrimą ir sesijų šakojimą. Šios galimybės sudaro pagrindą asistentams, kurie galėtų:

• Analizuoti duomenis: išvalyti skaičiuoklę, atlikti skaičiavimus ir sukurti diagramas atskiroje darbo erdvėje.
• Tęsti darbą: sustoti, kol kas nors peržiūrės juodraštį ar pateiks trūkstamą informaciją, tada tęsti darbą su išsaugotais failais ir vykdymo būsena.
• Ieškoti alternatyvų: išbandyti du duomenų rinkinio valymo būdus atskirose darbo erdvės kopijose arba po klaidos atkurti ankstesnę failo versiją.

Šie pavyzdžiai iliustruoja, kaip kūrėjai galėtų naudoti dokumentuotas SPACE izoliacijos ir sesijų valdymo priemones. Platformų ir saugumo inžinieriai taip pat gali peržiūrėti izoliacijos modelį ir saugumo pavyzdžius prieš integruodami SPACE į savo sistemas.

Didesnis autonominio darbo saugumas

Suteikdami agentams daugiau laisvės spręsti problemas, turime nustatyti aiškius apribojimus, kaip jie tai daro. Žinome, kad net teisėtas užduotis vykdantys agentai gali peržengti saugumo ribas, kai bando apeiti trūkstamus failus, nepavykusias užklausas ar atsisakymus suteikti leidimus.

Galime įdiegti modelio apsaugos priemones, kad sumažintume nesaugaus elgesio tikimybę. Nepriklausomos kontrolės priemonės aplinkinėje sistemoje padeda apriboti žalą, jei šios apsaugos priemonės nesuveiktų. Jos riboja, ką agentas gali pasiekti, nepaisant to, ką jis nusprendžia daryti.

SPACE taiko šias kontrolės priemones atskirai darbo erdvei, skirtai agentų sugeneruotam kodui ir failams. Sukūrėme SPACE taip, kad ji derintų izoliaciją, atkūrimą ir efektyvų vykdymą. Taip agentai gali atlikti naudingą darbą per ilgas sesijas, nepasikliaujant vien tuo, kad modelis pats laikysis saugumo ribų.

Veikimas atskiroje operacinėje sistemoje

Kiekviena SPACE sandbox aplinka veikia nedidelėje virtualiojoje mašinoje su savo operacine sistema, todėl tarp agento darbo ir pagrindinės sistemos susidaro izoliacijos riba. Centrinė valdymo plokštuma koordinuoja, kada šios darbo erdvės sukuriamos, pristabdomos, tęsiamos ar pašalinamos.

SPACE laiko sandbox aplinką nepatikima, o tinklo prieigą ir platformos saugomus prisijungimo duomenis valdo už jos ribų. Agentai gali jungtis prie autorizuotų paslaugų, o šie prisijungimo duomenys nesaugomi jų darbo aplinkoje.

Dažnos failų momentinės kopijos ir visos veikiančios aplinkos kontroliniai taškai išsaugo pažangą net nutrūkus darbui. Kad šios operacijos būtų efektyvios, SPACE saugo tik pakeitimus, o ne pakartotinai kopijuoja visas aplinkas. Taip sumažėja darbo, reikalingo sandbox aplinkai sukurti, atkurti ar iššakoti.

Geresnis našumas gamybinėje aplinkoje

Nuo liepos visos Computer sesijos veikia SPACE pagrindu, o platforma kasdien sukuria milijonus sandbox aplinkų. Atlikus palyginimą su tuo pačiu gamybiniu srautu, sandbox aplinkos buvo sukuriamos nuo trijų iki penkių kartų greičiau nei naudojant ankstesnio tiekėjo sprendimą.

Taip pat išbandėme SPACE su agentais, kurie sąmoningai bandė pažeisti jos ribas. Mūsų paskelbtas saugumo vertinimas parodė, kad per 108 bandymus nė karto nepavyko ištrūkti iš virtualiosios mašinos į pagrindinį kompiuterį, tačiau kai kuriais bandymais pavyko apeiti tinklo apribojimus. Šias spragas ištaisėme, ir pakartotinių bandymų metu nė vienas iš dviejų nustatytų atakos metodų nebesuveikė.

Apie susijusias spragas, kurias radome kitose sandbox platformose, taip pat pranešėme jų tiekėjams – taip šį darbą išplėtėme už mūsų pačių infrastruktūros ribų.

Indėlis į saugesnį agentinį DI

SPACE – tai dalis platesnių pastangų sustiprinti sistemas, kuriomis žmonės pasikliauja, kai DI perima vis daugiau darbo. Pasitelkdami Secure Intelligence Institute, atliekame saugumo tyrimus ir bendradarbiaujame su platesne bendruomene, paversdami išvadas praktinėmis apsaugos priemonėmis.

Manome, kad atvirojo kodo saugumo įrankiai suteikia kūrėjams daugiau būdų išbandyti apsaugos priemones, rasti spragas ir kurti saugesnes DI sistemas. Pasidalijome įrankiais, skirtais skirtingoms šio darbo sritims:

• BrowseSafe – modelis ir lyginamasis testas, skirti tinklalapiuose paslėptoms kenkėjiškoms instrukcijoms aptikti.
• Numbat – liepą kaip atvirasis kodas paskelbtas saugumo įrankių rinkinys, padedantis aptikti, ištirti ir užkirsti kelią pavojingam agentų elgesiui kompiuteriuose
• Bumblebee – gegužę kaip atvirasis kodas paskelbtas skeneris, tikrinantis, ar kūrėjų kompiuteriuose nėra rizikingų programinės įrangos paketų, plėtinių ir DI įrankių konfigūracijų

Suteikdami prieigą prie šių įrankių, leidžiame kitoms komandoms išnagrinėti mūsų darbą, pritaikyti jį savo poreikiams ir prisidėti jį tobulinant. Su SPACE šį požiūrį taikome ir aplinkoms, kuriose agentai vykdo kodą ir dirba su failais.

Diegimas agentų sistemoms

Akamai išbandė ir pristatė SPACE savo debesijos platformoje ir bendradarbiauja su Perplexity, kad pasiūlytų šį sprendimą savo klientams. Crusoe taip pat bendradarbiauja su Perplexity, kad įtrauktų SPACE į savo valdomų DI paslaugų („Managed AI Services“) portfelį. CoreWeave paskelbė diegimo gaires kūrėjams, norintiems vertinimo tikslais įdiegti SPACE CKS aplinkoje.

Kūrėjai gali pradėti nuo SPACE sąrankos instrukcijų ir saugumo rekomendacijų, kad įdiegtų ją savo agentų sistemoms. Saugykloje ir dokumentacijoje nurodytos palaikomos konfigūracijos ir įtraukti komponentai.