Avaldame avatud lähtekoodiga SPACE'i, Computeri aluseks oleva liivakastiplatvormi

Alates Computeri käivitamisest veebruaris on Perplexity olnud isiklike agentide valdkonnas üks teerajajaid. Oleme pühendunud agentide juhtimise keeruliste probleemide lahendamisele, ohtliku käitumise tuvastamisele ja kontrolli alt väljunud agentide tegevuse ennetamisele. Juulis asendasime kaubandusliku liivakastiteenuse pakkuja töökindlama ja vastupidavama ettevõttesisese lahendusega, millele panime nimeks SPACE.

SPACE pakub täiustatud agendisüsteemidele kõrgetasemelist turvalisust. Hiljutine ulatuslik turvatestimine tõestas, et SPACE on vastupidav võrgupiirangutest möödahiilimise tehnikatele, nagu need, mida kasutati OpenAI/Hugging Face'i intsidendis.

Täna avaldame SPACE’i avatud lähtekoodiga, et anda arendajatele alus turvalisemate agentsüsteemide loomiseks ja aidata kaasa kaitsemeetmete tugevdamisele kogu tööstusharus. Arendajad leiavad repositooriumi siit.

Agentide juhtimine on insenertehniline probleem ja avatud lähtekood on selle lahendamiseks hädavajalik. Kui arendajatel on süsteemid, mida nad saavad uurida, kohandada ja edasi arendada, leiavad nad rohkem nõrkusi ja loovad paremaid tööriistu. SPACE'i avaldamine avatud lähtekoodiga annab arendajatele tootmises testitud aluse agentide käituskeskkondade jaoks, millesse on sisse ehitatud isolatsioon, oleku taastamine ning juurdepääsuandmete ja võrgu kontroll.

Aluse loomine teistele arendajatele

Liivakastid hoiavad agendid turvalisena: agendid pääsevad ligi tööriistadele ja failidele, mida nad nende ülesannete täitmiseks vajavad, samal ajal kui tundlik teave jääb kaitstuks.

SPACE'i avaldamine avatud lähtekoodiga annab arendajatele lähtepunkti keskkondade jaoks, kus nende agendid koodi käivitavad ja failidega töötavad. Meeskonnad näevad, kuidas SPACE'i liivakastiplatvorm töötab, ja saavad selle teostusele tugineda. Samuti saavad nad seda oma vajadustele kohandada, selle asemel et aluseks olevat taristut uuesti luua.

Computeris toetab SPACE isoleeritud koodi käivitamist, peatamist ja jätkamist, taastamist ning seansside harutamist. Need võimalused loovad aluse assistentidele, mis võiksid:

• Analüüsida andmeid: puhastada arvutustabelit, teha arvutusi ja luua diagramme eraldi tööruumis.
• Tööd jätkata: teha paus, et keegi saaks mustandi üle vaadata või puuduva teabe lisada, ning seejärel jätkata nii, et failid ja käitusolek on säilinud.
• Uurida alternatiive: katsetada tööruumi eraldi koopiates kahte viisi andmestiku puhastamiseks või taastada pärast viga varasem fail.

Need näited illustreerivad, kuidas arendajad saaksid kasutada SPACE'i dokumenteeritud isolatsiooni- ja seansihaldusvõimalusi. Platvormi- ja turvainsenerid saavad enne SPACE'i oma süsteemidesse integreerimist üle vaadata ka isolatsioonimudeli ja turvanäited.

Autonoomse töö turvalisuse suurendamine

Kui anname agentidele probleemide lahendamiseks rohkem vabadust, vajame selgeid piire selle kohta, kuidas nad seda teevad. Teame, et ka õigustatud ülesandeid täitvad agendid võivad turvapiire ületada, kui nad püüavad puuduvatest failidest, ebaõnnestunud päringutest või juurdepääsukeeldudest mööda pääseda.

Ohtliku käitumise tõenäosuse vähendamiseks saame rakendada mudeli kaitsemeetmeid. Sõltumatute kontrollimeetmete lisamine ümbritsevasse süsteemi aitab kahju piirata, kui need kaitsemeetmed peaksid üles ütlema. Need piiravad seda, millele agent ligi pääseb, olenemata sellest, mida ta otsustab teha.

SPACE rakendab neid kontrollimeetmeid eraldi tööruumile, mis on mõeldud agentide loodud koodi ja failide jaoks. Kavandasime selle nii, et see ühendaks isolatsiooni, taastamise ja tõhusa käivitamise. Nii saavad agendid pikkade seansside jooksul kasulikku tööd teha, ilma et turvapiiride järgimine sõltuks üksnes mudelist.

Töötamine oma operatsioonisüsteemis

Iga SPACE'i liivakast töötab väikeses virtuaalmasinas, millel on oma operatsioonisüsteem. Nii tekib isolatsioonipiir agendi töö ja hostsüsteemi vahel. Keskne juhttasand koordineerib, millal neid tööruume luuakse, peatatakse, jätkatakse või eemaldatakse.

SPACE käsitleb liivakasti ebausaldusväärsena ning haldab võrgujuurdepääsu ja platvormi hoitavaid juurdepääsuandmeid väljaspool liivakasti. Agendid saavad volitatud teenustega ühenduse luua, ilma et neid juurdepääsuandmeid nende töökeskkonnas talletataks.

Sagedased failide hetktõmmised ja kogu töötava keskkonna kontrollpunktid säilitavad tehtud töö ka katkestuste korral. Nende toimingute tõhususe tagamiseks salvestab SPACE muudatused, selle asemel et terveid keskkondi korduvalt kopeerida. See vähendab liivakasti loomiseks, taastamiseks või harutamiseks vajalikku tööd.

Tootmisjõudluse parandamine

Alates juulist on SPACE käitanud kõiki Computeri seansse ja tulnud toime miljonite liivakastide loomisega päevas. Võrdluses, mis tehti sama tootmisliikluse põhjal, loodi liivakastid kolm kuni viis korda kiiremini kui meie eelmise teenusepakkuja puhul.

Samuti testisime SPACE'i agentidega, mis üritasid meelega selle piire ületada. Meie avaldatud turvahinnangu kohaselt ei õnnestunud 108 katse jooksul kordagi virtuaalmasinast hostsüsteemi pääseda, kuid mõned agendid leidsid võimalusi võrgupiirangutest mööda hiilida. Parandasime need nõrkused ja järeltestimisel ei õnnestunud kumbki tuvastatud ründemeetod.

Samuti teavitasime teiste liivakastiplatvormide tarnijaid nende platvormides leitud seotud nõrkustest, laiendades seda tööd väljapoole meie enda taristut.

Turvalisema agentse tehisintellekti edendamine

SPACE on osa laiemast püüdlusest tugevdada süsteeme, millele inimesed toetuvad, kui tehisintellekt võtab üha rohkem tööd enda kanda. Instituudi Secure Intelligence Institute kaudu viime läbi turvauuringuid, teeme koostööd laiema kogukonnaga ja muudame leiud praktilisteks kaitsemeetmeteks.

Usume, et turvatööriistade avaldamine avatud lähtekoodiga annab arendajatele rohkem võimalusi kaitsemehhanisme testida, nõrkusi leida ja turvalisemaid tehisintellektisüsteeme luua. Oleme jaganud tööriistu, mis käsitlevad selle töö eri osi:

• BrowseSafe – mudel ja võrdlusalus veebilehtedele peidetud pahatahtlike juhiste tuvastamiseks.
• Numbat – juulis avatud lähtekoodiga avaldatud turvatööriistade komplekt, mis aitab tuvastada, uurida ja ennetada agentide ohtlikku käitumist arvutites
• Bumblebee – mais avatud lähtekoodiga avaldatud skanner, mis kontrollib arendajate arvuteid riskantsete tarkvarapakettide, laienduste ja tehisintellekti tööriistade konfiguratsioonide suhtes

Nende tööriistade kättesaadavaks tegemine võimaldab teistel meeskondadel meie tööd uurida, seda oma vajadustele kohandada ja täiustustega panustada. SPACE'iga laiendame seda lähenemisviisi keskkondadele, kus agendid koodi käivitavad ja failidega töötavad.

Kasutuselevõtt agendisüsteemides

Akamai on SPACE-i oma pilveplatvormil testinud ja kasutusele võtnud ning teeb Perplexityga koostööd, et see oma klientidele kättesaadavaks teha. Ka Crusoe teeb Perplexityga koostööd, et lisada SPACE oma teenusteportfelli Managed AI Services. CoreWeave on avaldanud seadistusjuhised arendajatele, kes soovivad SPACE-i hindamiseks platvormil CKS juurutada.

Arendajad saavad alustada SPACE'i seadistusjuhistest ja turvanõuannetest, et see oma agendisüsteemides kasutusele võtta. Hoidlas ja dokumentatsioonis on määratletud toetatud konfiguratsioonid ja kaasasolevad komponendid.