Turvalised liivakastid agentidele

Tehisintellekti agendid teevad meie eest reaalset tööd: redigeerivad faile, käivitavad koodi ja viivad mitme tunni või päeva jooksul ellu mitmeetapilisi ülesandeid. See nõuab sageli juurdepääsu isiklikule teabele, mistõttu on kus agent töötab olulisem kui see, kui nutikas mudel on.

Liivakastid hoiavad agendid turvalistena, võimaldades neil pääseda ligi tööriistadele ja failidele, mida nad nende ülesannete täitmiseks vajavad, hoides samal ajal tundliku teabe kaitstuna.

Oma agendiplatvormi Computer ehitamisel uurisime valmis liivakastivalikuid. Iga valik nõudis meilt funktsionaalsuse, tõhususe ja turvalisuse vaheliste kompromisside kaalumist. Perplexity Computer vajas kõiki kolme, seega ehitasime täiesti uut tüüpi liivakasti.

Täna tutvustame RUUMI (SPACE), liivakastiplatvormi, mis on loodud Computer’i täieliku võimsuse vabastamiseks, pakkudes samal ajal kõrgeimat turvalisust täiustatud agendisüsteemidele.

Liivakasti arhitektuuri ümberleiutamine

RUUM loob efemeerseid liivakaste, mis elavad vaid seni, kuni neid on vaja koodi käivitamiseks, failidega suhtlemiseks või muudeks ülesanneteks. Kui ülesanne on lõppenud, hävitatakse liivakast ja kõik selle sees olev.

Pikaajalise töö jaoks, mis peab taaskäivitused üle elama, pakib RUUM iga liivakasti seanssi, mida saab peatada, jätkata või mitmeks liivakastiks harutada. RUUMI pideva salvestamise tehnoloogia võimaldab kontekstil tööga kaasa reisida, kuigi ükski individuaalne liivakast seda ei tee.

Varasemate kompromisside kõrvaldamine

Enamik liivakastiplatvorme lahendab probleemi ainult kolmest muutujast kahe puhul: funktsionaalsus, tõhusus või turvalisus. Ühele optimeerimine kipub toimuma teise arvelt. Mõnel lahendusel on tugevad isoleerimisalused, kuid need jätavad mandaadid keskkonnas kaitsetuks. Teised täidavad lühiajalisi töid hästi, kuid kaotavad oleku ja ebaõnnestuvad, kui seanss peab töötama tunde.

RUUM lahendab kõik kolm, eraldades mured spetsiaalsete teenuste vahel. Võrgulüüs, ruumideemon ja failiteenus kaitsevad igaüks stäki erinevat osa. Samuti edastavad nad mandaadid väljastpoolt liivakasti ainult sel hetkel, kui neid vajatakse.

Selle disainiga pole ohustatud agendil vaikimisi teed platvormi hallatavate mandaatideni. Samuti puudub sellel juurdepääs väljapoole antud ülesannet, olenemata seansi kestusest või taustsüsteemist.

Kolme turvakihi loomine

RUUM koosneb kolmest põhikihist, millest igaühel on sisse ehitatud tugevad turvameetmed:

Juhtplaan: RUUMI arhitektuuri esimene kiht, juhtplaan vastutab liivakasti elutsükli orkestreerimise eest. See võtab vastu iga päringu ühe API kaudu, jälgib liivakasti olekut ja otsustab reaalajas, millisele taustsüsteemile suunata. See määrab, millal ülesanne vajab uut liivakasti. Samuti otsustab see, millal ülesanne on lõppenud ja sellele vastava liivakasti saab hävitada. Kuna juhtplaan on olekuta ja tsentraalselt hostitud, töötab sama API-kutse mis tahes olemasoleval infrastruktuuril, sealhulgas kohalikul masinal.

Sõlmetaseme teenused: RUUMIS paistab Perplexity turvakultuur silma sõlmetaseme teenustega. RUUMIGA mandaadid ei liigu kunagi liivakasti sisse. Selle asemel edastatakse need väljastpoolt liivakasti ainult täpsel hetkel, kui neid vajatakse. Kui agent vajab ajutist juurdepääsu Google'i kontoga ühenduse loomiseks, saab RUUM sisselogimisvoogu hallata ilma mandaate liivakastis paljastamata. Väljuvat võrguliiklust juhitakse samuti sõlme tasemel. Ohustatud agent ei pääse ligi millelegi väljaspool oma lubatud ulatust.

Liivakastisisesed teenused: Liivakasisene kiht on RUUMI viimane kaitseliin. RUUMIGA töötab iga ülesanne Firecracker microVM-is, mis on täielikult isoleeritud keskkond oma operatsioonisüsteemiga. See tähendab, et miski sees ei saa mõjutada hosti ega ühtegi teist paralleelselt töötavat liivakasti. Ruumideemon on ainus protsess, mis räägib Perplexity juhtplaaniga. See kannab operatiivseid signaale, nagu käivitamis-, pausiolekus- ja hetktõmmise käsud. See muudab suhtluskanali auditeeritavaks ja kontrollitavaks.

Täieliku juhtnuppude komplekti pakkumine

RUUM on pakkujate seas ainulaadne täieliku juhtnuppude komplekti pakkumisel. RUUM ühendab pausi ja jätkamise, seansi hargnemise, seansipõhise mandaatide isoleerimise, protokolli edastamise ja mitme taustsüsteemi orkestreerimise ühel platvormil.

RUUM teeb kogu seansi olekust jooksvaid hetktõmmiseid, jäädvustades reaalajas mälu koos failidega nii sageli kui iga minuti järel. See võib ajas nädala tagasi minna. See on olemuselt sisseehitatud ajamasin: igaüks võib ülesande keskel lahkuda, nädala pärast tagasi tulla ja agent jätkab täpselt sealt, kus see peatati.

RUUM käsitleb liivakasti vaikimisi ebaturvalisena ning ümbritseb selle võrgukontrollide, mandaadikontrollide, rentnike eraldamise ja krüptitud salvestusruumiga. Kui üks kiht on ohustatud, kaitsevad teised isikuandmeid.

RUUMIGA saavad ettevõtte klientuurid kaasa tuua ka oma krüpteerimisvõtmed. Kui klient tühistab oma võtme, ei saa uued liivakastid käivituda ja olemasolevaid kliendi krüpteeritud andmeid ei saa enam dekrüpteerida.

Neile, kes töötavad eriti tundlike andmetega, on RUUM loodud töötama nii kohapeal kui ka täielikult võrguühenduseta. See kontrollitase tagab, et andmed ei pea kunagi turvalisest keskkonnast lahkuma.

Perplexity toetamine

Perplexity insenerid viisid RUUMI kontseptsioonist tooteni 10 nädalaga. Oleme RUUMI sisemiselt kasutanud viimased kaks kuud. Viimase nädala jooksul on see toetanud miljoneid liivakasti loomisi ja kümneid miljoneid liivakasti taasühendamisi. See on täna Computeris kõigile kasutajatele otse-eetris.

RUUM ehitati töötama kõikjal. Varases testis NVIDIA Vera CPU-l töötasid tegelikud Computer-stiilis töövood umbes 1,5 korda kiiremini kui meie praegune tootmisviide ja käivitasid samaaegseid liivakaste kuni 1,9 korda kiiremini. See varajane signaal näitab, et Vera pakub erakordset väärtust agendiliivakastide jaoks ja kinnitab RUUMI tagust taustsüsteemi agnostilisust.

Investeerimine turvalistesse keskkondadesse

Usume, et funktsionaalsuse, tõhususe ja turvalisuse vahel ei tohiks olla kompromisse. Agendid peaksid töötama samade andmetega nagu meiegi, sama usaldusega, mida me paneksime igasse meeskonnakaaslasesse.

RUUM on selle turvalise keskkonna alles esimene iteratsioon. Kuna tehisintellekt areneb edasi, teevad seda ka meie turva- ja infrastruktuurisüsteemid.

Lisateabe saamiseks vaadake RUUMI loomine: turvalised ja tõhusad käituskeskkonnad pikaajaliste agentide jaoks.