Öruggir sandkassar fyrir forrit

Gervigreindarforrit vinna raunveruleg verkefni fyrir hönd okkar: breyta skrám, keyra kóða og framkvæma fjölþrepa verkefni í margar klukkustundir eða daga. Þetta krefst oft aðgangs að einkagögnum, sem gerir það að verkum að hvar forrit keyrir skiptir meira máli en hversu snjall líkanið er.

Sandkassar halda forritum öruggum og leyfa þeim að fá aðgang að þeim verkfærum og skrám sem þau þurfa til að ljúka þessum verkefnum, en vernda um leið viðkvæmar upplýsingar.

Þegar við byggðum forritavettvang okkar Computer könnuðum við tilbúna sandkassavalkosti. Hver valkostur krafðist þess að við íhuguðum málamiðlanir á milli virkni, afkastagetu og öryggis. Perplexity Computer þurfti alla þrjá, svo við smíðuðum gjörbreytta gerð af sandkassa.

Í dag kynnum við til sögunnar vinnusvæði, sandkassavettvang sem er hannaður til að virkja alla möguleika Computer á sama tíma og hann veitir fyllsta öryggi fyrir háþróuð gervigreindarkerfi.

Endursköpun sandkassaarkitektúrs

vinnusvæði ræsir skammvinnahlaup í sandkössum sem lifa aðeins eins lengi og þörf krefur til að keyra kóða, eiga samskipti við skrár eða önnur verkefni. Þegar verkefninu er lokið er sandkassinn, og allt sem er í honum, eyðilagt.

Fyrir langtímaverkefni sem þurfa að lifa af endurræsingu vefur vinnusvæði hverjum sandkassa inn í samtal sem hægt er að gera hlé á, halda áfram með eða greina í marga sandkassa. Skyndimyndatækni vinnusvæði gerir því kleift að ferðast með samhengið ásamt vinnunni, þótt enginn stakur sandkassi geri það.

Að útrýma fyrri málamiðlunum

Flestir sandkassavettvangar leysa eingöngu tvær af þremur breytum: virkni, afköst eða öryggi. Það að fínstilla eitt hefur oft í för með sér fórnir á öðru. Sumar lausnir hafa sterkar einangrunarprimitífar en skilja skilríki eftir óvarin innan umhverfisins. Aðrar keyra stutt verk vel, en tapa stöðu og bregðast þegar samtal þarf að keyra í klukkustundum saman.

vinnusvæði leysir allar þrjár með því að aðskilja áhyggjur yfir sérstaka þjónustu. Netgáttin (Network Gateway), vinnusvæði-púkinn og skrárþjónustan tryggja hver um sig mismunandi hluta staflans. Þær skila einnig skilríkjum utan frá sandkassanum eingöngu á þeirri stundu sem þeirra er þörf.

Með þessari hönnun hefur málamiðlað forrit enga leið að skilríkjum sem vettvangurinn stýrir sjálfgefið. Og það hefur ekki aðgang umfram það verkefni sem því var úthlutað, óháð lengd samtalsins eða bakendanum.

Að búa til þrjú lög af öryggi

vinnusvæði samanstendur af þremur lykilpöllum, sem hver um sig hefur innbyggðar sterkar öryggisráðstafanir:

Stjórnunarsvæði (Control Plane): Fyrsta lagið í arkitektúr vinnusvæði, stjórnunarsvæðið ber ábyrgð á skipulagningu lífsferils sandkassans. Það fær hverja beiðni í gegnum eina API-skilagreiningu, fylgist með stöðu sandkassans og ákveður í rauntíma hvaða bakenda skuli beina á. Það ákveður hvenær verkefni þarf nýjan sandkassa. Það ákveður einnig hvenær verkefni er lokið og hægt er að eyða samsvarandi sandkassa. Þar sem stjórnunarsvæðið er ríkulaust og hýst á einum stað virkar sama API-kallið á hvaða núverandi innviði sem er, þar á meðal staðbundna tölvu.

Þjónusta á hnútstigi (Node-level Services): Í vinnusvæði er það þjónusta á hnútstigi þar sem öryggisstefna Perplexity sker sig úr. Með vinnusvæði fara skilríki aldrei inn í sandkassann. Þess í stað er þeim komið á framfæri utan frá sandkassanum eingöngu á nákvæmlega þeim tíma sem þeirra er þörf. Þegar forrit þarf tímabundinn aðgang til að tengjast Google-reikningi getur vinnusvæði séð um innskráningarferlið án þess að afhjúpa skilríki innan sandkassans. Útleiðandi netumferð er einnig stjórnað á hnútstigi. Málamiðlað forrit getur ekki náð til neins utan leyfilegs gildissviðs þess.

Í sandkassa (In-sandbox): Sandkassalagið er síðasta varnarlína vinnusvæði. Með vinnusvæði keyrir hvert verkefni innan Firecracker-örsýndarvélar (microVM), fullkomlega einangruðu umhverfi með sínu eigin stýrikerfi. Það þýðir að ekkert þar inni getur haft áhrif á hýsilinn eða neinn annan sandkassa sem keyrir samhliða. vinnusvæði-púkinn er eina ferlið sem á samskipti við stjórnunarsvæði Perplexity. Hann flytur rekstrarmerki eins og skipanir um ræsingu, hlé og skyndimyndir. Þetta er það sem gerir samskiptarásina endurskoðunarlega og stjórnanlega.

Bjóða upp á alhliða stjórntæki

vinnusvæði er einstakt meðal veitna hvað varðar að bjóða upp á alhliða stjórntæki. vinnusvæði sameinar hlé og áframhald, greiningu samtala, einangrun skilríkja á hverju samtali, samskiptaregluframsendingu og fjölbakendastjórnun á einum vettvangi.

vinnusvæði tekur rúllandi skyndimyndir af allri stöðu samtalsins, og handtekur lifandi minni ásamt skrám eins oft og á hverri mínútu. Það getur farið aftur í tímann um viku. Þetta er í raun innbyggð tímavél: Hver sem er getur yfirgefið verkefni í miðju kafi, komið aftur viku síðar og forritið heldur áfram nákvæmlega þar sem það gerði hlé.

vinnusvæði meðhöndlar sandkassann sem ótreystan sjálfgefið og umlykur hann netstýringum, skilríkjastýringum, aðskilnaði leigutaka og dulkóðaðri geymslu. Ef eitt lag er málamiðlað munu hin vernda persónulegar upplýsingar.

Með vinnusvæði geta fyrirtækjaviðskiptavinir einnig komið með sín eigin dulkóðunarlykla. Ef viðskiptavinur afturkallar lykil sinn geta nýir sandkassar ekki ræst og ekki er lengur hægt að afdulkóða núverandi gögn sem viðskiptavinurinn dulkóðaði.

Fyrir þá sem vinna með sérstaklega viðkvæm gögn er vinnusvæði hannað til að virka bæði staðbundið (on-prem) og algjörlega án nettengingar. Þetta stjórnunarstig tryggir að gögn þurfa aldrei að fara úr öruggu umhverfi.

Aflgjafi Perplexity

Verkfræðingar Perplexity tóku vinnusvæði frá hugmynd að vöru á 10 vikum. Við höfum notað vinnusvæði innanhúss síðustu tvo mánuði. Undir lok síðustu viku hefur það stutt milljónir sandkassabúna og tugi milljóna endurtenginga við sandkassa. Það er komið í loftið í Computer fyrir alla notendur í dag.

vinnusvæði var smíðað til að keyra hvar sem er. Í snemmtæku prófi á NVIDIA Vera CPU keyrðu raunveruleg Computer-verkflæði u.þ.b. 1,5x hraðar en núverandi framleiðslutilvísun okkar, og ræstu samhliða sandkassa allt að 1,9x hraðar. Þetta snemma merki sýnir að Vera mun skila framúrskarandi ávinningi fyrir sandkassa gervigreindar og staðfestir bakendatengingu á bak við vinnusvæði.

Fjárfesting í öruggum umhverfum

Við trúum því að það ætti ekki að þurfa að gera málamiðlun á milli virkni, afkastagetu og öryggis. Forrit ættu að vinna með sömu gögnum og við, með sama trausti og við myndum sýna hvaða vinnufélaga sem er.

vinnusvæði er aðeins fyrsta útgáfan af þessu örugga umhverfi. Þegar gervigreind heldur áfram að þróast munu öryggis- og innviðakerfi okkar gera það líka.

Skoðaðu Making SPACE: Secure and Efficient Runtimes for Long-Running Agents fyrir frekari upplýsingar.