ఏజెంట్ల కోసం సురక్షిత శాండ్‌బాక్స్‌లు

AI ఏజెంట్లు మా తరఫున నిజమైన పనిని చేస్తాయి: ఫైళ్లను ఎడిట్ చేయడం, కోడ్‌ను రన్ చేయడం మరియు గంటలు లేదా రోజుల తరబడి బహుళ-దశల పనులను నిర్వహించడం. దీనికి తరచుగా ప్రైవేట్ సమాచార యాక్సెస్ అవసరం అవుతుంది, అందుకే మోడల్ ఎంత స్మార్ట్ అనే దానికంటే ఏజెంట్ ఎక్కడ run అవుతుంది అనేది ముఖ్యం.

శాండ్‌బాక్స్‌లు ఏజెంట్లను సురక్షితంగా ఉంచుతాయి, ఈ పనులను పూర్తి చేయడానికి వారికి అవసరమైన టూల్స్ మరియు ఫైళ్లను యాక్సెస్ చేయడానికి అనుమతిస్తాయి, అదే సమయంలో సున్నితమైన సమాచారాన్ని రక్షిస్తాయి.

మా ఏజెంట్ ప్లాట్‌ఫారమ్ Computerను నిర్మించేటప్పుడు, మేము సిద్ధంగా లభించే శాండ్‌బాక్స్ ఎంపికలను పరిశీలించాము. ప్రతి ఎంపిక ఫంక్షనాలిటీ, సమర్థత మరియు భద్రత మధ్య ట్రేడ్‌ఆఫ్‌లను పరిగణనలోకి తీసుకోవాలని కోరింది. Perplexity Computerకి ఈ మూడూ అవసరం, కాబట్టి మేము పూర్తిగా సరికొత్త రకమైన శాండ్‌బాక్స్‌ను నిర్మించాము.

నేడు, మేము అధునాతన ఏజెంట్ సిస్టమ్‌ల కోసం అత్యున్నత స్థాయి భద్రతను అందిస్తూ Computer యొక్క పూర్తి శక్తిని అన్‌లాక్ చేయడానికి రూపొందించబడిన శాండ్‌బాక్స్ ప్లాట్‌ఫారమ్ అయిన SPACEను పరిచయం చేస్తున్నాము.

శాండ్‌బాక్స్ ఆర్కిటెక్చర్‌ను పునర్నిర్మించడం

SPACE అనేది కోడ్‌ను రన్ చేయడానికి, ఫైళ్లతో ఇంటరాక్ట్ అవ్వడానికి లేదా ఇతర పనుల కోసం ఎంతసేపు అవసరమో అంతసేపు మాత్రమే ఉండే ఎఫెమెరల్ శాండ్‌బాక్స్‌లను సృష్టిస్తుంది. టాస్క్ పూర్తయినప్పుడు, శాండ్‌బాక్స్ మరియు దాని లోపల ఉన్నదంతా ధ్వంసం చేయబడుతుంది.

రీస్టార్ట్‌లను తట్టుకోవాల్సిన దీర్ఘకాలిక పని కోసం, SPACE ప్రతి శాండ్‌బాక్స్‌ను పాజ్ చేయగల, పునఃప్రారంభించగల లేదా బహుళ శాండ్‌బాక్స్‌లుగా విభజించగల సెషన్‌లో ఉంచుతుంది. వ్యక్తిగత శాండ్‌బాక్స్ ఏదీ లేకపోయినా, పనితో పాటు కంటెక్ట్ ప్రయాణించడానికి SPACE యొక్క రోలింగ్ స్నాప్‌షాట్ టెక్నాలజీ అనుమతిస్తుంది.

మునుపటి ట్రేడ్‌ఆఫ్‌లను తొలగించడం

చాలా శాండ్‌బాక్స్ ప్లాట్‌ఫారమ్‌లు మూడింటిలో రెండు వేరియబుల్స్ మాత్రమే పరిష్కరిస్తాయి: ఫంక్షనాలిటీ, సమర్థత లేదా భద్రత. ఒకదానిని ఆప్టిమైజ్ చేయడం అనేది సాధారణంగా మరొకదాని ఖర్చుతో వస్తుంది. కొన్ని పరిష్కారాలు బలమైన ఐసోలేషన్ ప్రిమిటివ్‌లను కలిగి ఉంటాయి కానీ పరిసరాల లోపల ఆధారాలను బహిర్గతం చేస్తాయి. మరికొన్ని స్వల్పకాలిక ఉద్యోగాలను బాగా అమలు చేస్తాయి, కానీ సెషన్ గంటల తరబడి అమలు కావాల్సినప్పుడు స్థితిని కోల్పోతాయి మరియు విఫలమవుతాయి.

ప్రత్యేక సేవలలో ఆందోళనలను వేరు చేయడం ద్వారా SPACE ఈ మూడింటిని పరిష్కరిస్తుంది. నెట్‌వర్క్ గేట్‌వే, స్పేస్ డెమోన్ మరియు ఫైల్ సర్వీస్ ప్రతి ఒక్కటి స్టాక్ యొక్క వేర్వేరు భాగాన్ని భద్రపరుస్తాయి. అవి అవసరమైన కచ్చితమైన సమయంలో మాత్రమే శాండ్‌బాక్స్ వెలుపల నుండి ఆధారాలను అందిస్తాయి.

ఈ డిజైన్‌తో, రాజీపడిన ఏజెంట్‌కు డిఫాల్ట్‌గా ప్లాట్‌ఫారమ్-నిర్వహించబడే ఆధారాలకు ఎలాంటి మార్గం ఉండாது. అలాగే సెషన్ వ్యవధి లేదా బ్యాకెండ్‌తో సంబంధం లేకుండా, దానికి ఇవ్వబడిన టాస్క్‌ను మించి యాక్సెస్ ఉండదు.

మూడు భద్రతా పొరలను సృష్టించడం

SPACE అనేది మూడు కీలక పొరలతో তৈরি చేయబడింది, ప్రతి ఒక్కటి బలమైన భద్రతా చర్యలను అంతర్గతంగా కలిగి ఉంటుంది:

Control Plane: SPACE ఆర్కిటెక్చర్ యొక్క మొదటి పొర అయిన కంట్రోల్ ప్లేన్, శాండ్‌బాక్స్ లైఫ్‌సైకిల్‌ను ఆర్కెస్ట్రేట్ చేయడానికి బాధ్యత వహిస్తుంది. ఇది ఒకే API ద్వారా ప్రతి అభ్యర్థనను స్వీకరిస్తుంది, శాండ్‌బాక్స్ స్థితిని ట్రాక్ చేస్తుంది మరియు ఏ బ్యాకెండ్‌కు రూట్ చేయాలో నిజ సమయంలో నిర్ణయిస్తుంది. టాస్క్‌కు కొత్త శాండ్‌బాక్స్ ఎప్పుడు అవసరమో ఇది నిర్ణయిస్తుంది. అలాగే ఒక టాస్క్ ఎდის పూర్తయింది మరియు దాని సంబంధిత శాండ్‌బాక్స్ ఎప్పుడు ధ్వంసం చేయబడవచ్చు అని కూడా ఇది నిర్ణయిస్తుంది. కంట్రోల్ ప్లేన్ స్టేట్‌లెస్ మరియు కేంద్రీకృతంగా హోస్ట్ చేయబడినందున, స్థానిక మెషీన్‌తో సహా ఏదైనా υπάρχే ఇన్‌ఫ్రాస్ట్రక్చర్‌పై అదే API కాల్ పనిచేస్తుంది.

Node-level Services: SPACEలో, Node-level Services అనేది Perplexity యొక్క భద్రతా స్థితి ప్రత్యేకంగా నిలిచే చోటు. SPACEతో, ఆధారాలు ఎప్పటికీ శాండ్‌బాక్స్‌లోకి వెళ్లవు. బదులుగా, అవి అవసరమైన కచ్చితమైన సమయంలో మాత్రమే శాండ్‌బాక్స్ వెలుపల నుండి పాస్ చేయబడతాయి. Google ఖాతాకు కనెక్ట్ చేయడానికి ఏజెంట్‌కు తాత్కాలిక యాక్సెస్ అవసరమైనప్పుడు, శాండ్‌బాక్స్ లోపల ఆధారాలను బహిర్గతం చేయకుండా SPACE సైన్-ఇన్ ప్రవాహాన్ని నిర్వహించగలదు. అవుట్‌బౌండ్ నెట్‌వర్క్ ట్రాఫిక్ కూడా నోడ్ స్థాయిలో నియంత్రించబడుతుంది. రాజీపడిన ఏజెంట్ దాని అనుమతించబడిన పరిధి వెలుపల ఉన్న దేనినీ చేరుకోలేదు.

In-sandbox: ఇన్-శాండ్‌బాక్స్ లేయర్ అనేది SPACE యొక్క చివరి రక్షణ రేఖ. SPACEతో, ప్రతి టాస్క్ ఫైర్‌క్రాకర్ మైక్రోVM లోపల నడుస్తుంది, ఇది స్వంత ఆపరేటింగ్ సిస్టమ్‌తో పూర్తిగా ఐసోలేట్ చేయబడిన వాతావరణం. అంటే లోపల ఉన్న ఏదీ హోస్ట్‌ను లేదా సమాంతరంగా నడుస్తున్న ఇతర శాండ్‌బాక్స్‌ను ప్రభావితం చేయలేదు. Perplexity కంట్రోల్ ప్లేన్‌తో మాట్లాడే ఏకైక ప్రాసెస్ స్పేస్ డెమోన్. ఇది ప్రారంభం, పాజ్ మరియు స్నాప్‌షాట్ ఆదేశాల వంటి ఆపరేషనల్ సిగ్నళ్లను నిర్వహిస్తుంది. కమ్యూనికేషన్ ఛానెల్‌ను ఆడిట్ చేయగల మరియు నియంత్రించగలగడానికి ఇదే కారణం.

పూర్తి నియంత్రణలను అందించడం

పూర్తి నియంత్రణలను అందించడంలో ప్రొవైడర్‌లలో SPACE ప్రత్యేకమైనది. SPACE పాజ్ మరియు పునఃప్రారంభం, సెషన్ ఫోర్కింగ్, ప్రతి సెషన్ ఆధారాల ఐసోలేషన్, ప్రోటోకాల్ ఫార్వార్డింగ్ మరియు బహుళ-బ్యాకెండ్ ఆర్కెస్ట్రేషన్‌ను ఒకే ప్లాట్‌ఫారమ్‌లో మిళితం చేస్తుంది.

SPACE పూర్తి సెషన్ స్థితి యొక్క రోలింగ్ స్నాప్‌షాట్‌లను తీసుకుంటుంది, ప్రతి నిమిషానికి ఒకసారి ఫైళ్లతో పాటు లైవ్ మెమరీని క్యాప్చర్ చేస్తుంది. ఇది ఒక వారం వెనక్కి వెళ్ళగలదు. ఇది ప్రాథమికంగా అంతర్నిర్మిత టైమ్ మెషిన్: ఎవరైనా టాస్క్ మధ్యలో వెళ్లిపోవచ్చు, ఒక వారం తర్వాత తిరిగి రావచ్చు మరియు ఏజెంట్ తాను పాజ్ చేసిన చోటు నుండి ఖచ్చితంగా కొనసాగుతుంది.

SPACE డిఫాల్ట్‌గా శాండ్‌బాక్స్‌ను నమ్మదగనిదిగా పరిగణిస్తుంది మరియు దానిని నెట్‌వర్క్ నియంత్రణలు, ఆధారాల నియంత్రణలు, టెనెంట్ విభజన మరియు ఎన్‌క్రిప్ట్ చేయబడిన నిల్వతో చుట్టుముడుతుంది. ఒక పొర రాజీపడితే, మిగిలినవి వ్యక్తిగత సమాచారాన్ని రక్షిస్తాయి.

SPACEతో, ఎంటర్‌ప్రైజ్ కస్టమర్‌లు తమ సొంత ఎన్‌క్రిప్షన్ కీలను కూడా తీసుకురావచ్చు. కస్టమర్ తమ కీని రద్దు చేస్తే, కొత్త శాండ్‌బాక్స్‌లు బూట్ కాలేవు మరియు ఇప్పటికే ఉన్న కస్టమర్-ఎన్‌క్రిప్ట్ చేయబడిన డేటాను ఇకపై డీక్రిప్ట్ చేయలేము.

ప్రత్యేకంగా సున్నితమైన డేటాతో పని చేసే వారి కోసం, SPACE ఆన్-ప్రెమ్ మరియు పూర్తిగా ఆఫ్‌లైన్ రెండింటిలోనూ పనిచేసేలా రూపొందించబడింది. ఈ స్థాయి నియంత్రణ డేటా ఎప్పటికీ సురక్షితమైన వాతావరణాన్ని విడిచిపెట్టాల్సిన అవసరం లేదని నిర్ధారిస్తుంది.

Perplexityకి శక్తినివ్వడం

Perplexity ఇంజనీర్లు 10 వారాలలో SPACEని కాన్సెప్ట్ నుండి ఉత్పత్తికి తీసుకువచ్చారు. మేము గత రెండు నెలలుగా SPACEని అంతర్గతంగా ఉపయోగిస్తున్నాము. గత వారంలో, ఇది మిలియన్ల కొద్దీ శాండ్‌బాక్స్ సృష్టిలకు మరియు పదుల మిలియన్ల శాండ్‌బాక్స్ రీకనెక్ట్‌లకు మద్దతు ఇచ్చింది. ఇది నేడు వినియోగదారులందరికీ Computerలో లైవ్‌లో ఉంది.

SPACE ఎక్కడైనా రన్ అయ్యేలా నిర్మించబడింది. NVIDIA Vera CPUపై ప్రారంభ పరీక్షలో, వాస్తవ Computer-శైలి వర్క్‌ఫ్లోలు మా ప్రస్తుత ప్రొడక్షన్ రిఫరెన్స్ కంటే సుమారు 1.5x వేగంగా రన్ అయ్యాయి మరియు ఏకకాల శాండ్‌బాక్స్‌లను 1.9x వేగంగా ప్రారంభించాయి. ఈ ప్రారంభ సిగ్నల్ వెరా ఏజెంట్ శాండ్‌బాక్స్‌ల కోసం అసాధారణమైన విలువను అందిస్తుందని ప్రదర్శిస్తుంది మరియు SPACE వెనుక ఉన్న బ్యాకెండ్‌ అజ్ఞేయవాదాన్ని ధృవీకరిస్తుంది.

సురక్షిత వాతావరణాలలో పెట్టుబడి పెట్టడం

ఫంక్షనాలిటీ, సమర్థత మరియు భద్రత మధ్య ట్రేడ్‌ఆఫ్ ఉండకూడదని మేము నమ్ముతున్నాము. ఏజెంట్లు మనం ఉంచే అదే విశ్వాసంతో, మనం పని చేసే అదే డేటా అంతటా పని చేయాలి.

ఈ సురక్షిత వాతావరణం యొక్క మొదటి పునరావృతం మాత్రమే SPACE. AI అభివృద్ధి చెందుతూనే ఉన్నందున, మా భద్రత మరియు ఇన్‌ఫ్రాస్ట్రక్చర్ సిస్టమ్‌లు కూడా అలాగే ఉంటాయి.

మరిన్ని వివరాల కోసం Making SPACE: Secure and Efficient Runtimes for Long-Running Agents చూడండి.