एजेंटों के लिए सुरक्षित सैंडबॉक्स

AI एजेंट हमारी ओर से वास्तविक कार्य करते हैं: फ़ाइलों को संपादित करना, कोड चलाना और घंटों या दिनों तक कई चरणों वाले कार्यों को पूरा करना। इसमें अक्सर निजी जानकारी तक पहुंच की आवश्यकता होती है, जो यह महत्वपूर्ण बना देता है कि कहाँ एक एजेंट चलता है, बजाय इसके कि मॉडल कितना स्मार्ट है।

सैंडबॉक्स एजेंटों को सुरक्षित रखते हैं, जिससे वे इन कार्यों को पूरा करने के लिए आवश्यक टूल और फ़ाइलों तक पहुँच प्राप्त कर सकते हैं, जबकि संवेदनशील जानकारी सुरक्षित रहती है।

अपने एजेंट प्लेटफ़ॉर्म Computer का निर्माण करते समय, हमने उपलब्ध सैंडबॉक्स विकल्पों की खोज की। प्रत्येक विकल्प के लिए हमें कार्यक्षमता, दक्षता और सुरक्षा के बीच समझौते पर विचार करने की आवश्यकता थी। Perplexity Computer को इन तीनों की आवश्यकता थी, इसलिए हमने एक पूरी तरह से नए प्रकार का सैंडबॉक्स बनाया।

आज, हम SPACE प्रस्तुत कर रहे हैं, जो एक सैंडबॉक्स प्लेटफ़ॉर्म है जिसे Computer की पूर्ण शक्ति को अनलॉक करने के लिए डिज़ाइन किया गया है, साथ ही उन्नत एजेंटिक सिस्टम के लिए उच्चतम स्तर की सुरक्षा प्रदान करता है।

SPACE अल्पकालिक सैंडबॉक्स बनाता है जो केवल तब तक जीवित रहते हैं जब तक कि उन्हें कोड चलाने, फ़ाइलों के साथ बातचीत करने या अन्य कार्यों के लिए उनकी आवश्यकता होती है। जब कार्य पूरा हो जाता है, तो सैंडबॉक्स और उसके अंदर की हर चीज़ नष्ट हो जाती है।

लंबे समय तक चलने वाले काम के लिए जिसे रीस्टार्ट से बचने की आवश्यकता है, SPACE प्रत्येक सैंडबॉक्स को एक ऐसे सत्र में लपेटता है जिसे रोका, फिर से शुरू किया या कई सैंडबॉक्स में विभाजित किया जा सकता है। SPACE की रोलिंग स्नैपशॉट तकनीक संदर्भ को काम के साथ चलने की अनुमति देती है, भले ही कोई व्यक्तिगत सैंडबॉक्स ऐसा न करे।

अधिकांश सैंडबॉक्स प्लेटफ़ॉर्म तीन चरों में से केवल दो का समाधान करते हैं: कार्यक्षमता, दक्षता या सुरक्षा। किसी एक के लिए अनुकूलन अक्सर दूसरे की कीमत पर होता है। कुछ समाधानों में मजबूत अलगाव आदिम होते हैं लेकिन वातावरण के अंदर क्रेडेंशियल्स को उजागर छोड़ देते हैं। अन्य अल्पकालिक कार्यों को अच्छी तरह से निष्पादित करते हैं, लेकिन जब किसी सत्र को घंटों तक चलाने की आवश्यकता होती है तो स्थिति खो देते हैं और विफल हो जाते हैं।

SPACE समर्पित सेवाओं के बीच चिंताओं को अलग करके तीनों का समाधान करता है। नेटवर्क गेटवे, स्पेस डेमन और फ़ाइल सेवा प्रत्येक स्टैक के एक अलग हिस्से को सुरक्षित करते हैं। वे केवल उस समय सैंडबॉक्स के बाहर से क्रेडेंशियल्स भी प्रदान करते हैं जब उनकी आवश्यकता होती है।

इस डिज़ाइन के साथ, एक समझौता किए गए एजेंट के पास डिफ़ॉल्ट रूप से प्लेटफ़ॉर्म-प्रबंधित क्रेडेंशियल्स का कोई रास्ता नहीं होता है। और सत्र की अवधि या बैकएंड की परवाह किए बिना, इसके पास उस कार्य से परे पहुंच नहीं होती है जो इसे दिया गया था।

SPACE तीन प्रमुख परतों से बना है, जिनमें से प्रत्येक में मजबूत सुरक्षा उपाय शामिल हैं:

कंट्रोल प्लेन: SPACE के आर्किटेक्चर की पहली परत, कंट्रोल प्लेन सैंडबॉक्स के जीवनचक्र के आयोजन के लिए जिम्मेदार है। यह एक ही API के माध्यम से प्रत्येक अनुरोध प्राप्त करता है, सैंडबॉक्स स्थिति को ट्रैक करता है, और वास्तविक समय में निर्णय लेता है कि किस बैकएंड पर रूट करना है। यह निर्धारित करता है कि कार्य को नए सैंडबॉक्स की आवश्यकता कब है। यह यह भी तय करता है कि कार्य कब पूरा हो गया है और इसके संबंधित सैंडबॉक्स को कब नष्ट किया जा सकता है। चूंकि कंट्रोल प्लेन स्टेटलेस है और केंद्रीय रूप से होस्ट किया गया है, वही API कॉल किसी भी मौजूदा बुनियादी ढांचे पर काम करता है, जिसमें स्थानीय मशीन भी शामिल है।

नोड-स्तरीय सेवाएँ: SPACE में, नोड-स्तरीय सेवाएँ वह जगह है जहाँ Perplexity की सुरक्षा स्थिति अलग है। SPACE के साथ, क्रेडेंशियल्स कभी भी सैंडबॉक्स में नहीं जाते हैं। इसके बजाय, वे सैंडबॉक्स के बाहर से केवल उसी सटीक क्षण पर पारित किए जाते हैं जब उनकी आवश्यकता होती है। जब किसी एजेंट को Google खाते से जुड़ने के लिए अस्थायी पहुंच की आवश्यकता होती है, तो SPACE सैंडबॉक्स के अंदर क्रेडेंशियल्स को उजागर किए बिना साइन-इन प्रवाह को संभाल सकता है। आउटबाउंड नेटवर्क ट्रैफ़िक को भी नोड स्तर पर नियंत्रित किया जाता है। एक समझौता किया गया एजेंट अपने अनुमत दायरे के बाहर किसी भी चीज़ तक नहीं पहुँच सकता है।

इन-सैंडबॉक्स: इन-सैंडबॉक्स परत SPACE की रक्षा की अंतिम पंक्ति है। SPACE के साथ, प्रत्येक कार्य एक Firecracker microVM के अंदर चलता है, जो अपने स्वयं के ऑपरेटिंग सिस्टम के साथ पूरी तरह से अलग वातावरण है। इसका मतलब है कि अंदर की कोई भी चीज़ होस्ट या समानांतर में चल रहे किसी अन्य सैंडबॉक्स को प्रभावित नहीं कर सकती है। स्पेस डेमन एकमात्र ऐसी प्रक्रिया है जो Perplexity के कंट्रोल प्लेन से बात करती है। यह स्टार्ट, पॉज़ और स्नैपशॉट कमांड जैसे ऑपरेशनल सिग्नल ले जाता है। यही वह है जो संचार चैनल को ऑडिट करने योग्य और नियंत्रित करने योग्य बनाता है।

SPACE नियंत्रणों का एक पूरा सेट प्रदान करने में प्रदाताओं के बीच अद्वितीय है। SPACE एक ही प्लेटफ़ॉर्म में पॉज़ और रिज़्यूम, सत्र फोर्किंग, प्रति-सत्र क्रेडेंशियल अलगाव, प्रोटोकॉल फ़ॉरवर्डिंग और मल्टी-बैकएंड आर्केस्ट्रेशन को जोड़ता है।

SPACE पूर्ण सत्र स्थिति के रोलिंग स्नैपशॉट लेता है, जो हर मिनट जितनी बार फ़ाइलों के साथ लाइव मेमोरी को कैप्चर करता है। यह एक सप्ताह पीछे जा सकता है। यह अनिवार्य रूप से एक इन-बिल्ट टाइम मशीन है: कोई भी कार्य के बीच में दूर जा सकता है, एक सप्ताह बाद वापस आ सकता है, और एजेंट ठीक वहीं से शुरू करता है जहाँ उसने विराम लिया था।

SPACE सैंडबॉक्स को डिफ़ॉल्ट रूप से अविश्वसनीय मानता है और इसे नेटवर्क नियंत्रणों, क्रेडेंशियल नियंत्रणों, किरायेदार अलगाव और एन्क्रिप्टेड स्टोरेज से घेरता है। यदि एक परत से समझौता किया जाता है, तो अन्य व्यक्तिगत जानकारी की रक्षा करेंगे।

SPACE के साथ, एंटरप्राइज़ ग्राहक अपनी स्वयं की एन्क्रिप्शन कुंजियों को भी ला सकते हैं। यदि कोई ग्राहक अपनी कुंजी को रद्द कर देता है, तो नए सैंडबॉक्स बूट नहीं हो सकते और मौजूदा ग्राहक-एन्क्रिप्टेड डेटा को अब डिक्रिप्ट नहीं किया जा सकता है।

उन लोगों के लिए जो विशेष रूप से संवेदनशील डेटा के साथ काम करते हैं, SPACE को ऑन-प्रेम और पूरी तरह से ऑफ़लाइन दोनों तरह से काम करने के लिए डिज़ाइन किया गया है। यह नियंत्रण सुनिश्चित करता है कि डेटा को कभी भी सुरक्षित वातावरण छोड़ने की आवश्यकता नहीं है।

Perplexity इंजीनियरों ने SPACE को 10 सप्ताह में अवधारणा से उत्पाद तक पहुँचाया। हम पिछले दो महीनों से आंतरिक रूप से SPACE का उपयोग कर रहे हैं। पिछले सप्ताह में, इसने लाखों सैंडबॉक्स निर्माणों और करोड़ों सैंडबॉक्स पुनर्संयोजनों का समर्थन किया है। यह आज सभी उपयोगकर्ताओं के लिए Computer में लाइव है।

SPACE को कहीं भी चलाने के लिए बनाया गया था। NVIDIA Vera CPU पर एक प्रारंभिक परीक्षण में, वास्तविक Computer-शैली के वर्कफ़्लो हमारे वर्तमान उत्पादन संदर्भ की तुलना में लगभग 1.5 गुना तेज़ी से चले, और समवर्ती सैंडबॉक्स को 1.9 गुना तेज़ी से शुरू किया। यह प्रारंभिक संकेत दर्शाता है कि Vera एजेंटिक सैंडबॉक्स के लिए असाधारण मूल्य प्रदान करेगा और SPACE के पीछे बैकएंड अज्ञेयवाद को मान्य करता है।

हमारा मानना है कि कार्यक्षमता, दक्षता और सुरक्षा के बीच कोई समझौता नहीं होना चाहिए। एजेंटों को उसी डेटा पर काम करना चाहिए जिस पर हम करते हैं, उसी भरोसे के साथ जो हम किसी भी टीम के साथी पर रखते हैं।

SPACE इस सुरक्षित वातावरण का केवल पहला पुनरावृत्ति है। जैसे-जैसे AI विकसित होता रहेगा, हमारे सुरक्षा और बुनियादी ढांचा प्रणालियाँ भी विकसित होंगी।

अधिक विवरण के लिए मेकिंग स्पेस: सुरक्षित और कुशल रनटाइम फॉर लॉन्ग-रनिंग एजेंट्स देखें।

सैंडबॉक्स आर्किटेक्चर को नया रूप देना

पिछले समझौतों को समाप्त करना

सुरक्षा की तीन परतें बनाना

नियंत्रणों का एक पूरा सेट प्रदान करना

Perplexity को सशक्त बनाना

सुरक्षित वातावरण में निवेश करना