एजंट्ससाठी सुरक्षित सँडबॉक्स

एआय एजंट्स आपल्या वतीने वास्तविक कार्ये करतात: फायली संपादित करणे, कोड चालवणे आणि तास किंवा दिवसभर बहु-टप्प्यातील कार्ये पार पाडणे. यासाठी अनेकदा खाजगी माहितीमध्ये प्रवेशाची आवश्यकता असते, ज्यामुळे मॉडेल किती हुशार आहे यापेक्षा एजंट कुठे चालतो हे जास्त महत्त्वाचे ठरते.

सँडबॉक्स एजंट्सना सुरक्षित ठेवतात, त्यांना ही कार्ये पूर्ण करण्यासाठी आवश्यक असलेल्या टूल आणि फायलींमध्ये प्रवेश करू देतात, तर संवेदनशील माहिती सुरक्षित ठेवतात.

आमचे एजंट प्लॅटफॉर्म Computer तयार करताना, आम्ही रेडीमेड सँडबॉक्स पर्यायांचा शोध घेतला. प्रत्येक पर्यायसाठी आम्हाला कार्यक्षमता, कार्यकुशलता आणि सुरक्षा यांच्यातील तडजोडींचा विचार करावा लागला. Perplexity Computer ला या तिन्हींचीही गरज होती, म्हणूनच आम्ही पूर्णपणे नवीन प्रकारचा सँडबॉक्स तयार केला.

आज, आम्ही SPACE सादर करत आहोत, हा एक सँडबॉक्स प्लॅटफॉर्म आहे जो प्रगत एजंट सिस्टीमसाठी उच्च स्तरावरील सुरक्षा प्रदान करताना Computer ची पूर्ण शक्ती अनलॉक करण्यासाठी डिझाइन केला आहे.

सँडबॉक्स आर्किटेक्चरचे पुनर्विचार करत आहोत

SPACE तात्पुरते सँडबॉक्स स्पिन अप करते जे कोड चालवणे, फायलींशी संवाद साधणे किंवा इतर कामांसाठी जोपर्यंत आवश्यक असतात तोपर्यंतच जिवंत राहतात. कार्य संपल्यावर, सँडबॉक्स आणि त्यातील प्रत्येक गोष्ट नष्ट केली जाते.

पुन्हा सुरू होऊन टिकून राहण्याची गरज असलेल्या दीर्घकालीन कामांसाठी, SPACE प्रत्येक सँडबॉक्सला एका सत्रात गुंडाळतो ज्याला विराम दिला जाऊ शकतो, पुन्हा सुरू केले जाऊ शकते किंवा अनेक सँडबॉक्समध्ये शाखाबद्ध केले जाऊ शकते. SPACE चे रोलिंग स्नॅपशॉट तंत्रज्ञान संदर्भाला कामासोबत प्रवास करण्याची परवानगी देते, जरी कोणतेही वैयक्तिक सँडबॉक्स करत नसले तरीही.

मागील तडजोड दूर करणे

बहुतेक सँडबॉक्स प्लॅटफॉर्म तीनपैकी केवळ दोन चलांचे निराकरण करतात: कार्यक्षमता, कार्यकुशलता किंवा सुरक्षा. एकासाठी ऑप्टिमाइझ केल्याने सहसा दुसऱ्याच्या किंमतीवर येतो. काही उपायांमध्ये मजबूत आयसोलेशन प्रिमिटिव्ह असतात परंतु क्रेडेन्शन्स पर्यावरणामध्ये उघडी असतात. इतर अल्पकालीन नोकऱ्या चांगल्या प्रकारे कार्यान्वित करतात, परंतु जेव्हा सत्र तासभर चालवण्याची आवश्यकता असते तेव्हा राज्य गमावतात आणि अयशस्वी होतात.

SPACE समर्पित सेवांमध्ये चिंतेचे पृथक्करण करून तिन्हींचे निराकरण करते. नेटवर्क गेटवे, स्पेस डीमन आणि फाईल सर्व्हिस प्रत्येक स्टॅकचा एक वेगळा भाग सुरक्षित करतात. ते आवश्यक त्या क्षणीच सँडबॉक्सच्या बाहेरून क्रेडेन्शन्स देखील वितरीत करतात.

या डिझाइनसह, तडजोड केलेल्या एजंटकडे डीफॉल्टनुसार प्लॅटफॉर्म-व्यवस्थापित क्रेडेन्शन्सचा कोणताही मार्ग नाही. आणि सत्राचा कालावधी किंवा बॅकएंड पर्वा न करता, त्याला दिलेल्या कार्याशिवाय प्रवेश नाही.

सुरक्षेचे तीन स्तर तयार करणे

SPACE तीन महत्त्वाच्या स्तरांपासून बनलेले आहे, प्रत्येक अंतर्भूत मजबूत सुरक्षा उपायांसह:

Control Plane: SPACE च्या आर्किटेक्चरचा पहिला स्तर, Control Plane सँडबॉक्सच्या जीवनचक्रात ऑर्केस्ट्रेट करण्यासाठी जबाबदार आहे. हे एकाच API द्वारे प्रत्येक विनंती प्राप्त करते, सँडबॉक्स स्थितीचा मागोवा घेते आणि रीअल टाईममध्ये कोणत्या बॅकएंडवर मार्गक्रमण करायचे हे ठरवते. हे ठरवते की एखाद्या कार्याला नवीन सँडबॉक्सची कधी आवश्यकता असते. हे असेही ठरवते की एखादे कार्य कधी पूर्ण होते आणि त्याचा संबंधित सँडबॉक्स कधी नष्ट केला जाऊ शकतो. Control Plane स्टेटलेस आणि केंद्रीय होस्ट केलेले असल्यामुळे, समान API कॉल स्थानिक मशीनसह कोणत्याही विद्यमान इन्फ्रास्ट्रक्चरवर कार्य करतो.

Node-level Services: SPACE मध्ये, Node-level Services हे असे ठिकाण आहे जिथे Perplexity ची सुरक्षा स्थिती वेगळी दिसते. SPACE सह, क्रेडेन्शन्स कधीही सँडबॉक्समध्ये जात नाहीत. त्याऐवजी, ते अचूक क्षणी आवश्यक असताना सँडबॉक्सच्या बाहेरून पास केले जातात. जेव्हा एजंटला Google खाते कनेक्ट करण्यासाठी तात्पुरत्या प्रवेशाची आवश्यकता असते, तेव्हा SPACE सँडबॉक्समध्ये क्रेडेन्शन्स उघड न करता साइन-इन प्रवाह हाताळू शकते. आउटबाउंड नेटवर्क ट्रॅफिक देखील नोड स्तरावर नियंत्रित केले जाते. तडजोड केलेला एजंट त्याच्या परवानगी असलेल्या व्याप्तीबाहेर काहीही पोहोचू शकत नाही.

In-sandbox: इन-सँडबॉक्स स्तर हा SPACE चा बचावाचा शेवटचा ओळ आहे. SPACE सह, प्रत्येक कार्य फायरक्रॅकर मायक्रोव्हीएमच्या आत चालते, ज्याची स्वतःची ऑपरेटिंग सिस्टम आहे अशी पूर्णपणे изолиटेड पर्यावरण. याचा अर्थ आतील काहीही होस्टवर किंवा समांतर चालणाऱ्या इतर कोणत्याही सँडबॉक्सवर परिणाम करू शकत नाही. स्पेस डीमन ही एकमेव प्रक्रिया आहे जी Perplexity च्या कंट्रोल प्लेनशी बोलते. हे सुरू करणे, विराम देणे आणि स्नॅपशॉट कमांड्स यांसारखे ऑपरेशनल सिग्नल वाहून नेते. यामुळेच कम्युनिकेशन चॅनल ऑडिबल आणि नियंत्रणीय बनते.

नियंत्रणांचा पूर्ण संच ऑफर करत आहे

नियंत्रणांचा पूर्ण संच ऑफर करण्यात SPACE प्रदात्यांमध्ये अद्वितीय आहे. SPACE एकाच प्लॅटफॉर्ममध्ये पॉझ आणि रिझूम, सत्र फोर्किंग, प्रति-सत्र क्रेडेन्शन्स आयसोलेशन, प्रोटोकॉल फॉरवर्डिंग आणि बहु-बॅकएंड ऑर्केस्ट्रेशन एकत्र करते.

SPACE संपूर्ण सत्राच्या स्थितीचे रोलिंग स्नॅपशॉट घेते, दर मिनिटाला फाईल्स सोबत लाईव्ह मेमरी कॅप्चर करते. ते एका आठवड्यात मागे जाऊ शकते. हे मुळात एक अंगभूत टाइम मशीन आहे: कोणीही मध्य-कार्यातून दूर जाऊ शकतो, एका आठवड्यानंतर परत येऊ शकतो आणि एजंट नेमके जिथे थांबला होता तिथूनच सुरू करतो.

SPACE सँडबॉक्सला डीफॉल्टनुसार अविश्वसनीय मानतो आणि नेटवर्क नियंत्रणे, क्रेडेन्शन्स नियंत्रणे, टेनंट पृथक्करण आणि एनक्रिप्टेड स्टोरेजसह वेढतो. जर एका स्तराशी तडजोड केली गेली, तर इतर वैयक्तिक माहितीचे रक्षण करतील.

SPACE सह, एंटरप्राइझ ग्राहक त्यांच्या स्वतःच्या एन्क्रिप्शन कल्यासही आणू शकतात. एखादा ग्राहक त्यांची कि रद्द करत असल्यास, नवीन सँडबॉक्स बूट होऊ शकत नाहीत आणि विद्यमान ग्राहक-एनक्रिप्टेड डेटा यापुढे डिक्रिप्ट केला जाऊ शकत नाही.

विशेषतः संवेदनशील डेटासह कार्य करणाऱ्यांसाठी, SPACE ऑन-प्रॉम आणि पूर्णपणे ऑफलाइन दोन्ही ठिकाणी कार्य करण्यासाठी डिझाइन केलेले आहे. या पातळीवरील नियंत्रण सुनिश्चित करते की डेटाला कधीही सुरक्षित वातावरण सोडण्याची गरज नाही.

Perplexity ला शक्ती प्रदान करणे

Perplexity च्या अभियंत्यांनी SPACE ला संकल्पनेपासून उत्पादनापर्यंत 10 आठवड्यांत नेले. आम्ही गेल्या दोन महिन्यांपासून SPACE चा अंतर्गत वापर करत आहोत. गेल्या आठवड्यात, याने दशलक्ष सँडबॉक्स निर्मिती आणि अनेक दशलक्ष सँडबॉक्स रीकनेक्ट्सना समर्थन दिले आहे. हे आज सर्व वापरकर्त्यांसाठी Computer मध्ये लाइव्ह आहे.

SPACE कुठेही चालण्यासाठी तयार केले गेले होते. NVIDIA Vera CPU वरील सुरुवातीच्या चाचणीमध्ये, वास्तविक Computer-शैलीचे कार्यप्रवाह आमच्या सध्याच्या उत्पादन संदर्भाइतके अंदाजे 1.5 पट वेगाने चालले आणि समकालीन सँडबॉक्स 1.9 पट वेगाने सुरू झाले. हा सुरुवातीचा सिग्नल दर्शवतो की Vera एजंट्स सँडबॉक्ससाठी अपवादात्मक मूल्य वितरीत करेल आणि SPACE च्या पाठीमागील बॅकएंड अ‍ॅग्नोस्टिसिझम प्रमाणित करेल.

सुरक्षित वातावरणात गुंतवणूक करणे

आमचा विश्वास आहे की कार्यक्षमता, कार्यकुशलता आणि सुरक्षा यांच्यात तडजोड असावी लागते. एजंट्सनी आपण ज्या विश्वासासह कोणत्याही सहकाऱ्यावर ठेवू शकतो त्याच विश्वासासह, आपण करतो त्याच डेटावर काम केले पाहिजे.

SPACE हे या सुरक्षित वातावरणाची केवळ पहिली पुनरावृत्ती आहे. AI विकसित होत राहिल्यामुळे, आमची सुरक्षा आणि इन्फ्रास्ट्रक्चर सिस्टम्स देखील विकसित होत जातील.

अधिक तपशीलांसाठी Making SPACE: Secure and Efficient Runtimes for Long-Running Agents पहा.