Computer को संचालित करने वाले सैंडबॉक्स प्लेटफ़ॉर्म SPACE को ओपन-सोर्स किया जा रहा है

फ़रवरी में Computer लॉन्च करने के बाद से Perplexity व्यक्तिगत एजेंटों के क्षेत्र में शुरुआती अग्रणी रहा है। हम एजेंट गवर्नेंस, असुरक्षित व्यवहारों का पता लगाने और बेकाबू एजेंट गतिविधि को रोकने जैसी कठिन समस्याओं को हल करने के लिए प्रतिबद्ध हैं। जुलाई में, हमने अपने व्यावसायिक रूप से उपलब्ध सैंडबॉक्स प्रदाता की जगह एक अधिक मज़बूत और लचीला इन-हाउस समाधान अपनाया, जिसे हमने SPACE नाम दिया।

SPACE उन्नत एजेंटिक सिस्टम के लिए उच्च सुरक्षा प्रदान करता है। दरअसल, हाल ही में किए गए सुरक्षा परीक्षणों की एक लंबी शृंखला ने साबित किया कि SPACE, OpenAI/Hugging Face घटना में इस्तेमाल हुई तकनीकों जैसी नेटवर्क-बायपास तकनीकों के ख़िलाफ़ मज़बूत है।

आज, हम SPACE को ओपन-सोर्स कर रहे हैं, ताकि डेवलपर्स को अधिक सुरक्षित एजेंट सिस्टम बनाने की बुनियाद मिल सके और वे पूरे उद्योग में मज़बूत सुरक्षा उपायों में योगदान दे सकें। डेवलपर्स यहाँ रिपॉज़िटरी ऐक्सेस कर सकते हैं।

एजेंट गवर्नेंस एक इंजीनियरिंग समस्या है, और इसे हल करने के लिए ओपन सोर्स ज़रूरी है। जब डेवलपर्स के पास ऐसे सिस्टम होते हैं जिनकी वे जांच कर सकें, जिन्हें अपनी ज़रूरत के अनुसार ढाल सकें और जिन पर आगे निर्माण कर सकें, तो वे ज़्यादा कमज़ोरियाँ खोजते हैं और बेहतर टूल विकसित करते हैं। SPACE को ओपन-सोर्स करने से डेवलपर्स को एजेंट रनटाइम के लिए प्रोडक्शन में परखी गई नींव मिलती है, जिसमें आइसोलेशन, स्टेट रिकवरी, और क्रेडेंशियल व नेटवर्क नियंत्रण पहले से मौजूद हैं।

सैंडबॉक्स एजेंटों को सुरक्षित रखते हैं, उन्हें इन कार्यों को पूरा करने के लिए ज़रूरी टूल और फ़ाइलों तक पहुँचने देते हैं, और साथ ही संवेदनशील जानकारी को सुरक्षित रखते हैं।

SPACE को ओपन-सोर्स करने से डेवलपर्स को उन परिवेशों के लिए एक शुरुआती आधार मिलता है जहाँ उनके एजेंट कोड चलाते हैं और फ़ाइलों के साथ काम करते हैं। टीमें देख सकती हैं कि SPACE सैंडबॉक्स प्लेटफ़ॉर्म कैसे काम करता है और इसके कार्यान्वयन के आधार पर आगे निर्माण कर सकती हैं। वे बुनियादी इन्फ्रास्ट्रक्चर को फिर से बनाने के बजाय इसे अपनी ज़रूरतों के अनुसार ढाल भी सकती हैं।

Computer में, SPACE पृथक कोड निष्पादन, रोकने और फिर से शुरू करने, रिकवरी और सत्र ब्रांचिंग का समर्थन करता है। ये क्षमताएँ ऐसे सहायकों की नींव तैयार करती हैं जो:

डेटा का विश्लेषण करें: एक अलग वर्कस्पेस में स्प्रेडशीट साफ़ करें, गणनाएँ चलाएँ और चार्ट बनाएँ।
काम फिर से शुरू करें: जब तक कोई ड्राफ़्ट की समीक्षा न कर ले या छूटी हुई जानकारी न दे दे, तब तक रुकें, फिर फ़ाइलों और चल रही स्थिति को सुरक्षित रखते हुए काम फिर से शुरू करें।
विकल्प आज़माएँ: अपने वर्कस्पेस की अलग-अलग कॉपी में किसी डेटासेट को साफ़ करने के दो तरीकों का परीक्षण करें, या कोई गलती होने पर पहले की फ़ाइल रीस्टोर करें।

ये उदाहरण दिखाते हैं कि डेवलपर्स SPACE के दस्तावेज़ित आइसोलेशन और सत्र नियंत्रणों का उपयोग कैसे कर सकते हैं। प्लेटफ़ॉर्म और सुरक्षा इंजीनियर SPACE को अपने सिस्टम में इंटीग्रेट करने से पहले इसके आइसोलेशन मॉडल और सुरक्षा उदाहरणों की समीक्षा भी कर सकते हैं।

जब हम एजेंटों को समस्याएँ हल करने के लिए ज़्यादा छूट देते हैं, तो हमें इस बारे में स्पष्ट सीमाओं की ज़रूरत होती है कि वे ऐसा कैसे करें। हम जानते हैं कि वैध कार्य कर रहे एजेंट भी छूटी हुई फ़ाइलों, विफल अनुरोधों या अनुमति न मिलने जैसी बाधाओं को दरकिनार करने की कोशिश में सुरक्षा सीमाएँ पार कर सकते हैं।

असुरक्षित व्यवहार की संभावना कम करने के लिए हम मॉडल में सुरक्षा उपाय लागू कर सकते हैं। आसपास के सिस्टम में स्वतंत्र नियंत्रण जोड़ने से, उन सुरक्षा उपायों के विफल होने पर भी नुकसान को सीमित रखने में मदद मिलती है। ये नियंत्रण यह सीमित करते हैं कि एजेंट किन चीज़ों तक पहुँच सकता है, चाहे वह कुछ भी करने का फ़ैसला करे।

SPACE एजेंट द्वारा जेनरेट किए गए कोड और फ़ाइलों के लिए बने एक अलग वर्कस्पेस के इर्द-गिर्द ये नियंत्रण लागू करता है। हमने इसे आइसोलेशन, रिकवरी और कुशल निष्पादन को एक साथ जोड़ने के लिए डिज़ाइन किया है। इससे एजेंट सुरक्षा सीमाओं का पालन करवाने के लिए केवल मॉडल पर निर्भर रहे बिना लंबे सत्रों में उपयोगी काम कर पाते हैं।

हर SPACE सैंडबॉक्स अपने ख़ुद के ऑपरेटिंग सिस्टम वाली एक छोटी वर्चुअल मशीन के अंदर चलता है, जिससे एजेंट के काम और होस्ट सिस्टम के बीच एक आइसोलेशन सीमा बनती है। एक केंद्रीय कंट्रोल प्लेन यह तय करता है कि ये वर्कस्पेस कब बनाए, रोके, फिर से शुरू किए या हटाए जाएँ।

SPACE सैंडबॉक्स को भरोसेमंद नहीं मानता और नेटवर्क एक्सेस तथा प्लेटफ़ॉर्म के पास रखे क्रेडेंशियल को सैंडबॉक्स के बाहर प्रबंधित करता है। एजेंट अधिकृत सेवाओं से कनेक्ट हो सकते हैं, और इसके लिए उन क्रेडेंशियल को उनके कार्य परिवेश में स्टोर करने की ज़रूरत नहीं पड़ती।

बार-बार लिए जाने वाले फ़ाइल स्नैपशॉट और पूरे चल रहे परिवेश के चेकपॉइंट रुकावटों के बावजूद प्रगति को सुरक्षित रखते हैं। इन ऑपरेशनों को कुशल बनाए रखने के लिए, SPACE पूरे परिवेश को बार-बार कॉपी करने के बजाय केवल बदलावों को स्टोर करता है। इससे सैंडबॉक्स बनाने, रीस्टोर करने या ब्रांच करने के लिए ज़रूरी काम कम हो जाता है।

जुलाई से SPACE सभी Computer सत्रों को संचालित कर रहा है और प्रतिदिन लाखों सैंडबॉक्स बनाने का काम संभाल रहा है। समान प्रोडक्शन ट्रैफ़िक पर की गई एक तुलना में, सैंडबॉक्स बनाना हमारे पिछले प्रदाता की तुलना में तीन से पाँच गुना तेज़ रहा।

हमने उन एजेंटों के ख़िलाफ़ भी SPACE का परीक्षण किया जो जानबूझकर इसकी सीमाएँ तोड़ने की कोशिश कर रहे थे। हमारे प्रकाशित सुरक्षा मूल्यांकन में 108 प्रयासों में वर्चुअल मशीन से होस्ट तक निकलने का कोई रास्ता नहीं मिला, लेकिन कुछ एजेंटों ने नेटवर्क प्रतिबंधों को दरकिनार करने के तरीके खोज लिए। हमने उन कमज़ोरियों को ठीक किया, और फ़ॉलो-अप परीक्षण में पहचानी गई हमले की दोनों विधियों में से कोई भी सफल नहीं हुई।

हमने अन्य सैंडबॉक्स प्लेटफ़ॉर्म में मिली संबंधित कमज़ोरियों की जानकारी उनके विक्रेताओं को भी दी, जिससे यह काम हमारे अपने इन्फ्रास्ट्रक्चर से आगे तक पहुँचा।

जैसे-जैसे AI ज़्यादा काम संभाल रहा है, SPACE उन सिस्टम को मज़बूत करने के व्यापक प्रयास का हिस्सा है जिन पर लोग निर्भर करते हैं। Secure Intelligence Institute के ज़रिए, हम सुरक्षा शोध करते हैं और व्यापक समुदाय के साथ सहयोग करते हैं, और निष्कर्षों को व्यावहारिक सुरक्षा उपायों में बदलते हैं।

हमारा मानना है कि सुरक्षा टूल को ओपन-सोर्स करने से डेवलपर्स को सुरक्षा उपायों का परीक्षण करने, कमज़ोरियाँ खोजने और अधिक सुरक्षित AI सिस्टम बनाने के ज़्यादा तरीके मिलते हैं। हमने ऐसे टूल साझा किए हैं जो इस काम के अलग-अलग हिस्सों पर ध्यान देते हैं:

BrowseSafe, वेब पेजों में छिपे दुर्भावनापूर्ण निर्देशों का पता लगाने के लिए एक मॉडल और बेंचमार्क।
Numbat, जुलाई में ओपन-सोर्स किया गया एक सुरक्षा टूलकिट, जो कंप्यूटरों पर खतरनाक एजेंट व्यवहार का पता लगाने, उसकी जांच करने और उसे रोकने में मदद करता है
Bumblebee, मई में ओपन-सोर्स किया गया एक स्कैनर, जो डेवलपर मशीनों में जोखिम भरे सॉफ़्टवेयर पैकेज, एक्सटेंशन और AI टूल कॉन्फ़िगरेशन की जांच करता है

इन टूल को उपलब्ध कराने से अन्य टीमें हमारे काम की जांच कर सकती हैं, उसे अपनी ज़रूरतों के अनुसार ढाल सकती हैं और उसमें सुधारों का योगदान दे सकती हैं। SPACE के साथ, हम इस दृष्टिकोण को उन परिवेशों तक ले जा रहे हैं जहाँ एजेंट कोड निष्पादित करते हैं और फ़ाइलों के साथ काम करते हैं।

Akamai ने अपने क्लाउड प्लेटफ़ॉर्म पर SPACE का परीक्षण करके उसे लॉन्च कर दिया है और इसे अपने ग्राहकों तक पहुँचाने के लिए वह Perplexity के साथ मिलकर काम कर रहा है। Crusoe भी अपने Managed AI Services पोर्टफ़ोलियो में SPACE को शामिल करने के लिए Perplexity के साथ साझेदारी कर रहा है। CoreWeave ने उन डेवलपर्स के लिए सेटअप संबंधी मार्गदर्शन प्रकाशित किया है जो मूल्यांकन के लिए CKS पर SPACE डिप्लॉय करना चाहते हैं।

डेवलपर्स अपने एजेंट सिस्टम के लिए SPACE को डिप्लॉय करने के लिए इसके सेटअप निर्देशों और सुरक्षा मार्गदर्शन से शुरुआत कर सकते हैं। रिपॉज़िटरी और दस्तावेज़ीकरण में समर्थित कॉन्फ़िगरेशन और शामिल घटकों का विवरण दिया गया है।

अन्य बिल्डर्स के लिए नींव तैयार करना

स्वायत्त कार्य के लिए सुरक्षा बढ़ाना

अपने ख़ुद के ऑपरेटिंग सिस्टम के अंदर चलना

प्रोडक्शन परफ़ॉर्मेंस में सुधार

अधिक सुरक्षित एजेंटिक AI में योगदान

एजेंट सिस्टम के लिए डिप्लॉय करना