सँडबॉक्स API: AI एजंट्ससाठी आयसोलेटेड कोड अंमलबजावणी

एजंट वर्कफ्लोसाठी बऱ्याचदा निर्धारवादी अंमलबजावणीची आवश्यकता असते. जेव्हा एखाद्या एजंटला सांख्यिकी विश्लेषण चालवणे, चार्ट तयार करणे, गणनेची वैधता तपासणे किंवा डेटासेट रूपांतरित करणे आवश्यक असते, तेव्हा त्याला अचूक आउटपुटसह निर्धारवादी अंमलबजावणीची गरज असते. काय संगणकीय प्रक्रिया करायची हे एजंट ठरवतो. सँडबॉक्स ते संगणित करतो.

Perplexity साठी तयार केलेले, आता एक सेवा म्हणून उपलब्ध

आम्ही अंतर्गत या पॅटर्नला पाठिंबा देण्यासाठी सँडबॉक्स तयार केला. Perplexity Computer, आमचा फायनान्स एजंट आणि सखोल संशोधन हे सर्व सँडबॉक्स वातावरणात कोड कार्यान्वित करतात. Computer प्रति मिनिट हजारो सत्रे चालवते. फायनान्स एजंट थेट मार्केट डेटा गणनेसाठी सँडबॉक्स वापरतो. सखोल संशोधन हे वर्कफ्लो दरम्यान फाईल निर्मिती, डेटा प्रोसेसिंग आणि फॉरमॅट रूपांतरणासाठी सँडबॉक्स वापरतो. सँडबॉक्स API तीच अंमलबजावणी पर्यावरण एक स्वतंत्र सेवा म्हणून उपलब्ध करून देते.

पर्सिस्टंट फाईलसिस्टीमसह स्टेटफुल सत्रे

प्रत्येक सत्र त्याच्या स्वतःच्या आयसोलेटेड कुबर्नेटिस पॉडमध्ये चालते. डेव्हलपर मूलभूत इन्फ्रास्ट्रक्चरपैकी काहीही मॅनेज करत नाही: आम्ही प्रोव्हिजनिंग, नेटवर्किंग आणि क्लीनअप हाताळतो. समर्थित भाषा Python, JavaScript, आणि SQL आहेत, ज्यामध्ये प्रति सत्र रनटाइम पॅकेज इन्स्टॉलेशन्स उपलब्ध आहेत.

सत्रे स्टेटफुल असतात. FUSE द्वारे एक पर्सिस्टंट फाईलसिस्टीम माऊंट केली जाते. FUSE डिमन फाईल ऑपरेशन्स इंटरसेप्ट करते आणि एजंटसाठी त्यांचे भाषांतर करते: वाचणे, लिहिणे, फाईलची यादी करणे आणि सत्र तयार झाल्यापासूनचे बदल ट्रॅक करणे. एका चरणात तयार केलेल्या फाईल्स पुढील चरणांमध्ये उपलब्ध असतात. दीर्घकाळ चालणारे वर्कफ्लो पॉज होऊ शकतात, तासांनंतर पुन्हा सुरू होऊ शकतात आणि पूर्ण स्थिती अबाधित ठेवून पुढे जाऊ शकतात. प्रत्येक सत्र पाच पर्यंत बॅकग्राउंड प्रक्रियांचे समर्थन करते.

डीफॉल्टनुसार झिरो-ट्रस्ट

सुरक्षा आर्किटेक्चर डीफॉल्टनुसार अविश्वसनीय कोड गृहीत धरते. सँडबॉक्सना थेट नेटवर्क प्रवेश नसतो. जेव्हा आउटबाउंड कनेक्टिव्हिटी आवश्यक असते, तेव्हा ट्रॅफिक सँडबॉक्सच्या बाहेर चालणाऱ्या इग्रस प्रॉक्सीद्वारे रुट होते. प्रॉक्सी गंतव्य डोमेनद्वारे आउटबाउंड विनंत्या जुळवते आणि योग्य क्रेडेन्शियल्स इन्जेक्ट करते. सँडबॉक्सच्या आत अंमलबजावणी करणारा कोड कधीही रॉ API की किंवा सिक्रेट्समध्ये प्रवेश करू शकत नाही. अंगभूत टाईमआऊट्स आणि संसाधन मर्यादा अंमलबजावणी मर्यादा लागू करतात.

ऑर्केस्ट्रेशन स्तर म्हणून एजंट API

सँडबॉक्स API हे एजंट API मधील एक साधन म्हणून उपलब्ध होईल, ज्यामुळे वर्कफ्लो दरम्यान ऑर्केस्ट्रेशन रनटाइमला निर्धारवादी कोड अंमलबजावणीकडे प्रतिनिधीत्व करण्याची परवानगी मिळेल. एजंट काय संगणकीय प्रक्रिया करायची ते ठरवतो, सँडबॉक्सकडे पाठवतो, आउटपुट निरीक्षण करतो आणि त्याचे तर्कशास्त्र सुरू ठेवतो. तीच API की, क्रेडिट्सचा तोच संच.

सँडबॉक्स API लवकरच येत आहे. आम्ही लवकरच एक खाजगी बीटा सुरू करू, ज्याचे कागदपत्र docs.perplexity.ai वर उपलब्ध आहे.