శాండ్‌బాక్స్ API: AI ఏజెంట్ల కోసం ఐసొలేటెడ్ కోడ్ ఎగ్జిక్యూషన్

ఏజెంటిక్ వర్క్‌ఫ్లోలకు తరచుగా నిశ్చయాత్మక ఎగ్జిక్యూషన్ అవసరం అవుతుంది. ఒక ఏజెంట్ స్టాటిస్టికల్ అనాలిసిస్ చేయాలన్నా, చార్ట్ రూపొందించాలన్నా, గణనను ధృవీకరించాలన్నా లేదా డేటాసెట్‌ను మార్చాలన్నా, ఖచ్చితమైన అవుట్‌పుట్‌లతో నిశ్చయాత్మక ఎగ్జిక్యూషన్ అవసరం. ఏజెంట్ ఏమి లెక్కించాలో ఆలోచిస్తుంది. శాండ్‌బాక్స్ దానిని లెక్కిస్తుంది.

Perplexity కోసం రూపొందించబడింది, ఇప్పుడు సర్వీస్‌గా అందుబాటులో ఉంది

ఈ ప్యాటర్న్‌కు అంతర్గతంగా మద్దతు ఇవ్వడానికి మేము శాండ్‌బాక్స్‌ను రూపొందించాము. మా ఫైనాన్స్ ఏజెంట్ అయిన Perplexity Computer మరియు లోతైన పరిశోధన అన్నీ శాండ్‌బాక్స్ చేసిన పరిసరాలలో కోడ్‌ను అమలు చేస్తాయి. Computer నిమిషానికి వేలకొద్దీ సెషన్‌లను రన్ చేస్తుంది. ఫైనాన్స్ ఏజెంట్ లైవ్ మార్కెట్ డేటా గణనల కోసం శాండ్‌బాక్స్‌ను ఉపయోగిస్తుంది. లోతైన పరిశోధన దీన్ని వర్క్‌ఫ్లో మధ్యలో ఫైల్ జనరేషన్, డేటా ప్రాసెసింగ్ మరియు ఫార్మాట్ కన్వర్షన్ కోసం ఉపయోగిస్తుంది. శాండ్‌బాక్స్ API అదే ఎగ్జిక్యూషన్ ఎన్విరాన్‌మెంట్‌ను స్టాండ్‌అలోన్ సర్వీస్‌గా అందుబాటులో ఉంచుతుంది.

పెర్సిస్టెంట్ ఫైల్‌సిస్టమ్‌లతో కూడిన స్టేట్‌ఫుల్ సెషన్‌లు

ప్రతి సెషన్ దాని స్వంత ఐసొలేటెడ్ Kubernetes పాడ్‌లో రన్ అవుతుంది. డెవలపర్ అంతర్లీన ఇన్‌ఫ్రాస్ట్రక్చర్‌లో దేనినీ నిర్వహించాల్సిన అవసరం లేదు: మేము ప్రొవిజనింగ్, నెట్‌వర్కింగ్ మరియు క్లీనప్‌లను నిర్వహిస్తాము. మద్దతు ఉన్న భాషలు Python, JavaScript మరియు SQL, ప్రతి సెషన్‌కు రన్‌టైమ్ ప్యాకేజీ ఇన్‌స్టాలేషన్ అందుబాటులో ఉంది.

సెషన్‌లు స్టేట్‌ఫుల్‌గా ఉంటాయి. FUSE ద్వారా పెర్సిస్టెంట్ ఫైల్‌సిస్టమ్ మౌంట్ చేయబడుతుంది. FUSE డెమోన్ ఫైల్ ఆపరేషన్‌లను ఇంటర్‌సెప్ట్ చేసి, వాటిని ఏజెంట్ కోసం అనువదిస్తుంది: చదవడం, వ్రాయడం, ఫైళ్లను జాబితా చేయడం మరియు సెషన్ సృష్టి నుండి మార్పులను ట్రాక్ చేయడం. ఒక దశలో సృష్టించబడిన ఫైళ్లు తదుపరి దశలలో అందుబాటులో ఉంటాయి. ఎక్కువ సమయం నడిచే వర్క్‌ఫ్లోలు పాజ్ చేయవచ్చు, గంటల తర్వాత తిరిగి ప్రారంభించవచ్చు మరియు పూర్తి స్థితి అలాగే ఉంటూ కొనసాగవచ్చు. ప్రతి సెషన్ గరిష్టంగా ఐదు బ్యాక్‌గ్రౌండ్ ప్రాసెస్‌లకు మద్దతు ఇస్తుంది.

డిఫాల్ట్‌గా జీరో-ట్రస్ట్

భద్రతా ఆర్కిటెక్చర్ డిఫాల్ట్‌గా విశ్వసనీయత లేని కోడ్‌ను ఊహిస్తుంది. శాండ్‌బాక్స్‌లకు ప్రత్యక్ష నెట్‌వర్క్ యాక్సెస్ లేదు. అవుట్‌బౌండ్ కనెక్టివిటీ అవసరమైనప్పుడు, ట్రాఫిక్ శాండ్‌బాక్స్ వెలుపల నడుస్తున్న ఎగ్రెట్ ప్రాక్సీ ద్వారా రూట్ అవుతుంది. ప్రాక్సీ గమ్యస్థాన డొమైన్ ద్వారా అవుట్‌బౌండ్ అభ్యర్థనలను సరిపోల్చుతుంది మరియు తగిన ఆధారాలను ఇంజెక్ట్ చేస్తుంది. శాండ్‌బాక్స్ లోపల ఎగ్జిక్యూట్ అయ్యే కోడ్‌కు ఎప్పటికీ రా ఏపీఐ కీలు లేదా సీక్రెట్‌లకు యాక్సెస్ ఉండదు. అంతర్నిర్మిత టైమ్‌అవుట్‌లు మరియు రిసోర్స్ పరిమితులు ఎగ్జిక్యూషన్ సరిహద్దులను అమలు చేస్తాయి.

ఆర్కెస్ట్రేషన్ లేయర్‌గా ఏజెంట్ API

శాండ్‌బాక్స్ API అనేది ఏజెంట్ API లోని ఒక సాధనంగా అందుబాటులో ఉంటుంది, ఇది ఆర్కెస్ట్రేషన్ రన్‌టైమ్‌ను వర్క్‌ఫ్లో మధ్యలో నిశ్చయాత్మక కోడ్ ఎగ్జిక్యూషన్‌కు ప్రతినిధిగా మార్చడానికి అనుమతిస్తుంది. ఏజెంట్ ఏమి లెక్కించాలో నిర్ణయించుకుంటుంది, శాండ్‌బాక్స్‌కు పంపుతుంది, అవుట్‌పుట్‌ను గమనిస్తుంది మరియు దాని రీజనింగ్ లూప్‌ను కొనసాగిస్తుంది. అదే API కీ, అదే క్రెడిట్స్.

శాండ్‌బాక్స్ API త్వరలో వస్తుంది. మేము త్వరలో ప్రైవేట్ బీటాను ప్రారంభిస్తాము, docs.perplexity.ai వద్ద డాక్యుమెంటేషన్ అందుబాటులో ఉంటుంది