স্যান্ডবক্স এপিআই: এআই এজেন্টদের জন্য বিচ্ছিন্ন কোড নির্বাহ

এজেন্টিক ওয়ার্কফ্লোর প্রায়শই নির্দেশমূলক বা নির্দিষ্ট নির্বাহ (deterministic execution) প্রয়োজন হয়। যখন কোনো এজেন্টের পরিসংখ্যানগত বিশ্লেষণ চালানোর, একটি চার্ট তৈরি করার, কোনো গণনা যাচাই করার বা কোনো ডেটাসেট রূপান্তর করার প্রয়োজন হয়, তখন সুনির্দিষ্ট আউটপুটের জন্য এর নির্দিষ্ট নির্বাহ প্রয়োজন। এজেন্টটি কী গণনা করতে হবে সে বিষয়ে যুক্তি দেয়। স্যান্ডবক্স এটি গণনা করে।

Perplexity-এর জন্য তৈরি, এখন একটি পরিষেবা হিসেবে উপলব্ধ

আমরা অভ্যন্তরীণভাবে এই প্যাটার্নটিকে সমর্থন করার জন্য স্যান্ডবক্স তৈরি করেছি। Perplexity Computer, আমাদের ফাইন্যান্স এজেন্ট এবং ডিপ রিসার্চ সবই স্যান্ডবক্সযুক্ত পরিবেশের ভেতরে কোড চালায়। Computer প্রতি মিনিটে হাজার হাজার সেশন চালায়। ফাইন্যান্স এজেন্ট লাইভ মার্কেট ডেটা গণনার জন্য স্যান্ডবক্স ব্যবহার করে। ডিপ রিসার্চ ওয়ার্কফ্লো চলাকালীন ফাইল তৈরি, ডেটা প্রসেসিং এবং ফরম্যাট রূপান্তরের জন্য এটি ব্যবহার করে। স্যান্ডবক্স এপিআই একই নির্বাহ পরিবেশকে একটি স্বতন্ত্র পরিষেবা হিসেবে উপলব্ধ করে।

অস্থায়ী ফাইল সিস্টেম সহ স্টেটফুল সেশন

প্রতিটি সেশন তার নিজস্ব বিচ্ছিন্ন কুবারনেটস পডে চলে। ডেভেলপারকে কোনো অন্তর্নিহিত পরিকাঠামো পরিচালনা করতে হয় না: আমরা প্রভিশনিং, নেটওয়ার্কিং এবং ক্লিনআপ পরিচালনা করি। সমর্থিত ভাষাগুলি হল পাইথন, জাভাস্ক্রিপ্ট এবং এসকিউএল, যেখানে প্রতি সেশনে রানটাইম প্যাকেজ ইনস্টলেশন উপলব্ধ রয়েছে।

সেশনগুলি স্টেটফুল। FUSE-এর মাধ্যমে একটি স্থায়ী ফাইলসিস্টেম মাউন্ট করা হয়। FUSE ডেমন ফাইল অপারেশনগুলিকে বাধা দেয় এবং সেগুলিকে এজেন্টের জন্য অনুবাদ করে: পড়া, লেখা, ফাইল তালিকাভুক্ত করা এবং সেশন তৈরির পর থেকে পরিবর্তনগুলি ট্র্যাক করা। একটি ধাপে তৈরি ফাইলগুলি পরবর্তী ধাপে উপলব্ধ থাকে। দীর্ঘকাল ধরে চলা ওয়ার্কফ্লো বিরতি দিতে পারে, কয়েক ঘণ্টা পরে পুনরায় শুরু করতে পারে এবং সম্পূর্ণ স্টেট অক্ষুণ্ণ রেখে শুরু করতে পারে। প্রতিটি সেশন প্রতি সেশনে পাঁচটি পর্যন্ত ব্যাকগ্রাউন্ড প্রক্রিয়া সমর্থন করে।

ডিফল্টভাবে জিরো-ট্রাস্ট

নিরাপত্তা স্থাপত্য ডিফল্টভাবে অবিশ্বাস্য কোড অনুমান করে। স্যান্ডবক্সগুলোর কোনো সরাসরি নেটওয়ার্ক অ্যাক্সেস নেই। যখন বহিঃমুখী কানেক্টিভিটির প্রয়োজন হয়, তখন ট্রাফিক স্যান্ডবক্সের বাইরে চলমান একটি ইগ্রেস প্রক্সির মাধ্যমে রুট করে। প্রক্সি গন্তব্য ডোমেন দ্বারা বহিঃমুখী অনুরোধগুলির সাথে মিল করে এবং উপযুক্ত শংসাপত্র ইনজেক্ট করে। স্যান্ডবক্সের ভেতরে চলমান কোডের কখনই কাঁচা এপিআই কী বা সিক্রেটের অ্যাক্সেস থাকে না। অন্তর্নির্মিত টাইমআউট এবং রিসোর্স সীমা নির্বাহের সীমানা প্রয়োগ করে।

অরকেস্ট্রেশন লেয়ার হিসেবে এজেন্ট এপিআই

স্যান্ডবক্স এপিআই এজেন্ট এপিআই-এর মধ্যে একটি টুল হিসাবে উপলব্ধ হবে, যা ওয়ার্কফ্লো চলাকালীন নির্দিষ্ট কোড নির্বাহে অর্কেস্ট্রেশন রানটাইম অর্পণ করার অনুমতি দেবে। এজেন্ট কী গণনা করতে হবে তা নির্ধারণ করে, স্যান্ডবক্সে পাঠায়, আউটপুট পর্যবেক্ষণ করে এবং তার যুক্তি লুপ চালিয়ে যায়। একই এপিআই কী, ক্রেডিটের একই সেট।

স্যান্ডবক্স এপিআই শীঘ্রই আসছে। আমরা শীঘ্রই docs.perplexity.ai-এ ডকুমেন্টেশন সহ একটি ব্যক্তিগত বিটা খুলব