Sandbox API: تنفيذ الكود المعزول لوكلاء الذكاء الاصطناعي

غالبًا ما تتطلب سير العمل الوكيلية تنفيذًا حتميًا. عندما يحتاج الوكيل إلى تشغيل تحليل إحصائي، أو إنشاء مخطط، أو التحقق من صحة عملية حسابية، أو تحويل مجموعة بيانات، فإنه يحتاج إلى تنفيذ حتمي بمخرجات دقيقة. يفكر الوكيل فيما يجب حسابه. وتقوم Sandbox بحسابه.
مصمم خصيصًا لـ Perplexity، ومتاح الآن كخدمة
لقد أنشأنا Sandbox لدعم هذا النمط داخليًا. تنفذ Perplexity Computer، ووكلائنا الماليون، و بحث متعمق الكود داخل بيئات معزولة. يقوم Computer بتشغيل آلاف الجلسات في الدقيقة. يستخدم الوكيل المالي Sandbox لحسابات بيانات السوق الحية. يستخدم بحث متعمق لإنشاء الملفات، ومعالجة البيانات، وتحويل التنسيقات في منتصف سير العمل. تجعل Sandbox API بيئة التنفيذ نفسها متاحة كخدمة مستقلة.
جلسات ذات حالة مع أنظمة ملفات دائمة
تشغيل كل جلسة في حاوية Kubernetes المعزولة الخاصة بها. لا يدير المطور أيًا من البنية الأساسية الأساسية: نحن نتولى التوفير والشبكات والتنظيف. اللغات المدعومة هي Python وJavaScript وSQL، مع إمكانية تثبيت الحزم وقت التشغيل لكل جلسة.
الجلسات لها حالة. يتم تحميل نظام ملفات دائم عبر FUSE. يعترض برنامج FUSE الخفي عمليات الملفات ويترجمها للوكيل: قراءة، كتابة، سرد الملفات، وتتبع التعديلات منذ إنشاء الجلسة. الملفات التي تم إنشاؤها في خطوة واحدة متاحة في الخطوات اللاحقة. يمكن لسير العمل طويل الأجل التوقف مؤقتًا، والاستئناف بعد ساعات، والمتابعة بالحالة الكاملة سليمة. تدعم كل جلسة ما يصل إلى خمس العمليات في الخلفية.
انعدام الثقة افتراضيًا
تفترض بنية الأمان التعليمات البرمجية غير الموثوقة افتراضيًا. لا تمتلك Sandboxes أي وصول مباشر إلى الشبكة. عندما تكون الاتصالية الصادرة مطلوبة، يمر الأمان عبر وكيل خروج قيد التشغيل خارج Sandbox. يطابق الوكيل الطلبات الصادرة حسب النطاق الوجهة ويحقن بيانات الاعتماد المناسبة. لا يمتلك الكود الذي يتم تنفيذه داخل Sandbox حق الوصول أبدًا إلى مفاتيح API الخام أو الأسرار. تفرض المهلات المدمجة وحدود الموارد حدود التنفيذ.
واجهة برمجة تطبيقات الوكيل كطبقة التنسيق
ستتوفر Sandbox API كأداة داخل Agent API، مما يسمح لوقت تشغيل التنسيق بالتفويض إلى تنفيذ التعليمات البرمجية الحتمية في منتصف سير العمل. يقرر الوكيل ما يجب حسابه، ويرسل الطلب إلى Sandbox، ويلاحظ الإخراج، ويتابع حلقة التفكير الخاصة به. نفس مفتاح API، ونفس مجموعة الرصيد.
Sandbox API قريباً. سنفتح نسخة تجريبية خاصة قريبًا، مع توفر الوثائق على docs.perplexity.ai