Sandbox API: การดำเนินการโค้ดแบบแยกส่วนสำหรับเอเจนต์ AI

เวิร์กโฟลว์ของเอเจนต์มักต้องการการทำงานแบบกำหนดผลลัพธ์ได้ (deterministic execution) เมื่อเอเจนต์จำเป็นต้องเรียกใช้การวิเคราะห์ทางสถิติ สร้างแผนภูมิ ตรวจความถูกต้องของการคำนวณ หรือแปลงชุดข้อมูล เอเจนต์ต้องการการทำงานแบบกำหนดผลลัพธ์ได้พร้อมผลลัพธ์ที่แม่นยำ เอเจนต์ทำหน้าที่ใช้เหตุผลเกี่ยวกับสิ่งที่ต้องประมวลผล ส่วนแซนด์บ็อกซ์ทำหน้าที่ประมวลผลสิ่งนั้น

สร้างขึ้นเพื่อ Perplexity และพร้อมให้บริการแล้วในรูปแบบบริการ

เราสร้างแซนด์บ็อกซ์ขึ้นเพื่อรองรับรูปแบบนี้ภายในองค์กร Perplexity Computer, Finance Agent และการวิจัยเชิงลึก (Deep Research) ของเราล้วนดำเนินการโค้ดภายในสภาพแวดล้อมแซนด์บ็อกซ์ Computer ดำเนินการนับพันเซสชันต่อนาที Finance Agent ใช้แซนด์บ็อกซ์สำหรับการคำนวณข้อมูลตลาดแบบสด และการวิจัยเชิงลึกใช้แซนด์บ็อกซ์สำหรับการสร้างไฟล์ การประมวลผลข้อมูล และการแปลงรูปแบบกลางเวิร์กโฟลว์ Sandbox API ทำให้มีสภาพแวดล้อมการทำงานแบบเดียวกันในฐานะบริการแบบสแตนด์อโลน

เซสชันที่มีสถานะพร้อมระบบไฟล์แบบถาวร

แต่ละเซสชันทำงานในพ็อด Kubernetes ที่แยกส่วนของตนเอง นักพัฒนาไม่ต้องจัดการโครงสร้างพื้นฐานเบื้องหลังเลย: เราเป็นผู้จัดการการจัดสรรทรัพยากร ระบบเครือข่าย และการล้างข้อมูลให้ ภาษาที่รองรับ ได้แก่ Python, JavaScript และ SQL พร้อมทั้งมีการติดตั้งแพ็กเกจขณะรันไทม์ได้ต่อหนึ่งเซสชัน

เซสชันมีสถานะ ระบบไฟล์แบบถาวรจะถูกเชื่อมต่อผ่าน FUSE แดมอน FUSE จะดักจับการดำเนินการไฟล์และแปลงไฟล์เหล่านั้นให้เอเจนต์: อ่าน เขียน แสดงรายการไฟล์ และติดตามการแก้ไขนับตั้งแต่การสร้างเซสชัน ไฟล์ที่สร้างในขั้นตอนหนึ่งจะสามารถใช้ได้ในขั้นตอนถัดไป เวิร์กโฟลว์ที่ทำงานเป็นเวลานานสามารถหยุดชั่วคราว กลับมาทำงานต่อในอีกหลายชั่วโมงถัดไป และดำเนินการต่อโดยที่สถานะยังอยู่ครบถ้วนสมบูรณ์ แต่ละเซสชันรองรับกระบวนการเบื้องหลังได้สูงสุดห้ากระบวนการ

มีความน่าเชื่อถือเป็นศูนย์ (Zero-trust) เป็นค่าเริ่มต้น

สถาปัตยกรรมความปลอดภัยถือว่าโค้ดที่ไม่รู้จักแหล่งที่มาเป็นความเสี่ยงตามค่าเริ่มต้น แซนด์บ็อกซ์ไม่มีการเข้าถึงเครือข่ายโดยตรง เมื่อจำเป็นต้องมีการเชื่อมต่อออกภายนอก ทราฟฟิกจะถูกส่งผ่านพร็อกซีขาออก (egress proxy) ที่ทำงานอยู่นอกแซนด์บ็อกซ์ พร็อกซีจะจับคู่คำขอขาออกตามโดเมนปลายทางและใส่ข้อมูลประจำตัวที่เหมาะสม โค้ดที่ทำงานภายในแซนด์บ็อกซ์จะไม่สามารถเข้าถึงคีย์ API ดิบหรือข้อมูลลับได้เลย การหมดเวลาในตัวและขีดจำกัดของทรัพยากรจะบังคับใช้ขอบเขตการทำงาน

Agent API ในฐานะเลเยอร์การจัดระเบียบการทำงาน

Sandbox API จะพร้อมใช้งานเป็นเครื่องมือภายใน Agent API ซึ่งช่วยให้รันไทม์การจัดระเบียบการทำงานสามารถมอบหมายงานไปยังการดำเนินการโค้ดแบบกำหนดผลลัพธ์ได้กลางเวิร์กโฟลว์ เอเจนต์เป็นผู้ตัดสินใจว่าจะประมวลผลสิ่งใด ส่งคำสั่งไปยังแซนด์บ็อกซ์ ตรวจดูผลลัพธ์ และดำเนินการวนซ้ำกระบวนการใช้เหตุผลต่อ ใช้คีย์ API เดียวกันและชุดเครดิตเดียวกัน

Sandbox API กำลังจะมาเร็วๆ นี้ เราจะเปิดตัวเบต้าส่วนตัวในเร็วๆ นี้ พร้อมเอกสารประกอบที่ docs.perplexity.ai