เปิดซอร์ส SPACE แพลตฟอร์มแซนด์บ็อกซ์เบื้องหลัง Computer

นับตั้งแต่เปิดตัว Computer ในเดือนกุมภาพันธ์ Perplexity ก็เป็นผู้บุกเบิกรายแรก ๆ ด้านเอเจนต์ส่วนตัว เรามุ่งมั่นแก้ปัญหายาก ๆ ด้านการกำกับดูแลเอเจนต์ ทั้งการตรวจจับพฤติกรรมที่ไม่ปลอดภัยและการป้องกันกิจกรรมของเอเจนต์ที่อยู่นอกการควบคุม ในเดือนกรกฎาคม เราได้เปลี่ยนจากผู้ให้บริการแซนด์บ็อกซ์เชิงพาณิชย์มาใช้โซลูชันที่พัฒนาขึ้นเองซึ่งแข็งแกร่งและยืดหยุ่นกว่า โดยเราตั้งชื่อว่า SPACE

SPACE มอบความปลอดภัยระดับสูงให้กับระบบเอเจนต์ขั้นสูง อันที่จริง การทดสอบความปลอดภัยอย่างเข้มข้นเมื่อไม่นานมานี้ได้พิสูจน์แล้วว่า SPACE ทนทานต่อเทคนิคการหลบเลี่ยงเครือข่ายแบบเดียวกับที่ใช้ในเหตุการณ์ของ OpenAI/Hugging Face

วันนี้เราเปิดซอร์ส SPACE เพื่อเป็นรากฐานให้นักพัฒนาใช้สร้างระบบเอเจนต์ที่ปลอดภัยยิ่งขึ้น และมีส่วนร่วมเสริมสร้างการป้องกันที่แข็งแกร่งขึ้นทั่วทั้งอุตสาหกรรม นักพัฒนาสามารถเข้าถึงรีโพสิทอรีได้ที่นี่

การกำกับดูแลเอเจนต์เป็นปัญหาทางวิศวกรรม และโอเพนซอร์สเป็นสิ่งจำเป็นต่อการแก้ปัญหานี้ เมื่อนักพัฒนามีระบบที่สามารถตรวจสอบ ปรับแต่ง และต่อยอดได้ พวกเขาจะพบจุดอ่อนมากขึ้นและพัฒนาเครื่องมือที่ดีกว่าเดิม การเปิดซอร์ส SPACE มอบรากฐานที่ผ่านการทดสอบในระบบใช้งานจริงสำหรับรันไทม์ของเอเจนต์ พร้อมการแยกส่วน การกู้คืนสถานะ และการควบคุมข้อมูลประจำตัวและเครือข่ายในตัว

สร้างรากฐานให้นักพัฒนารายอื่น ๆ

แซนด์บ็อกซ์ช่วยให้เอเจนต์ทำงานได้อย่างปลอดภัย โดยให้เอเจนต์เข้าถึงเครื่องมือและไฟล์ที่จำเป็นต่อการทำงานเหล่านี้ให้สำเร็จ พร้อมทั้งปกป้องข้อมูลที่ละเอียดอ่อนไว้

การเปิดซอร์ส SPACE มอบจุดเริ่มต้นให้นักพัฒนาสำหรับสภาพแวดล้อมที่เอเจนต์ของพวกเขาใช้รันโค้ดและทำงานกับไฟล์ ทีมต่าง ๆ สามารถดูว่าแพลตฟอร์มแซนด์บ็อกซ์ SPACE ทำงานอย่างไร และต่อยอดจากโค้ดที่พัฒนาไว้ได้ อีกทั้งยังปรับให้เข้ากับความต้องการของตนเองได้ แทนที่จะต้องสร้างโครงสร้างพื้นฐานเบื้องหลังขึ้นใหม่

ใน Computer นั้น SPACE รองรับการรันโค้ดแบบแยกส่วน การหยุดชั่วคราวและการทำงานต่อ การกู้คืน และการแตกแขนงเซสชัน ความสามารถเหล่านี้เป็นรากฐานสำหรับผู้ช่วยที่สามารถ:

• วิเคราะห์ข้อมูล: ทำความสะอาดสเปรดชีต คำนวณ และสร้างแผนภูมิในพื้นที่ทำงานแยกต่างหาก
• ทำงานต่อ: หยุดชั่วคราวเพื่อให้ผู้อื่นตรวจทานฉบับร่างหรือให้ข้อมูลที่ขาดหายไป จากนั้นทำงานต่อโดยที่ไฟล์และสถานะการทำงานยังคงอยู่ครบถ้วน
• สำรวจทางเลือก: ทดสอบวิธีทำความสะอาดชุดข้อมูลสองวิธีในสำเนาพื้นที่ทำงานที่แยกกัน หรือกู้คืนไฟล์เวอร์ชันก่อนหน้าหลังจากเกิดข้อผิดพลาด

ตัวอย่างเหล่านี้แสดงให้เห็นว่านักพัฒนาสามารถใช้การแยกส่วนและการควบคุมเซสชันตามที่ระบุไว้ในเอกสารของ SPACE ได้อย่างไร วิศวกรแพลตฟอร์มและวิศวกรด้านความปลอดภัยยังสามารถตรวจสอบโมเดลการแยกส่วนและตัวอย่างด้านความปลอดภัยก่อนผสานรวม SPACE เข้ากับระบบของตนเองได้

ยกระดับความปลอดภัยให้การทำงานแบบอิสระ

เมื่อเราเปิดโอกาสให้เอเจนต์แก้ปัญหาได้อย่างอิสระมากขึ้น เราก็จำเป็นต้องมีขอบเขตที่ชัดเจนว่าเอเจนต์จะทำได้อย่างไร เราทราบดีว่าแม้เอเจนต์จะทำงานที่ชอบธรรม ก็ยังอาจข้ามขอบเขตด้านความปลอดภัยได้เมื่อพยายามหาทางเลี่ยงไฟล์ที่หายไป คำขอที่ล้มเหลว หรือการถูกปฏิเสธสิทธิ์

เราสามารถวางมาตรการป้องกันในตัวโมเดลเพื่อลดโอกาสที่จะเกิดพฤติกรรมที่ไม่ปลอดภัย การเพิ่มการควบคุมที่เป็นอิสระในระบบโดยรอบจะช่วยจำกัดความเสียหายหากมาตรการป้องกันเหล่านั้นล้มเหลว การควบคุมเหล่านี้จำกัดสิ่งที่เอเจนต์เข้าถึงได้ ไม่ว่าเอเจนต์จะตัดสินใจทำอะไรก็ตาม

SPACE วางการควบคุมเหล่านั้นไว้รอบพื้นที่ทำงานแยกต่างหากสำหรับโค้ดและไฟล์ที่เอเจนต์สร้างขึ้น เราออกแบบให้ SPACE ผสานการแยกส่วน การกู้คืน และการรันที่มีประสิทธิภาพเข้าไว้ด้วยกัน ช่วยให้เอเจนต์ทำงานที่มีประโยชน์ได้ตลอดเซสชันที่ยาวนาน โดยไม่ต้องพึ่งพาโมเดลเพียงอย่างเดียวในการเคารพขอบเขตด้านความปลอดภัย

ทำงานภายในระบบปฏิบัติการของตัวเอง

แซนด์บ็อกซ์ SPACE แต่ละตัวทำงานภายในเครื่องเสมือนขนาดเล็กที่มีระบบปฏิบัติการเป็นของตัวเอง ซึ่งสร้างขอบเขตการแยกส่วนระหว่างงานของเอเจนต์กับระบบโฮสต์ ส่วนระนาบควบคุม (control plane) ส่วนกลางจะประสานงานว่าพื้นที่ทำงานเหล่านี้จะถูกสร้าง หยุดชั่วคราว ทำงานต่อ หรือลบออกเมื่อใด

SPACE ถือว่าแซนด์บ็อกซ์เป็นสิ่งที่ไม่น่าเชื่อถือ และจัดการการเข้าถึงเครือข่ายรวมถึงข้อมูลประจำตัวที่แพลตฟอร์มถือครองไว้ภายนอกแซนด์บ็อกซ์ เอเจนต์จึงเชื่อมต่อกับบริการที่ได้รับอนุญาตได้ โดยไม่ต้องจัดเก็บข้อมูลประจำตัวเหล่านั้นไว้ในสภาพแวดล้อมการทำงานของเอเจนต์

สแนปช็อตไฟล์ที่บันทึกบ่อยครั้งและเช็กพอยต์ของสภาพแวดล้อมที่กำลังทำงานทั้งหมดช่วยรักษาความคืบหน้าไว้แม้มีการหยุดชะงัก เพื่อให้การดำเนินการเหล่านี้มีประสิทธิภาพ SPACE จะจัดเก็บเฉพาะการเปลี่ยนแปลงแทนการคัดลอกสภาพแวดล้อมทั้งหมดซ้ำ ๆ ซึ่งช่วยลดภาระงานที่ต้องใช้ในการสร้าง กู้คืน หรือแตกแขนงแซนด์บ็อกซ์

ปรับปรุงประสิทธิภาพในการใช้งานจริง

ตั้งแต่เดือนกรกฎาคม SPACE ได้ขับเคลื่อนทุกเซสชันของ Computer และรองรับการสร้างแซนด์บ็อกซ์หลายล้านครั้งต่อวัน จากการเปรียบเทียบบนทราฟฟิกจริงชุดเดียวกัน การสร้างแซนด์บ็อกซ์เร็วกว่าผู้ให้บริการรายเดิมของเราสามถึงห้าเท่า

นอกจากนี้ เรายังทดสอบ SPACE กับเอเจนต์ที่จงใจพยายามเจาะทะลุขอบเขตของระบบ ผลการประเมินความปลอดภัยที่เราเผยแพร่ไม่พบการหลุดออกจากเครื่องเสมือนไปยังโฮสต์เลยตลอด 108 ครั้งที่พยายาม แต่บางส่วนพบวิธีหลบเลี่ยงข้อจำกัดด้านเครือข่าย เราได้แก้ไขจุดอ่อนเหล่านั้นแล้ว และวิธีโจมตีทั้งสองวิธีที่ตรวจพบไม่ประสบความสำเร็จอีกในการทดสอบติดตามผล

เรายังได้แจ้งจุดอ่อนที่เกี่ยวข้องซึ่งเราพบในแพลตฟอร์มแซนด์บ็อกซ์อื่น ๆ ให้ผู้ให้บริการเหล่านั้นทราบ เพื่อขยายผลของงานนี้ให้ครอบคลุมมากกว่าโครงสร้างพื้นฐานของเราเอง

ร่วมสร้าง AI แบบเอเจนต์ที่ปลอดภัยยิ่งขึ้น

SPACE เป็นส่วนหนึ่งของความพยายามในวงกว้างเพื่อเสริมความแข็งแกร่งให้กับระบบที่ผู้คนพึ่งพา ในขณะที่ AI เข้ามารับผิดชอบงานมากขึ้น เราทำการวิจัยด้านความปลอดภัยผ่าน Secure Intelligence Institute และร่วมมือกับชุมชนในวงกว้าง เพื่อแปลงผลการวิจัยให้เป็นระบบป้องกันที่ใช้งานได้จริง

เราเชื่อว่าการเปิดซอร์สเครื่องมือด้านความปลอดภัยจะช่วยให้นักพัฒนามีวิธีที่หลากหลายขึ้นในการทดสอบระบบป้องกัน ค้นหาจุดอ่อน และสร้างระบบ AI ที่ปลอดภัยยิ่งขึ้น เราได้แบ่งปันเครื่องมือที่ตอบโจทย์งานดังกล่าวในด้านต่าง ๆ ดังนี้:

• BrowseSafe โมเดลและเบนช์มาร์กสำหรับตรวจจับคำสั่งอันตรายที่ซ่อนอยู่ในหน้าเว็บ
• Numbat ชุดเครื่องมือด้านความปลอดภัยที่เปิดซอร์สเมื่อเดือนกรกฎาคม ซึ่งช่วยตรวจจับ ตรวจสอบ และป้องกันพฤติกรรมอันตรายของเอเจนต์บนคอมพิวเตอร์
• Bumblebee เครื่องมือสแกนที่เปิดซอร์สเมื่อเดือนพฤษภาคม ซึ่งตรวจสอบเครื่องของนักพัฒนาเพื่อหาแพ็กเกจซอฟต์แวร์ ส่วนขยาย และการกำหนดค่าเครื่องมือ AI ที่มีความเสี่ยง

การเปิดให้ใช้เครื่องมือเหล่านี้ช่วยให้ทีมอื่น ๆ ตรวจสอบงานของเรา ปรับให้เข้ากับความต้องการของตนเอง และร่วมพัฒนาปรับปรุงได้ ด้วย SPACE เรากำลังขยายแนวทางนี้ไปสู่สภาพแวดล้อมที่เอเจนต์ใช้รันโค้ดและทำงานกับไฟล์

การนำไปติดตั้งใช้งานกับระบบเอเจนต์

Akamai ได้ทดสอบและเปิดตัว SPACE บนแพลตฟอร์มคลาวด์ของตนแล้ว และกำลังร่วมงานกับ Perplexity เพื่อนำ SPACE ไปให้บริการแก่ลูกค้าของตน นอกจากนี้ Crusoe ยังร่วมมือกับ Perplexity เพื่อเพิ่ม SPACE เข้าไปในพอร์ตโฟลิโอ Managed AI Services ของบริษัท ส่วน CoreWeave ได้เผยแพร่คำแนะนำการตั้งค่าสำหรับนักพัฒนาที่ต้องการติดตั้งใช้งาน SPACE บน CKS เพื่อการประเมิน

นักพัฒนาสามารถเริ่มต้นจากคำแนะนำการตั้งค่าและแนวทางด้านความปลอดภัยของ SPACE เพื่อนำไปติดตั้งใช้งานกับระบบเอเจนต์ของตนเอง โดยรีพอสิทอรีและเอกสารประกอบระบุการกำหนดค่าที่รองรับและคอมโพเนนต์ที่รวมมาให้