開源 Computer 背後的沙箱平台 SPACE

自 2 月推出 Computer 以來，Perplexity 一直是個人 AI 代理程式領域的先驅。我們致力於解決 AI 代理程式治理的難題，包括偵測不安全的行為，以及防範失控的 AI 代理程式活動。7 月，我們以更穩健、更具韌性的自建解決方案 SPACE，取代了原本採用的商用沙箱供應商。

SPACE 為進階代理式系統提供高度安全性。事實上，近期一連串密集的安全性測試證明，SPACE 能夠抵禦類似 OpenAI/Hugging Face 事件中所使用的網路繞過技術。

今天，我們正式開源 SPACE，為開發人員奠定建構更安全 AI 代理程式系統的基礎，並為整個產業打造更強大的防護盡一份心力。開發人員可在此存取儲存庫。

AI 代理程式治理是一項工程問題，而開源是解決這個問題的關鍵。當開發人員擁有可以檢視、調整並以此為基礎進行開發的系統時，就能找出更多弱點並開發出更好的工具。開源 SPACE 為開發人員提供了經過正式環境驗證的 AI 代理程式執行階段基礎，並內建隔離、狀態復原，以及憑證與網路控制功能。

為其他開發者奠定基礎

沙箱能確保 AI 代理程式的安全，讓它們存取完成這些任務所需的工具和檔案，同時保護敏感資訊。

開源 SPACE 為開發人員提供了一個起點，協助他們建置 AI 代理程式執行程式碼和處理檔案的環境。團隊可以了解 SPACE 沙箱平台的運作方式，並以其實作為基礎進行開發，也能依自身需求加以調整，而不必重新打造底層基礎架構。

在 Computer 中，SPACE 支援隔離式程式碼執行、暫停與繼續、復原，以及工作階段分支。這些功能為打造具備下列能力的助理奠定了基礎：

• 分析資料：在獨立的工作空間中清理試算表、執行計算並建立圖表。
• 繼續工作：暫停以等待他人審閱草稿或補充缺少的資訊，之後再繼續工作，並保留其檔案和執行狀態。
• 探索替代方案：在工作空間的不同副本中測試兩種清理資料集的方法，或在出錯後還原先前的檔案。

這些範例說明開發人員可以如何運用 SPACE 文件中所述的隔離與工作階段控制功能。平台工程師和安全工程師也可以在將 SPACE 整合到自己的系統之前，先審閱其隔離模型和安全性範例。

提升自主工作的安全性

當我們給予 AI 代理程式更多解決問題的空間時，也需要針對其做法設下明確的限制。我們知道，即使 AI 代理程式執行的是正當任務，在嘗試因應檔案缺失、請求失敗或權限遭拒等狀況時，仍可能跨越安全邊界。

我們可以設置模型防護措施，以降低發生不安全行為的可能性。在周邊系統中加入獨立的控制措施，則有助於在這些防護措施失效時控制損害。無論 AI 代理程式決定做什麼，這些控制措施都會限制其可存取的範圍。

SPACE 將這些控制措施套用在一個獨立的工作空間，專門處理 AI 代理程式產生的程式碼和檔案。我們在設計上結合了隔離、復原與高效執行，讓 AI 代理程式能在長時間的工作階段中完成有用的工作，而不必僅仰賴模型本身來遵守安全邊界。

在獨立的作業系統中執行

每個 SPACE 沙箱都在擁有獨立作業系統的小型虛擬機器中執行，在 AI 代理程式的工作與主機系統之間建立隔離邊界。中央控制平面負責協調這些工作空間何時建立、暫停、繼續或移除。

SPACE 將沙箱視為不受信任的環境，並在沙箱外部管理網路存取和平台所持有的憑證。AI 代理程式可以連線至授權的服務，而無需將這些憑證儲存在其工作環境中。

頻繁的檔案快照以及整個執行環境的檢查點，能在中斷時保留進度。為了讓這些作業保持高效，SPACE 會儲存變更，而不是反覆複製整個環境。這減少了建立、還原或分支沙箱所需的工作量。

提升正式環境效能

自 7 月起，所有 Computer 工作階段皆由 SPACE 提供支援，每天處理數百萬次沙箱建立作業。在針對相同正式環境流量的比較中，沙箱建立速度比先前的供應商快三到五倍。

我們也針對 SPACE 進行了測試，讓 AI 代理程式刻意嘗試突破其邊界。我們公布的安全性評估顯示，在 108 次嘗試中，沒有任何一次能從虛擬機器逃逸至主機，但有部分嘗試找到了繞過網路限制的方法。我們已修正這些弱點，而在後續測試中，已識別的兩種攻擊手法均未再成功。

我們也將在其他沙箱平台中發現的相關弱點揭露給其供應商，讓這項工作延伸至我們自己的基礎架構之外。

為更安全的代理式 AI 盡一份心力

隨著 AI 承擔越來越多工作，SPACE 是我們強化人們所依賴系統的更廣泛行動之一。我們透過 Secure Intelligence Institute 進行安全研究，並與更廣大的社群合作，將研究結果轉化為實用的防禦措施。

我們相信，將安全工具開源能讓開發人員有更多方式測試防禦機制、找出弱點，並打造更安全的 AI 系統。我們已分享多項工具，分別處理這項工作的不同面向：

• BrowseSafe：用於偵測網頁中隱藏惡意指令的模型和基準測試。
• Numbat：於 7 月開源的安全工具組，可協助偵測、調查及防範 AI 代理程式在電腦上的危險行為
• Bumblebee：於 5 月開源的掃描工具，可檢查開發人員電腦上是否有具風險的軟體套件、擴充功能和 AI 工具設定

公開這些工具能讓其他團隊檢視我們的成果、依需求加以調整，並貢獻改進。透過 SPACE，我們將這種做法延伸至 AI 代理程式執行程式碼和處理檔案的環境。

為 AI 代理程式系統進行部署

Akamai 已在其雲端平台上測試並推出 SPACE，並正與 Perplexity 合作，將 SPACE 提供給旗下客戶。Crusoe 也與 Perplexity 攜手，將 SPACE 納入其託管 AI 服務（Managed AI Services）產品組合。CoreWeave 則已發布設定指南，協助希望在 CKS 上部署 SPACE 進行評估的開發人員。

開發人員可以從 SPACE 的設定說明和安全性指引著手，為自己的 AI 代理程式系統部署 SPACE。儲存庫和說明文件中定義了支援的設定和隨附元件。