Mở mã nguồn SPACE, nền tảng sandbox đằng sau Computer

Kể từ khi ra mắt Computer vào tháng 2, Perplexity đã là một trong những đơn vị tiên phong về tác nhân cá nhân. Chúng tôi cam kết giải quyết những bài toán khó trong quản trị tác nhân, phát hiện các hành vi không an toàn và ngăn chặn hoạt động tác nhân vượt tầm kiểm soát. Vào tháng 7, chúng tôi đã thay thế nhà cung cấp sandbox thương mại bằng một giải pháp nội bộ mạnh mẽ và bền bỉ hơn mà chúng tôi đặt tên là SPACE.

SPACE mang lại mức độ bảo mật cao cho các hệ thống tác nhân tiên tiến. Trên thực tế, một loạt thử nghiệm bảo mật dồn dập gần đây đã chứng minh SPACE có khả năng chống chịu trước các kỹ thuật vượt qua giới hạn mạng, như những kỹ thuật được sử dụng trong sự cố OpenAI/Hugging Face.

Hôm nay, chúng tôi công bố mã nguồn mở SPACE nhằm mang đến cho các nhà phát triển một nền tảng để xây dựng các hệ thống tác nhân an toàn hơn, đồng thời góp phần tăng cường các biện pháp bảo vệ trên toàn ngành. Các nhà phát triển có thể truy cập kho lưu trữ tại đây.

Quản trị tác nhân là một bài toán kỹ thuật, và mã nguồn mở là yếu tố thiết yếu để giải quyết bài toán đó. Khi có những hệ thống có thể kiểm tra, điều chỉnh và phát triển thêm, các nhà phát triển sẽ tìm ra nhiều điểm yếu hơn và xây dựng những công cụ tốt hơn. Việc mở mã nguồn SPACE mang đến cho nhà phát triển một nền tảng đã qua kiểm chứng thực tế dành cho môi trường thực thi tác nhân, tích hợp sẵn khả năng cô lập, khôi phục trạng thái cùng các biện pháp kiểm soát thông tin xác thực và mạng.

Xây dựng nền tảng cho những nhà phát triển khác

Sandbox giữ an toàn cho tác nhân, cho phép chúng truy cập các công cụ và tệp cần thiết để hoàn thành những tác vụ này, đồng thời bảo vệ thông tin nhạy cảm.

Việc mở mã nguồn SPACE mang đến cho nhà phát triển một điểm khởi đầu cho các môi trường nơi tác nhân của họ chạy mã và làm việc với tệp. Các nhóm có thể tìm hiểu cách nền tảng sandbox SPACE hoạt động và phát triển dựa trên phần triển khai của nó. Họ cũng có thể điều chỉnh SPACE theo nhu cầu của mình thay vì phải xây dựng lại cơ sở hạ tầng nền tảng.

Trong Computer, SPACE hỗ trợ thực thi mã cô lập, tạm dừng và tiếp tục, khôi phục cũng như phân nhánh phiên. Những khả năng này tạo nền tảng cho các trợ lý có thể:

• Phân tích dữ liệu: Làm sạch bảng tính, chạy các phép tính và tạo biểu đồ trong một không gian làm việc riêng biệt.
• Tiếp tục công việc: Tạm dừng để ai đó xem xét bản nháp hoặc bổ sung thông tin còn thiếu, sau đó tiếp tục với các tệp và trạng thái đang chạy được giữ nguyên.
• Khám phá các phương án thay thế: Thử nghiệm hai cách làm sạch tập dữ liệu trong các bản sao riêng biệt của không gian làm việc, hoặc khôi phục một tệp trước đó sau khi mắc lỗi.

Những ví dụ này minh họa cách nhà phát triển có thể sử dụng các biện pháp kiểm soát cô lập và phiên đã được mô tả trong tài liệu của SPACE. Các kỹ sư nền tảng và kỹ sư bảo mật cũng có thể xem xét mô hình cô lập và các ví dụ bảo mật trước khi tích hợp SPACE vào hệ thống của riêng họ.

Tăng cường bảo mật cho công việc tự chủ

Khi trao cho tác nhân nhiều không gian hơn để giải quyết vấn đề, chúng ta cần có những giới hạn rõ ràng về cách chúng thực hiện. Chúng tôi biết rằng ngay cả khi thực hiện các tác vụ hợp lệ, tác nhân vẫn có thể vượt qua ranh giới bảo mật khi tìm cách xoay xở với tình trạng thiếu tệp, yêu cầu thất bại hoặc bị từ chối quyền truy cập.

Chúng ta có thể áp dụng các biện pháp bảo vệ ở cấp mô hình để giảm khả năng xảy ra hành vi không an toàn. Việc bổ sung các biện pháp kiểm soát độc lập trong hệ thống xung quanh giúp hạn chế thiệt hại nếu những biện pháp bảo vệ đó thất bại. Các biện pháp này giới hạn những gì tác nhân có thể truy cập, bất kể tác nhân quyết định làm gì.

SPACE áp dụng các biện pháp kiểm soát đó cho một không gian làm việc riêng biệt dành cho mã và tệp do tác nhân tạo ra. Chúng tôi thiết kế SPACE để kết hợp khả năng cô lập, khôi phục và thực thi hiệu quả. Nhờ đó, tác nhân có thể thực hiện công việc hữu ích trong các phiên dài mà không phải chỉ dựa vào mô hình để tuân thủ các ranh giới bảo mật.

Chạy bên trong hệ điều hành riêng

Mỗi sandbox SPACE chạy bên trong một máy ảo nhỏ có hệ điều hành riêng, tạo ra ranh giới cô lập giữa công việc của tác nhân và hệ thống máy chủ. Một mặt phẳng điều khiển trung tâm điều phối thời điểm các không gian làm việc này được tạo, tạm dừng, tiếp tục hoặc xóa.

SPACE coi sandbox là không đáng tin cậy và quản lý quyền truy cập mạng cũng như thông tin xác thực do nền tảng nắm giữ ở bên ngoài sandbox. Tác nhân có thể kết nối với các dịch vụ được ủy quyền mà không cần lưu trữ những thông tin xác thực đó trong môi trường làm việc của mình.

Các bản chụp nhanh tệp thường xuyên và các điểm kiểm tra của toàn bộ môi trường đang chạy giúp lưu giữ tiến độ qua những lần gián đoạn. Để các thao tác này luôn hiệu quả, SPACE lưu trữ các thay đổi thay vì sao chép lặp lại toàn bộ môi trường. Điều này giúp giảm khối lượng công việc cần thiết để tạo, khôi phục hoặc phân nhánh một sandbox.

Cải thiện hiệu suất trong môi trường thực tế

Kể từ tháng 7, SPACE đã vận hành tất cả các phiên Computer và xử lý hàng triệu lượt tạo sandbox mỗi ngày. Trong một phép so sánh trên cùng lưu lượng truy cập thực tế, tốc độ tạo sandbox nhanh hơn từ ba đến năm lần so với nhà cung cấp trước đây của chúng tôi.

Chúng tôi cũng đã kiểm thử SPACE trước các tác nhân cố tình tìm cách xuyên thủng ranh giới của nó. Bản đánh giá bảo mật mà chúng tôi công bố cho thấy không có lần nào thoát được từ máy ảo ra máy chủ trong 108 lần thử, nhưng một số lần đã tìm ra cách vượt qua các giới hạn mạng. Chúng tôi đã khắc phục những điểm yếu đó, và cả hai phương thức tấn công đã xác định đều không thành công trong đợt kiểm thử tiếp theo.

Chúng tôi cũng đã thông báo cho các nhà cung cấp về những điểm yếu liên quan mà chúng tôi phát hiện trên các nền tảng sandbox của họ, mở rộng công việc này ra ngoài phạm vi cơ sở hạ tầng của riêng chúng tôi.

Góp phần xây dựng AI tác nhân an toàn hơn

SPACE là một phần trong nỗ lực rộng lớn hơn nhằm củng cố những hệ thống mà mọi người dựa vào khi AI đảm nhận ngày càng nhiều công việc. Thông qua Secure Intelligence Institute, chúng tôi thực hiện nghiên cứu bảo mật và hợp tác với cộng đồng rộng lớn hơn, biến các phát hiện thành những biện pháp phòng thủ thiết thực.

Chúng tôi tin rằng việc mở mã nguồn các công cụ bảo mật mang đến cho nhà phát triển nhiều cách hơn để kiểm tra khả năng phòng thủ, tìm ra điểm yếu và xây dựng các hệ thống AI an toàn hơn. Chúng tôi đã chia sẻ các công cụ giải quyết những khía cạnh khác nhau của công việc đó:

• BrowseSafe, một mô hình và bộ đánh giá chuẩn để phát hiện các chỉ dẫn độc hại ẩn trong trang web.
• Numbat, bộ công cụ bảo mật được mở mã nguồn vào tháng 7, giúp phát hiện, điều tra và ngăn chặn hành vi nguy hiểm của tác nhân trên máy tính
• Bumblebee, trình quét được mở mã nguồn vào tháng 5, giúp kiểm tra máy của nhà phát triển để tìm các gói phần mềm, tiện ích mở rộng và cấu hình công cụ AI tiềm ẩn rủi ro

Việc cung cấp các công cụ này cho phép các nhóm khác kiểm tra công việc của chúng tôi, điều chỉnh theo nhu cầu của họ và đóng góp cải tiến. Với SPACE, chúng tôi mở rộng cách tiếp cận đó sang các môi trường nơi tác nhân thực thi mã và làm việc với tệp.

Triển khai cho các hệ thống tác nhân

Akamai đã thử nghiệm và ra mắt SPACE trên nền tảng đám mây của mình, đồng thời đang hợp tác với Perplexity để đưa SPACE đến với khách hàng của hãng. Crusoe cũng đang hợp tác với Perplexity để bổ sung SPACE vào danh mục dịch vụ Managed AI Services của mình. CoreWeave đã công bố hướng dẫn thiết lập dành cho các nhà phát triển muốn triển khai SPACE trên CKS để đánh giá.

Các nhà phát triển có thể bắt đầu với hướng dẫn thiết lập và hướng dẫn bảo mật của SPACE để triển khai cho hệ thống tác nhân của riêng mình. Kho mã nguồn và tài liệu xác định các cấu hình được hỗ trợ và các thành phần đi kèm.