SPACE, platform kotak pasir di balik Computer, kini menjadi sumber terbuka

Sejak meluncurkan Computer pada bulan Februari, Perplexity telah menjadi salah satu pelopor awal agen pribadi. Kami berkomitmen menangani masalah-masalah sulit dalam tata kelola agen, yaitu mendeteksi perilaku yang tidak aman dan mencegah aktivitas agen yang menyimpang. Pada bulan Juli, kami mengganti penyedia kotak pasir komersial kami dengan solusi internal yang lebih tangguh dan andal yang kami beri nama SPACE.

SPACE memberikan keamanan tingkat tinggi untuk sistem agentik tingkat lanjut. Bahkan, rentetan pengujian keamanan baru-baru ini membuktikan bahwa SPACE tangguh terhadap teknik untuk melewati pembatasan jaringan seperti yang digunakan dalam insiden OpenAI/Hugging Face.

Hari ini, kami merilis SPACE sebagai sumber terbuka untuk memberi para pengembang fondasi dalam membangun sistem agen yang lebih aman sekaligus berkontribusi pada perlindungan yang lebih kuat di seluruh industri. Pengembang dapat mengakses repositori di sini.

Tata kelola agen adalah masalah rekayasa, dan sumber terbuka sangat penting untuk menyelesaikannya. Ketika developer memiliki sistem yang dapat mereka periksa, sesuaikan, dan kembangkan, mereka akan menemukan lebih banyak kelemahan dan mengembangkan alat yang lebih baik. Dengan menjadikan SPACE sumber terbuka, developer mendapatkan fondasi yang telah teruji di lingkungan produksi untuk runtime agen, lengkap dengan isolasi, pemulihan status, serta kontrol kredensial dan jaringan bawaan.

Menciptakan fondasi bagi pengembang lain

Kotak pasir menjaga agen tetap aman, memungkinkan mereka mengakses alat dan file yang dibutuhkan untuk menyelesaikan tugas-tugas ini, sekaligus menjaga informasi sensitif tetap terlindungi.

Dengan menjadikan SPACE sumber terbuka, developer mendapatkan titik awal untuk lingkungan tempat agen mereka menjalankan kode dan bekerja dengan file. Tim dapat melihat cara kerja platform kotak pasir SPACE dan mengembangkan implementasinya. Mereka juga dapat menyesuaikannya dengan kebutuhan mereka alih-alih membangun ulang infrastruktur dasarnya.

Di Computer, SPACE mendukung eksekusi kode terisolasi, fitur jeda dan lanjutkan, pemulihan, serta percabangan sesi. Kemampuan tersebut menjadi fondasi bagi asisten yang dapat:

• Menganalisis data: Membersihkan spreadsheet, menjalankan perhitungan, dan membuat diagram di ruang kerja terpisah.
• Melanjutkan pekerjaan: Menjeda agar seseorang dapat meninjau draf atau melengkapi informasi yang kurang, lalu melanjutkan pekerjaan dengan file dan status eksekusinya tetap terjaga.
• Menjelajahi alternatif: Menguji dua cara membersihkan set data di salinan ruang kerja yang terpisah, atau memulihkan file sebelumnya setelah terjadi kesalahan.

Contoh-contoh ini menggambarkan bagaimana developer dapat menggunakan kontrol isolasi dan sesi SPACE yang telah didokumentasikan. Engineer platform dan keamanan juga dapat meninjau model isolasi dan contoh keamanan sebelum mengintegrasikan SPACE ke dalam sistem mereka sendiri.

Meningkatkan keamanan untuk pekerjaan otonom

Ketika memberi agen lebih banyak keleluasaan untuk memecahkan masalah, kami memerlukan batasan yang jelas tentang cara mereka melakukannya. Kami tahu bahwa agen yang menjalankan tugas yang sah tetap dapat melanggar batasan keamanan ketika mencoba mengakali file yang hilang, permintaan yang gagal, atau penolakan izin.

Kami dapat menerapkan pengaman pada model untuk mengurangi kemungkinan terjadinya perilaku yang tidak aman. Menambahkan kontrol independen pada sistem di sekitarnya membantu membatasi kerusakan jika pengaman tersebut gagal. Kontrol ini membatasi apa yang dapat diakses agen, apa pun keputusan yang diambilnya.

SPACE menerapkan kontrol tersebut di sekitar ruang kerja terpisah untuk kode dan file yang dihasilkan agen. Kami merancangnya untuk menggabungkan isolasi, pemulihan, dan eksekusi yang efisien. Hal ini memungkinkan agen melakukan pekerjaan yang berguna dalam sesi panjang tanpa hanya mengandalkan model untuk mematuhi batasan keamanan.

Berjalan di dalam sistem operasinya sendiri

Setiap kotak pasir SPACE berjalan di dalam mesin virtual kecil dengan sistem operasinya sendiri, sehingga tercipta batas isolasi antara pekerjaan agen dan sistem host. Bidang kendali (control plane) pusat mengoordinasikan kapan ruang kerja ini dibuat, dijeda, dilanjutkan, atau dihapus.

SPACE memperlakukan kotak pasir sebagai lingkungan yang tidak tepercaya serta mengelola akses jaringan dan kredensial milik platform di luar kotak pasir. Agen dapat terhubung ke layanan yang diizinkan tanpa perlu menyimpan kredensial tersebut di lingkungan kerja mereka.

Snapshot file yang sering dibuat dan checkpoint dari seluruh lingkungan yang sedang berjalan menjaga kemajuan pekerjaan meski terjadi gangguan. Agar operasi ini tetap efisien, SPACE menyimpan perubahannya saja alih-alih berulang kali menyalin seluruh lingkungan. Hal ini mengurangi pekerjaan yang diperlukan untuk membuat, memulihkan, atau mencabangkan kotak pasir.

Meningkatkan performa produksi

Sejak Juli, SPACE telah menggerakkan semua sesi Computer dan menangani jutaan pembuatan kotak pasir per hari. Dalam sebuah perbandingan pada lalu lintas produksi yang sama, pembuatan kotak pasir tiga hingga lima kali lebih cepat dibandingkan dengan penyedia kami sebelumnya.

Kami juga menguji SPACE terhadap agen yang sengaja berupaya menembus batasannya. Evaluasi keamanan yang kami publikasikan tidak menemukan satu pun kasus agen berhasil keluar dari mesin virtual ke host dalam 108 percobaan, tetapi beberapa percobaan menemukan cara untuk mengakali pembatasan jaringan. Kami telah memperbaiki kelemahan tersebut, dan tidak satu pun dari metode serangan yang teridentifikasi berhasil dalam pengujian lanjutan.

Kami juga melaporkan kelemahan serupa yang kami temukan di platform kotak pasir lain kepada vendornya masing-masing, sehingga upaya tersebut menjangkau lebih dari sekadar infrastruktur kami sendiri.

Berkontribusi pada AI agentik yang lebih aman

SPACE merupakan bagian dari upaya yang lebih luas untuk memperkuat sistem yang diandalkan banyak orang seiring AI menangani lebih banyak pekerjaan. Melalui Secure Intelligence Institute, kami melakukan penelitian keamanan dan berkolaborasi dengan komunitas yang lebih luas, sekaligus menerjemahkan temuan menjadi pertahanan yang praktis.

Kami percaya bahwa menjadikan alat keamanan sebagai sumber terbuka memberi developer lebih banyak cara untuk menguji pertahanan, menemukan kelemahan, dan membangun sistem AI yang lebih aman. Kami telah membagikan alat-alat yang menangani berbagai bagian dari pekerjaan tersebut:

• BrowseSafe, model dan tolok ukur untuk mendeteksi instruksi berbahaya yang tersembunyi di halaman web.
• Numbat, perangkat keamanan yang dijadikan sumber terbuka pada bulan Juli, yang membantu mendeteksi, menyelidiki, dan mencegah perilaku agen yang berbahaya di komputer
• Bumblebee, pemindai yang dijadikan sumber terbuka pada bulan Mei, yang memeriksa mesin developer untuk mendeteksi paket perangkat lunak, ekstensi, dan konfigurasi alat AI yang berisiko

Dengan menyediakan alat-alat ini, tim lain dapat memeriksa pekerjaan kami, menyesuaikannya dengan kebutuhan mereka, dan menyumbangkan peningkatan. Melalui SPACE, kami memperluas pendekatan tersebut ke lingkungan tempat agen mengeksekusi kode dan bekerja dengan file.

Penerapan untuk sistem agen

Akamai telah menguji dan meluncurkan SPACE di platform cloud-nya, serta bekerja sama dengan Perplexity untuk menghadirkannya kepada para pelanggannya. Crusoe juga bermitra dengan Perplexity untuk menambahkan SPACE ke portofolio Managed AI Services miliknya. CoreWeave telah menerbitkan panduan penyiapan bagi pengembang yang ingin menerapkan SPACE untuk keperluan evaluasi di CKS.

Developer dapat memulai dengan petunjuk penyiapan dan panduan keamanan SPACE untuk menerapkannya pada sistem agen mereka sendiri. Repositori dan dokumentasi menjelaskan konfigurasi yang didukung dan komponen yang disertakan.