Kotak pasir aman untuk agen

Agen AI melakukan pekerjaan nyata atas nama kita: mengedit file, menjalankan kode, dan menyelesaikan tugas multi-langkah selama berjam-jam atau berhari-hari. Hal ini sering kali memerlukan akses ke informasi pribadi, yang membuat di mana agen berjalan menjadi lebih penting daripada seberapa pintar model tersebut.

Kotak pasir menjaga agen tetap aman, memungkinkan mereka mengakses alat dan file yang mereka butuhkan untuk menyelesaikan tugas-tugas ini, sambil menjaga informasi sensitif tetap terlindungi.

Saat membangun platform agen kami, Computer, kami menjelajahi opsi kotak pasir siap pakai. Setiap opsi mengharuskan kami mempertimbangkan pertukaran antara fungsionalitas, efisiensi, dan keamanan. Perplexity Computer membutuhkan ketiganya, jadi kami membangun jenis kotak pasir yang sepenuhnya baru.

Hari ini, kami memperkenalkan SPACE, platform kotak pasir yang dirancang untuk membuka potensi penuh Computer sekaligus memberikan tingkat keamanan tertinggi untuk sistem agen tingkat lanjut.

Menemukan kembali arsitektur kotak pasir

SPACE memutar kotak pasir fana yang hanya hidup selama diperlukan untuk menjalankan kode, berinteraksi dengan file, atau tugas lainnya. Saat tugas selesai, kotak pasir dan semua yang ada di dalamnya akan dihancurkan.

Untuk pekerjaan berdurasi panjang yang harus bertahan dari mulai ulang, SPACE membungkus setiap kotak pasir dalam sesi yang dapat dijeda, dilanjutkan, atau bercabang menjadi beberapa kotak pasir. Teknologi rekam jepret bergulir SPACE memungkinkan konteks untuk ikut serta dalam pekerjaan, meskipun tidak ada kotak pasir individual yang melakukannya.

Menghilangkan pertukaran sebelumnya

Sebagian besar platform kotak pasir hanya menyelesaikan dua dari tiga variabel: fungsionalitas, efisiensi, atau keamanan. Mengoptimalkan salah satunya cenderung mengorbankan yang lain. Beberapa solusi memiliki primitif isolasi yang kuat tetapi membiarkan kredensial terekspos di dalam lingkungan. Yang lain mengeksekusi pekerjaan berumur pendek dengan baik, tetapi kehilangan status dan gagal ketika sesi perlu berjalan selama berjam-jam.

SPACE menyelesaikan ketiga masalah tersebut dengan memisahkan masalah di seluruh layanan khusus. Network Gateway, Space Daemon, dan File Service masing-masing mengamankan bagian tumpukan yang berbeda. Layanan tersebut juga mengirimkan kredensial dari luar kotak pasir hanya pada saat kredensial tersebut dibutuhkan.

Dengan desain ini, agen yang disusupi tidak memiliki jalur ke kredensial yang dikelola platform secara default. Dan agen tersebut tidak memiliki akses di luar tugas yang diberikan, terlepas dari durasi sesi atau backend.

Membuat tiga lapisan keamanan

SPACE terdiri dari tiga lapisan utama, masing-masing dengan langkah-langkah keamanan yang kuat di dalamnya:

Control Plane: Lapisan pertama arsitektur SPACE, Control Plane bertanggung jawab untuk mengatur siklus hidup kotak pasir. Lapisan ini menerima setiap permintaan melalui satu API, melacak status kotak pasir, dan memutuskan secara real-time backend mana yang akan dirutukan. Lapisan ini menentukan kapan suatu tugas memerlukan kotak pasir baru. Lapisan ini juga memutuskan kapan suatu tugas selesai dan kotak pasir yang sesuai dapat dihancurkan. Karena Control Plane bersifat tanpa kewajiban (stateless) dan dihosting secara terpusat, panggilan API yang sama berfungsi pada infrastruktur apa pun yang ada, termasuk komputer lokal.

Node-level Services: Di SPACE, Node-level Services adalah tempat postur keamanan Perplexity menonjol. Dengan SPACE, kredensial tidak pernah masuk ke kotak pasir. Sebaliknya, kredensial tersebut diteruskan dari luar kotak pasir hanya pada saat yang tepat saat dibutuhkan. Ketika agen membutuhkan akses sementara untuk terhubung ke Google Account, SPACE dapat menangani alur masuk tanpa mengekspos kredensial di dalam kotak pasir. Lalu lintas jaringan keluar juga dikendalikan di tingkat node. Agen yang disusupi tidak dapat menjangkau apa pun di luar cakupan yang diizinkan.

In-sandbox: Lapisan dalam kotak pasir adalah garis pertahanan terakhir SPACE. Dengan SPACE, setiap tugas berjalan di dalam mikroVM Firecracker, lingkungan yang sepenuhnya terisolasi dengan sistem operasinya sendiri. Itu berarti tidak ada apa pun di dalamnya yang dapat memengaruhi host atau kotak pasir lain yang berjalan secara paralel. Space Daemon adalah satu-satunya proses yang berbicara dengan control plane Perplexity. Proses ini membawa sinyal operasional seperti perintah mulai, jeda, dan rekam jepret. Inilah yang membuat saluran komunikasi dapat diaudit dan dikendalikan.

Menawarkan rangkaian kontrol yang lengkap

SPACE unik di antara penyedia dalam menawarkan rangkaian kontrol yang lengkap. SPACE menggabungkan jeda dan lanjutkan, pemforkingan sesi, isolasi kredensial per sesi, penerusan protokol, dan orkestrasi multi-backend dalam satu platform.

SPACE mengambil rekam jepret bergulir dari status sesi penuh, menangkap memori langsung beserta file sesering setiap menit. SPACE dapat mundur satu minggu. Ini pada dasarnya adalah mesin waktu bawaan: Siapa pun dapat pergi di tengah tugas, kembali seminggu kemudian, dan agen melanjutkan tepat di tempat ia dijeda.

SPACE memperlakukan kotak pasir sebagai tidak tepercaya secara default dan dikelilingi oleh kontrol jaringan, kontrol kredensial, pemisahan penyewa, dan penyimpanan terenkripsi. Jika satu lapisan disusupi, lapisan lainnya akan melindungi informasi pribadi.

Dengan SPACE, pelanggan enterprise juga dapat menggunakan kunci enkripsi mereka sendiri. Jika pelanggan mencabut kunci mereka, kotak pasir baru tidak dapat melakukan booting dan data terenkripsi pelanggan yang ada tidak dapat lagi didekripsi.

Bagi mereka yang bekerja dengan data yang sangat sensitif, SPACE dirancang untuk bekerja secara on-prem dan sepenuhnya offline. Tingkat kontrol ini memastikan data tidak pernah harus meninggalkan lingkungan yang aman.

Memberdayakan Perplexity

Insinyur Perplexity membawa SPACE dari konsep ke produk dalam 10 minggu. Kami telah menggunakan SPACE secara internal selama dua bulan terakhir. Selama minggu lalu, SPACE telah mendukung jutaan pembuatan kotak pasir dan puluhan juta sambungan ulang kotak pasir. SPACE aktif di Computer untuk semua pengguna hari ini.

SPACE dibangun untuk berjalan di mana saja. Dalam pengujian awal pada CPU NVIDIA Vera, alur kerja bergaya Computer yang sebenarnya berjalan sekitar 1,5x lebih cepat daripada referensi produksi kami saat ini, dan memulai kotak pasir bersamaan hingga 1,9x lebih cepat. Sinyal awal ini menunjukkan bahwa Vera akan memberikan nilai luar biasa untuk kotak pasir agen dan memvalidasi agnostisisme backend di balik SPACE.

Berinvestasi dalam lingkungan yang aman

Kami percaya seharusnya tidak ada pertukaran antara fungsionalitas, efisiensi, dan keamanan. Agen harus bekerja di data yang sama dengan yang kita gunakan, dengan kepercayaan yang sama yang kita berikan kepada rekan tim mana pun.

SPACE hanyalah iterasi pertama dari lingkungan aman ini. Seiring AI terus berkembang, sistem keamanan dan infrastruktur kami juga akan berkembang.

Lihat Making SPACE: Secure and Efficient Runtimes for Long-Running Agents untuk detail selengkapnya.