Aracılar için güvenli korumalı alanlar

Yapay zeka aracıları bizim adımıza gerçek işler yapar: dosya düzenleme, kod çalıştırma ve saatler veya günler süren çok adımlı görevleri gerçekleştirme. Bu durum genellikle özel bilgilere erişim gerektirir; bu nedenle bir aracının nerede çalıştığı, modelin ne kadar akıllı olduğundan daha önemlidir.

Korumalı alanlar, hassas bilgileri korurken aracıların bu görevleri tamamlamak için ihtiyaç duydukları araçlara ve dosyalara erişmesine izin vererek onları güvende tutar.

Aracı platformumuz Computer'ı oluştururken, kullanıma hazır korumalı alan seçeneklerini inceledik. Her seçenek, işlevsellik, verimlilik ve güvenlik arasında ödünleşimler dikkate almamızı gerektiriyordu. Perplexity Computer üçüne de ihtiyaç duyuyordu, bu nedenle tamamen yeni türde bir korumalı alan inşa ettik.

Bugün, gelişmiş aracı sistemleri için en yüksek düzeyde güvenlik sağlarken Computer'ın tüm gücünü açığa çıkarmak üzere tasarlanmış bir korumalı alan platformu olan SPACE'i tanıtıyoruz.

Korumalı alan mimarisini yeniden keşfetmek

SPACE, yalnızca kod çalıştırmak, dosyalarla etkileşim kurmak veya diğer görevler için gerektiği süre boyunca yaşayan geçici korumalı alanlar oluşturur. Görev bittiğinde, korumalı alan ve içindeki her şey yok edilir.

Yeniden başlatmalardan sonra hayatta kalması gereken uzun soluklu çalışmalar için SPACE, her korumalı alanı duraklatılabilen, sürdürülebilen veya birden fazla korumalı alana bölünebilen bir oturum içine alır. SPACE'in kayan anlık görüntü teknolojisi, hiçbir bireysel korumalı alan taşınmasa bile bağlamın iş ile birlikte seyahat etmesini sağlar.

Önceki ödünleşimleri ortadan kaldırmak

Çoğu korumalı alan platformu, üç değişkenden yalnızca ikisini çözer: işlevsellik, verimlilik veya güvenlik. Birine öncelik vermek genellikle diğeri pahasına gerçekleşir. Bazı çözümler güçlü yalıtım ilkelerine sahiptir ancak kimlik bilgilerini ortam içinde açıkta bırakır. Diğerleri kısa ömürlü işleri iyi yürütür, ancak bir oturumun saatlerce çalışması gerektiğinde durumu kaybeder ve başarısız olur.

SPACE, endişeleri adanmış hizmetler arasında ayırarak üçünü de çözer. Ağ Geçidi (Network Gateway), Space Daemon ve Dosya Hizmeti (File Service), yığınımızın farklı bir kısmını güvence altına alır. Ayrıca kimlik bilgilerini korumalı alanın dışından yalnızca ihtiyaç duydukları anda iletirler.

Bu tasarımla, ele geçirilmiş bir aracın varsayılan olarak platform tarafından yönetilen kimlik bilgilerine erişim yolu yoktur. Ayrıca oturumun süresine veya arka ucuna bakılmaksızın, kendisine verilen görevin ötesinde erişime sahip olamaz.

Üç güvenlik katmanı oluşturmak

SPACE, her biri yerleşik güçlü güvenlik önlemlerine sahip üç temel katmandan oluşur:

Kontrol Düzlemi (Control Plane): SPACE mimarisinin ilk katmanı olan Kontrol Düzlemi, korumalı alanın yaşam döngüsünü düzenlemekten sorumludur. Her isteği tek bir API üzerinden alır, korumalı alan durumunu izler ve gerçek zamanlı olarak hangi arka uca yönlendirileceğine karar verir. Bir görevin ne zaman yeni bir korumalı alana ihtiyaç duyduğunu belirler. Ayrıca bir görevin ne zaman tamamlandığını ve ilgili korumalı alanının ne zaman yok edilebileceğini kararlaştırır. Kontrol Düzlemi durumsuz (stateless) ve merkezi olarak barındırıldığı için, aynı API çağrısı yerel bir makine dahil olmak üzere mevcut herhangi bir altyapıda çalışır.

Düğüm Düzeyinde Hizmetler: SPACE'te, Düğüm Düzeyinde Hizmetler Perplexity'nin güvenlik duruşunun öne çıktığı yerdir. SPACE ile kimlik bilgileri asla korumalı alanın içine geçmez. Bunun yerine, korumalı alanın dışından yalnızca ihtiyaç duydukları kesin anda içeri aktarılırlar. Bir aracın bir Google Hesabına bağlanmak için geçici erişime ihtiyacı olduğunda, SPACE kimlik bilgilerini korumalı alan içinde açığa çıkarmadan oturum açma akışını yönetebilir. Giden ağ trafiği de düğüm düzeyinde kontrol edilir. Ele geçirilmiş bir aracı, izin verilen kapsamının dışındaki hiçbir şeye ulaşamaz.

Korumalı Alan İçi (In-sandbox): Korumalı alan içi katmanı, SPACE'in son savunma hattıdır. SPACE ile her görev, kendi işletim sistemine sahip tamamen yalıtılmış bir ortam olan Firecracker microVM içinde çalışır. Bu, içerideki hiçbir şeyin ana bilgisayarı veya paralel olarak çalışan diğer korumalı alanları etkileyemeyeceği anlamına gelir. Space Daemon, Perplexity'nin kontrol düzlemiyle konuşan tek süreçtir. Başlatma, duraklatma ve anlık görüntü komutları gibi operasyonel sinyalleri taşır. İletişim kanalını denetlenebilir ve kontrol edilebilir kılan budur.

Eksiksiz bir kontrol seti sunmak

SPACE, eksiksiz bir kontrol seti sunması bakımından sağlayıcılar arasında benzersizdir. SPACE; duraklatma ve sürdürme, oturum çatallama (session forking), oturum başına kimlik bilgisi yalıtımı, protokol yönlendirme ve çoklu arka uç düzenlemesini tek bir platformda birleştirir.

SPACE, her dakikada bir sıklıkla canlı belleği dosyalarla birlikte yakalayarak tüm oturum durumunun kayan anlık görüntülerini alır. Bir hafta geriye gidebilir. Bu aslında yerleşik bir zaman makinesidir: Herhangi biri görevin ortasında ayrılarak bir hafta sonra geri dönebilir ve aracı tam olarak duraklatıldığı yerden devam eder.

SPACE, korumalı alanı varsayılan olarak güvenilmez olarak değerlendirir ve onu ağ kontrolleri, kimlik bilgisi kontrolleri, kiracı ayrımı ve şifrelenmiş depolama ile çevreler. Bir katman ele geçirilirse, diğerleri kişisel bilgileri koruyacaktır.

SPACE ile kurumsal müşteriler kendi şifreleme anahtarlarını da getirebilirler. Bir müşteri anahtarını iptal ederse, yeni korumalı alanlar önyükleme yapamaz ve mevcut müşteri tarafından şifrelenmiş verilerin şifresi artık çözülemez.

Özellikle hassas verilerle çalışanlar için SPACE, hem şirket içinde (on-prem) hem de tamamen çevrimdışı çalışacak şekilde tasarlanmıştır. Bu kontrol seviyesi, verilerin asla güvenli bir ortamdan çıkmak zorunda kalmamasını sağlar.

Perplexity'ye güç vermek

Perplexity mühendisleri SPACE'i 10 hafta içinde konseptten ürüne taşıdı. Son iki aydır SPACE'i dahili olarak kullanıyoruz. Geçtiğimiz hafta boyunca, milyonlarca korumalı alan oluşturmayı ve onlarca milyon korumalı alan yeniden bağlanmasını destekledi. Bugün tüm kullanıcılar için Computer'da canlı olarak kullanılabilir.

SPACE her yerde çalışacak şekilde inşa edildi. NVIDIA Vera CPU üzerinde yapılan erken bir testte, gerçek Computer tarzı iş akışları mevcut üretim referansımıza göre yaklaşık 1.5 kat daha hızlı çalıştı ve eşzamanlı korumalı alanları 1.9 kata kadar daha hızlı başlattı. Bu erken sinyal, Vera'nın aracı korumalı alanları için olağanüstü değer sunacağını göstermekte ve SPACE'in arkasındaki arka uç bağımsızlığını doğrulamaktadır.

Güvenli ortamlara yatırım yapmak

İşlevsellik, verimlilik ve güvenlik arasında bir ödünleşim olmaması gerektiğine inanıyoruz. Aracılar, herhangi bir ekip arkadaşımıza duyacağımız aynı güvenle, bizimle aynı veriler üzerinde çalışmalıdır.

SPACE, bu güvenli ortamın yalnızca ilk yinelemesidir. Yapay zeka gelişmeye devam ettikçe, güvenlik ve altyapı sistemlerimiz de gelişecektir.

Daha fazla ayrıntı için SPACE Oluşturma: Uzun Süre Çalışan Aracılar için Güvenli ve Verimli Çalışma Zamanları başlıklı yazıyı inceleyin.