Computer’ın arkasındaki korumalı alan platformu SPACE’i açık kaynak hâline getiriyoruz

Perplexity, şubat ayında Computer’ı kullanıma sunduğundan bu yana kişisel ajanlar alanında öncülerden biri oldu. Ajan yönetişiminin zorlu sorunlarına, yani güvenli olmayan davranışları tespit etmeye ve kontrolden çıkmış ajan etkinliğini önlemeye kendimizi adadık. Temmuz ayında, ticari olarak sunulan korumalı alan sağlayıcımızı, SPACE adını verdiğimiz daha sağlam ve dayanıklı bir şirket içi çözümle değiştirdik.

SPACE, gelişmiş ajan tabanlı sistemler için yüksek düzeyde güvenlik sağlar. Nitekim yakın zamanda gerçekleştirilen yoğun güvenlik testleri, SPACE’in OpenAI/Hugging Face olayında kullanılanlara benzer ağ atlatma tekniklerine karşı dayanıklı olduğunu kanıtladı.

Bugün, geliştiricilere daha güvenli ajan sistemleri oluşturmaları için bir temel sunmak ve sektör genelinde daha güçlü korumalara katkıda bulunmak amacıyla SPACE'i açık kaynak olarak kullanıma sunuyoruz. Geliştiriciler depoya buradan erişebilir.

Ajan yönetişimi bir mühendislik sorunudur ve açık kaynak, bu sorunun çözümü için vazgeçilmezdir. Geliştiriciler inceleyebilecekleri, uyarlayabilecekleri ve üzerine inşa edebilecekleri sistemlere sahip olduklarında daha fazla zayıflık bulur ve daha iyi araçlar geliştirir. SPACE’in açık kaynak hâline getirilmesi, geliştiricilere yalıtım, durum kurtarma ile kimlik bilgisi ve ağ kontrollerinin yerleşik olarak sunulduğu, üretimde test edilmiş bir ajan çalışma zamanı temeli sağlar.

Diğer geliştiriciler için bir temel oluşturmak

Korumalı alanlar ajanları güvende tutar; hassas bilgileri korurken bu görevleri tamamlamak için ihtiyaç duydukları araçlara ve dosyalara erişmelerini sağlar.

SPACE’in açık kaynak hâline getirilmesi, geliştiricilere ajanlarının kod çalıştırdığı ve dosyalar üzerinde işlem yaptığı ortamlar için bir başlangıç noktası sunar. Ekipler, SPACE korumalı alan platformunun nasıl çalıştığını görebilir ve bu uygulamayı temel alarak geliştirme yapabilir. Ayrıca temel altyapıyı sıfırdan yeniden oluşturmak yerine platformu kendi ihtiyaçlarına göre uyarlayabilirler.

SPACE, Computer’da yalıtılmış kod yürütmeyi, duraklatma ve sürdürmeyi, kurtarmayı ve oturum dallandırmayı destekler. Bu yetenekler, şunları yapabilecek asistanların temelini oluşturur:

• Verileri analiz etmek: Ayrı bir çalışma alanında bir elektronik tabloyu temizlemek, hesaplamalar yapmak ve grafikler oluşturmak.
• Çalışmayı sürdürmek: Birinin taslağı incelemesi veya eksik bilgileri sağlaması için duraklamak, ardından dosyalar ve çalışma durumu korunmuş hâlde kaldığı yerden devam etmek.
• Alternatifleri keşfetmek: Bir veri kümesini temizlemenin iki farklı yolunu çalışma alanının ayrı kopyalarında test etmek veya bir hatanın ardından önceki bir dosyayı geri yüklemek.

Bu örnekler, geliştiricilerin SPACE’in belgelenmiş yalıtım ve oturum kontrollerini nasıl kullanabileceğini göstermektedir. Platform ve güvenlik mühendisleri de SPACE’i kendi sistemlerine entegre etmeden önce yalıtım modelini ve güvenlik örneklerini inceleyebilir.

Otonom çalışma için güvenliği artırmak

Ajanlara sorunları çözmeleri için daha fazla alan tanıdığımızda, bunu nasıl yaptıkları konusunda net sınırlara ihtiyaç duyarız. Meşru görevleri yerine getiren ajanların bile eksik dosyalar, başarısız istekler veya reddedilen izinler gibi engelleri aşmaya çalışırken güvenlik sınırlarını ihlal edebileceğini biliyoruz.

Güvenli olmayan davranış olasılığını azaltmak için modele yönelik güvenlik önlemleri uygulayabiliriz. Çevredeki sisteme bağımsız kontroller eklemek, bu önlemler başarısız olursa oluşacak hasarı sınırlamaya yardımcı olur. Bu kontroller, ajan ne yapmaya karar verirse versin nelere erişebileceğini sınırlar.

SPACE, bu kontrolleri ajanın oluşturduğu kod ve dosyalara özel, ayrı bir çalışma alanının etrafına yerleştirir. SPACE’i yalıtımı, kurtarmayı ve verimli yürütmeyi bir araya getirecek şekilde tasarladık. Bu sayede ajanlar, güvenlik sınırlarına uyulması konusunda yalnızca modele güvenmeden uzun oturumlar boyunca faydalı işler yapabilir.

Kendi işletim sistemi içinde çalışmak

Her SPACE korumalı alanı, kendi işletim sistemine sahip küçük bir sanal makinenin içinde çalışarak ajanın yaptığı iş ile ana sistem arasında bir yalıtım sınırı oluşturur. Merkezi bir kontrol düzlemi, bu çalışma alanlarının ne zaman oluşturulacağını, duraklatılacağını, sürdürüleceğini veya kaldırılacağını koordine eder.

SPACE, korumalı alanı güvenilmeyen bir ortam olarak ele alır ve ağ erişimini ve platformda tutulan kimlik bilgilerini korumalı alanın dışında yönetir. Ajanlar, bu kimlik bilgileri çalışma ortamlarında depolanmadan yetkili hizmetlere bağlanabilir.

Sık alınan dosya anlık görüntüleri ve çalışan ortamın tamamına ait kontrol noktaları, kesintilere rağmen ilerlemeyi korur. SPACE, bu işlemleri verimli tutmak için ortamların tamamını tekrar tekrar kopyalamak yerine yalnızca değişiklikleri depolar. Bu da bir korumalı alanı oluşturmak, geri yüklemek veya dallandırmak için gereken işi azaltır.

Üretim performansını iyileştirmek

SPACE, temmuz ayından bu yana tüm Computer oturumlarına güç veriyor ve günde milyonlarca korumalı alan oluşturma işlemini gerçekleştiriyor. Aynı üretim trafiği üzerinde yapılan bir karşılaştırmada, korumalı alan oluşturma önceki sağlayıcımıza kıyasla üç ila beş kat daha hızlıydı.

Ayrıca sınırlarını kasıtlı olarak aşmaya çalışan ajanlara karşı SPACE’i test ettik. Yayımladığımız güvenlik değerlendirmesinde, 108 denemenin hiçbirinde sanal makineden ana makineye kaçış tespit edilmedi; ancak bazı denemeler ağ kısıtlamalarını aşmanın yollarını buldu. Bu zayıflıkları giderdik ve tespit edilen iki saldırı yönteminden hiçbiri sonraki testlerde başarılı olmadı.

Ayrıca diğer korumalı alan platformlarında bulduğumuz ilgili zayıflıkları bu platformların sağlayıcılarına bildirerek bu çalışmayı kendi altyapımızın ötesine taşıdık.

Daha güvenli ajan tabanlı yapay zekâya katkıda bulunmak

SPACE, yapay zekâ daha fazla iş üstlendikçe insanların güvendiği sistemleri güçlendirmeye yönelik daha kapsamlı bir çabanın parçasıdır. Secure Intelligence Institute aracılığıyla güvenlik araştırmaları yürütüyor, daha geniş toplulukla iş birliği yapıyor ve bulguları pratik savunmalara dönüştürüyoruz.

Güvenlik araçlarını açık kaynak hâline getirmenin, geliştiricilere savunmaları test etmek, zayıflıkları bulmak ve daha güvenli yapay zekâ sistemleri oluşturmak için daha fazla yol sunduğuna inanıyoruz. Bu çalışmanın farklı yönlerini ele alan araçlar paylaştık:

• BrowseSafe, web sayfalarına gizlenmiş kötü amaçlı talimatları tespit etmeye yönelik bir model ve kıyaslama ölçütü.
• Numbat, temmuz ayında açık kaynak hâline getirilen ve bilgisayarlardaki tehlikeli ajan davranışlarını tespit etmeye, incelemeye ve önlemeye yardımcı olan bir güvenlik araç seti
• Bumblebee, mayıs ayında açık kaynak hâline getirilen ve geliştirici makinelerini riskli yazılım paketleri, uzantılar ve yapay zekâ aracı yapılandırmaları açısından tarayan bir tarayıcı

Bu araçları kullanıma açmak, diğer ekiplerin çalışmalarımızı incelemesine, kendi ihtiyaçlarına göre uyarlamasına ve iyileştirmelere katkıda bulunmasına olanak tanır. SPACE ile bu yaklaşımı, ajanların kod yürüttüğü ve dosyalarla çalıştığı ortamlara da genişletiyoruz.

Ajan sistemleri için dağıtım

Akamai, SPACE'i bulut platformunda test edip kullanıma sundu ve müşterilerine sunmak için Perplexity ile birlikte çalışıyor. Crusoe da SPACE'i Yönetilen Yapay Zeka Hizmetleri portföyüne eklemek için Perplexity ile iş birliği yapıyor. CoreWeave ise SPACE'i değerlendirme amacıyla CKS üzerinde dağıtmak isteyen geliştiriciler için bir kurulum kılavuzu yayımladı.

Geliştiriciler, SPACE’i kendi ajan sistemlerinde dağıtmak için kurulum talimatlarından ve güvenlik kılavuzundan yararlanarak işe başlayabilir. Depo ve belgeler, desteklenen yapılandırmaları ve dahil edilen bileşenleri tanımlar.