Korumalı alan API: Yapay zeka ajanları için izole edilmiş kod yürütme

Otonom iş akışları sıklıkla belirleyici yürütme gerektirir. Bir ajanın istatistiksel analiz çalıştırması, grafik oluşturması, bir hesaplamayı doğrulaması veya bir veri kümesini dönüştürmesi gerektiğinde, tam çıktılarla belirleyici yürütmeye ihtiyacı vardır. Ajan ne hesaplanacağı üzerine akıl yürüttü. Korumalı alan bunu hesaplar.

Perplexity için üretildi, artık bir hizmet olarak kullanılabilir

Bu modeli dahili olarak desteklemek için korumalı alan oluşturduk. Finans Ajanımız olan Perplexity Computer ve Derin araştırma, kodların tümü korumalı alan ortamlarında yürütülür. Computer, dakikada binlerce oturum çalıştırır. Finans Ajanı, canlı piyasa verisi hesaplamaları için korumalı alan kullanır. Derin araştırma, iş akışı sırasında dosya oluşturma, veri işleme ve biçim dönüştürme için bunu kullanır. Korumalı alan API'si, aynı yürütme ortamını bağımsız bir hizmet olarak sunar.

Kalıcı dosya sistemlerine sahip durumlu oturumlar

Her oturum kendi izole edilmiş Kubernetes pod'unda çalışır. Geliştirici alttaki altyapıların hiçbirini yönetmez: sağlama, ağ oluşturma ve temizleme işlemlerini biz yönetiriz. Desteklenen diller Python, JavaScript ve SQL olup oturum başına çalışma zamanı paketi yüklemesi mümkündür.

Oturumlar durumludur. FUSE aracılığıyla kalıcı bir dosya sistemi bağlanır. FUSE arka plan programı dosya işlemlerini engeller ve bunları ajan için çevirir: okuma, yazma, dosya listeleme ve oturum oluşturulduğundan bu yana yapılan değişiklikleri takip etme. Bir adımda oluşturulan dosyalar sonraki adımlarda kullanılabilir. Uzun süren iş akışları duraklatılabilir, saatler sonra devam ettirilebilir ve tam durum korunarak kaldığı yerden devam edilebilir. Her oturum en fazla beş arka plan sürecini destekler.

Varsayılan olarak sıfır güven

Güvenlik mimarisi, varsayılan olarak güvenilmeyen kodu varsayar. Korumalı alanların doğrudan ağ erişimi yoktur. Giden bağlantı gerekiyorsa trafik, korumalı alanın dışında çalışan bir çıkış proxy'si üzerinden yönlendirilir. Proxy, giden istekleri hedef etki alanına göre eşleştirir ve uygun kimlik bilgilerini enjekte eder. Korumalı alan içinde yürütülen kod hiçbir zaman ham API anahtarlarına veya gizli anahtarlara erişemez. Yerleşik zaman aşımı süreleri ve kaynak sınırları yürütme sınırlarını zorunlu kılar.

Orkestrasyon katmanı olarak Ajan API'si

Korumalı alan API'si, Ajan API içinde bir araç olarak sunulacak ve orkestrasyon çalışma zamanının iş akışı ortasında belirleyici kod yürütmeye yetki devretmesine olanak tanıyacaktır. Ajan ne hesaplanacağına karar verir, korumalı alan'a gönderir, çıktıyı gözlemler ve akıl yürütme döngüsüne devam eder. Aynı API anahtarı, aynı kredi kümesi.

Korumalı alan API'si yakında geliyor. Kısa süre içinde docs.perplexity.ai adresindeki belgelerle birlikte özel bir beta sürümü açacağız