Sandbox API: Изолирано изпълнение на код за AI агенти

Агентните работни процеси често изискват детерминистично изпълнение. Когато даден агент трябва да изпълни статистически анализ, да генерира диаграма, да валидира изчисление или да трансформира набор от данни, той се нуждае от детерминистично изпълнение с точни резултати. Агентът обмисля какво да изчисли. Sandbox го изчислява.

Създадено за Perplexity, вече се предлага като услуга

Създадохме Sandbox, за да поддържаме този модел вътрешно. Perplexity Computer, нашият финансов агент и Задълбочено проучване изпълняват код вътре в изолирани среди. Computer стартира хиляди сесии в минута. Финансовият агент използва Sandbox за изчисления на пазарни данни в реално време. Задълбочено проучване го използва за генериране на файлове, обработка на данни и преобразуване на формати по време на самия работен процес. Sandbox API предоставя същата среда за изпълнение като самостоятелна услуга.

Сесии с поддържане на състоянието и постоянни файлови системи

Всяка сесия работи в собствен изолиран Kubernetes pod. Разработчикът не управлява никаква част от основната инфраструктура: ние се грижим за подготовката, мрежовата свързаност и почистването. Поддържаните езици са Python, JavaScript и SQL, като е възможно инсталиране на пакети за средата за изпълнение за всяка сесия.

Сесиите поддържат състояние. Постоянна файлова система се монтира чрез FUSE. Демонът на FUSE прихваща файловите операции и ги превежда за агента: четене, запис, извеждане на списък с файлове и проследяване на промените от създаването на сесията насам. Файловете, създадени в една стъпка, са достъпни в следващите стъпки. Дълго протичащите работни процеси могат да поставят на пауза, да възобновят работа часове по-късно и да продължат с напълно запазено състояние. Всяка сесия поддържа до пет фонови процеса.

Нулева доверителност по подразбиране

Архитектурата за сигурност приема недоверен код по подразбиране. Срещите Sandbox нямат директен мрежов достъп. Когато се изисква изходна свързаност, трафикът преминава през изходен прокси сървър, работещ извън sandbox. Проксито съвпада изходните заявки по целеви домейн и инжектира съответните идентификационни данни. Кодът, изпълняващ се вътре в sandbox, никога няма достъп до сурови API ключове или секрети. Вградените таймаути и ресурсни лимити налагат граници на изпълнение.

Agent API като оркестрационен слой

Sandbox API ще бъде достъпен като инструмент в рамките на Agent API, което позволява на оркестрационната среда за изпълнение да делегира задачи за детерминистично изпълнение на код по средата на работния процес. Агентът решава какво да изчисли, изпраща заявка към Sandbox, наблюдава резултата и продължава своя цикъл на мислене. Същият API ключ, същият набор от кредити.

Sandbox API очаквайте скоро. Скоро ще отворим частна бета версия с документация на docs.perplexity.ai