Sandbox API: AI агенттеріне арналған оқшауланған кодты орындау

Агенттік жұмыс процестері көбінесе детерминирленген орындауды талап етеді. Агентке статистикалық талдауды орындау, диаграмма жасау, есептеуді тексеру немесе деректер жиынын түрлендіру қажет болғанда, оған нақты нәтижелері бар детерминирленген орындау қажет. Агент не есептеу керектігін ойластырады. Sandbox оны есептейді.

Perplexity үшін жасалған, енді қызмет ретінде қолжетімді

Біз бұл үлгіні ішкі қолдау үшін Sandbox жасадық. Perplexity Computer, біздің Финанстар агенті және Терең зерттеу барлығы кодты оқшауланған орталарда орындайды. Computer минутына мыңдаған сеанс іске қосады. Финанстар агенті нақты уақыттағы нарықтық деректерді есептеу үшін Sandbox пайдаланады. Терең зерттеу оны жұмыс процесі кезінде файлдарды жасау, деректерді өңдеу және форматты түрлендіру үшін пайдаланады. Sandbox API арқылы дәл сол орындау ортасы дербес қызмет ретінде қолжетімді болады.

Тұрақты файл жүйелері бар күйі сақталатын сеанстар

Әрбір сеанс өзінің оқшауланған Kubernetes подында жұмыс істейді. Әзірлеуші астындағы инфрақұрылымдардың ешқайсысын басқармайды: біз провизионингті, желіні және тазартуды өзіміз басқарамыз. Қолдау көрсетілетін тілдер — Python, JavaScript және SQL, әр сеанс үшін орындалатын орта пакетін орнату мүмкіндігі бар.

Сеанстардың күйі сақталады. Тұрақты файл жүйесі FUSE арқылы орнатылады. FUSE демоны файл операцияларын ұстап алып, оларды агент үшін түрлендіреді: оқу, жазу, файлдар тізімін жасау және сеанс жасалғаннан бері өзгерістерді қадағалау. Бір қадамда жасалған файлдар кейінгі қадамдарда қолжетімді болады. Ұзақ жұмыс істейтін жұмыс процестері тоқтап тұра алады, бірнеше сағаттан кейін жалғаса алады және бар күйімен қайта басталады. Әрбір сеанс бес фондық процесске дейін қолдау көрсетеді.

Әдепкі бойынша нөлдік сенім

Қауіпсіздік архитектурасы әдепкі бойынша сенімсіз кодты болжайды. Sandbox тікелей желілік қатынасы жоқ. Шығыс қосылым қажет болғанда, трафик sandbox сыртында жұмыс істейтін шығыс проксиі арқылы бағытталады. Прокси шығыс сұрауларды мақсатты домен бойынша сәйкестендіреді және тиісті тіркелгі деректерін енгізеді. Sandbox ішінде орындалатын код ешқашан шикі API кілттеріне немесе құпияларға қол жеткізе алмай шектеледі. Кірістірілген таймауттар мен ресурс шектеулері орындалу шекараларын қамтамасыз етеді.

Оркестровка деңгейі ретіндегі Agent API

Sandbox API Agent API ішіндегі құрал ретінде қолжетімді болады, бұл оркестровка ортасына жұмыс процесі кезінде детерминирленген кодты орындауға тапсырма беруге мүмкіндік береді. Агент не есептеу керектігін шешеді, Sandbox жүйесіне жібереді, нәтижесін бақылайды және пайымдау циклін жалғастырады. Сол API кілті, кредиттердің сол жиынтығы.

Sandbox API жақында шығады. Біз docs.perplexity.ai мекенжайында құжаттамасы бар жеке бета-нұсқаны жақын арада ашамыз