Liivakasti API: Isoleeritud koodi täitmine AI-agentidele

Agentipõhised töövood nõuavad sageli deterministlikku täitmist. Kui agent peab käivitama statistilise analüüsi, looma diagrammi, valideerima arvutuse või teisendama andmestikku, vajab ta täpsete väljunditega deterministlikku täitmist. Agent arutleb selle üle, mida arvutada. Liivakast arvutab selle välja.

Loodud Perplexity jaoks, nüüd saadaval teenusena

Lõime liivakasti, et seda mustrit sisemiselt toetada. Perplexity Computer, meie finantsagent ja Põhjalik uuring käivitavad kõik koodi eraldatud liivakastikeskkondades. Computer käivitab tuhandeid seansse minutis. Finantsagent kasutab liivakasti reaalajas turuandmete arvutusteks. Põhjalik uuring kasutab seda failide genereerimiseks, andmetöötluseks ja vormingu teisendamiseks töövoo keskel. Liivakasti API teeb sama täitmiskeskkonna kättesaadavaks eraldiseisva teenusena.

Püsifailisüsteemidega olekuga seansid

Iga seanss töötab oma isoleeritud Kubernetes pod'is. Arendaja ei halda ühtegi aluseks olevat taristut: meie tegeleme eraldamise, võrgunduse ja puhastamisega. Toetatud keeled on Python, JavaScript ja SQL ning seansi kohta on saadaval käituskeskkonna pakettide installimine.

Seansid on olekuga. Püsiv failisüsteem ühendatakse FUSE kaudu. FUSE deemon püüab failitoimingud kinni ja tõlgib need agendi jaoks: loeb, kirjutab, loetleb faile ja jälgib muudatusi alates seansi loomisest. Ühes etapis loodud failid on saadaval järgmistes etappides. Pikalt kestvad töövood saavad peatuda, tunde hiljem jätkuda ja jätkata täieliku olekuga. Iga seanss toetab kuni viit taustaprotsessi.

Vaikimisi nullusaldus

Turbearkitektuur eeldab vaikimisi mitteusaldusväärset koodi. Liivakastidel puudub otsene võrgupäästik. Väljuva ühenduvuse vajadusel suunatakse liiklus läbi väljaspool liivakasti töötava väljundpuhverserveri (egress proxy). Puhverserver vastendab väljuvad päringud sihtkoha domeeni järgi ja lisab asjakohased mandaadid. Liivakastis täidetaval koodil ei ole kunagi juurdepääsu toor-API-võtmetele ega saladustele. Sisseehitatud aegumised ja ressursipiirangud tagavad täitmispiirangud.

Agentide API orkestreerimiskihina

Liivakasti API on saadaval tööriistana Agentide API-s, võimaldades orkestreerimiskeskkonnal delegeerida ülesandeid deterministlikule kooditäitmisele töövoo keskel. Agent otsustab, mida arvutada, edastab liivakastile, jälgib väljundit ja jätkab oma arutlusahelat. Sama API-võti, sama krediitide hulk.

Liivakasti API on peagi saadaval. Avame varsti privaatse beetatesti ja dokumentatsiooni lehel docs.perplexity.ai