Entorns de proves segurs per a agents

Els agents d'IA realitzen tasques reals en nom nostre: editen fitxers, executen codi i duen a terme tasques de diversos passos durant hores o dies. Sovint això requereix accés a informació privada, la qual cosa fa que el lloc on s'executa un agent sigui més important que la intel·ligència del model.

Els entorns de proves mantenen els agents segurs, permetent-los accedir a les eines i fitxers que necessiten per completar aquestes tasques, alhora que mantenen protegida la informació sensible.

Quan vam crear la nostra plataforma d'agents Computer, vam explorar opcions d'entorns de proves preexistents. Totes les opcions ens obligaven a considerar compromisos entre funcionalitat, eficiència i seguretat. Perplexity Computer necessitava les tres, així que vam crear un tipus d'entorn de proves completament nou.

Avui presentem SPACE, una plataforma d'entorns de proves dissenyada per desplegar tot el potencial de Computer alhora que ofereix el nivell més alt de seguretat per a sistemes d'agents avançats.

Reinventar l'arquitectura dels entorns de proves

SPACE crea entorns de proves efímers que només existeixen durant el temps necessari per executar codi, interactuar amb fitxers o dur a terme altres tasques. Quan la tasca finalitza, l'entorn de proves i tot el que conté es destrueixen.

Per a treballs de llarg abast que hagin de sobreviure a reinicis, SPACE encapsula cada entorn de proves en una sessió que es pot pausar, reprendre o ramificar en múltiples entorns de proves. La tecnologia d'instantànies continus de SPACE permet que el context viatgi amb el treball, tot i que cap entorn de proves individual ho faci.

Eliminar els compromisos anteriors

La majoria de plataformes d'entorns de proves només resolen dues de les tres variables: funcionalitat, eficiència o seguretat. Optimitzar-ne una acostuma a ser a costa d'una altra. Algunes solucions tenen sòlides primitives d'aïllament, però deixen les credencials exposades dins de l'entorn. Altres executen bé treballs de curta durada, però perden l'estat i fallen quan una sessió necessita funcionar durant hores.

SPACE resol les tres separant les preocupacions en serveis dedicats. El Network Gateway, el Space Daemon i el File Service asseguren cadascun una part diferent de la pila. També lliuren credencials des de fora de l'entorn de proves només en el moment exacte en què es necessiten.

Amb aquest disseny, un agent compromès no té cap via per accedir a les credencials gestionades per la plataforma per defecte. I tampoc no té accés més enllà de la tasca que se li ha assignat, independentment de la durada de la sessió o del backend.

Creació de tres capes de seguretat

SPACE es compon de tres capes clau, cadascuna amb sòlides mesures de seguretat integrades:

Control Plane: La primera capa de l'arquitectura de SPACE, el Control Plane, s'encarrega d'orquestrar el cicle de vida de l'entorn de proves. Rep cada sol·licitud a través d'una única API, fa un seguiment de l'estat de l'entorn de proves i decideix en temps real a quin backend s'ha d'encaminar. Determina quan una tasca necessita un nou entorn de proves. També decideix quan una tasca s'ha completat i el seu entorn de proves corresponent es pot destruir. Com que el Control Plane és sense estat i s'allotja de manera centralitzada, la mateixa crida d'API funciona en qualsevol infraestructura existent, inclosa una màquina local.

Node-level Services: A SPACE, Node-level Services és on destaca la postura de seguretat de Perplexity. Amb SPACE, les credencials mai no passen a l'entorn de proves. En canvi, s'hi introdueixen des de fora de l'entorn de proves només en el moment precís en què es necessiten. Quan un agent necessita accés temporal per connectar-se a un compte de Google, SPACE pot gestionar el flux d'inici de sessió sense exposar les credencials dins de l'entorn de proves. El trànsit de xarxa de sortida també es controla a nivell de node. Un agent compromès no pot arribar a res fora del seu àmbit permès.

In-sandbox: La capa interna de l'entorn de proves és l'última línia de defensa de SPACE. Amb SPACE, cada tasca s'executa dins d'una microVM de Firecracker, un entorn completament aïllat amb el seu propi sistema operatiu. Això significa que res de l'interior pot afectar l'amfitrió ni cap altre entorn de proves que s'executi en paral·lel. El Space Daemon és l'únic procés que es comunica amb el pla de control de Perplexity. Transporta senyals operatius com ara ordres d'inici, pausa i instantània. Això és el que fa que el canal de comunicació sigui auditable i controlable.

Oferta d'un conjunt complet de controls

SPACE és única entre els proveïdors per oferir un conjunt complet de controls. SPACE combina la pausa i la represa, la ramificació de sessions, l'aïllament de credencials per sessió, el reenviaments de protocols i l'orquestració de múltiples backends en una sola plataforma.

SPACE pren instantànies contínues de l'estat complet de la sessió, capturant la memòria en viu juntament amb els fitxers amb una freqüència de fins a un minut. Pot retrocedir en el temps una setmana. És essencialment una màquina del temps integrada: qualsevol pot deixar una tasca a mitges, tornar una setmana després i l'agent reprèn exactament on ho havia pausat.

SPACE tracta l'entorn de proves com a no de confiança per defecte i l'envolta de controls de xarxa, controls de credencials, separació d'inquilins i emmagatzematge xifrat. Si una capa es veu compromesa, les altres protegiran la informació personal.

Amb SPACE, els clients empresarials també poden aportar les seves pròpies claus de xifratge. Si un client revoqui la seva clau, els nous entorns de proves no es poden iniciar i les dades xifrades pel client existents ja no es poden desxifrar.

Per a aquells que treballen amb dades especialment sensibles, SPACE està dissenyat per funcionar tant de manera local (on-prem) com completament fora de línia. Aquest nivell de control garanteix que les dades mai hagin de sortir d'un entorn segur.

Impuls de Perplexity

Els enginyers de Perplexity van portar SPACE del concepte al producte en 10 setmanes. Hem estat utilitzant SPACE internament durant els darrers dos mesos. Durant la darrera setmana, ha donat suport a milions de creacions d'entorns de proves i desenes de milions de reconexions d'entorns de proves. Avui està actiu a Computer per a tots els usuaris.

SPACE es va construir per funcionar a tot arreu. En una prova inicial amb la CPU NVIDIA Vera, els fluxos de treball reals a l'estil de Computer es van executar aproximadament 1,5 vegades més ràpid que la nostra referència de producció actual, i van iniciar entorns de proves concurrents fins a 1,9 vegades més ràpid. Aquest senyal inicial demostra que Vera oferirà un valor excepcional per als entorns de proves d'agents i valida l'agnosticisme del backend darrere de SPACE.

Inversió en entorns segurs

Creiem que no hi hauria d'haver cap compromís entre funcionalitat, eficiència i seguretat. Els agents haurien de treballar amb les mateixes dades que nosaltres, amb la mateixa confiança que dipositaríem en qualsevol company d'equip.

SPACE és només la primera iteració d'aquest entorn segur. A mesura que la IA continuï evolucionant, els nostres sistemes de seguretat i infraestructura també ho faran.

Consulteu Making SPACE: Secure and Efficient Runtimes for Long-Running Agents per a més detalls.