Contornos illados seguros para axentes

Os axentes de intelixencia artificial realizan un traballo real no noso nome: editan ficheiros, executan código e levan a cabo tarefas de varios pasos durante horas ou días. Isto adoita requirir acceso a información privada, o que fai que onde se executa un axente importe máis que o intelixente que sexa o modelo.

Os contornos illados manteñen os axentes seguros, permitíndolles acceder ás ferramentas e aos ficheiros que necesitan para completar estas tarefas, á vez que manteñen a información sensible protexida.

Ao construír a nosa plataforma de axentes Computer, exploramos opcións de contornos illados xa dispoñibles. Cada opción esixía contemplar compromisos entre a funcionalidade, a eficiencia e a seguridade. Perplexity Computer necesitaba os tres, así que construímos un tipo totalmente novo de contorno illado.

Hoxe presentamos SPACE, unha plataforma de contornos illados deseñada para liberar todo o poder de Computer ao tempo que ofrece o máximo nivel de seguridade para sistemas de axentes avanzados.

Reinventando a arquitectura dos contornos illados

SPACE crea contornos illados efímeros que só viven o tempo necesario para executar código, interactuar con ficheiros ou realizar outras tarefas. Cando a tarefa remata, o contorno illado, e todo o que hai nel, destrúese.

Para traballos de longa duración que precisan sobrevivir a reinicios, SPACE envolve cada contorno illado nunha sesión que se pode pausar, retomar ou ramificar en varios contornos illados. A tecnoloxía de instantáneas continuas de SPACE permite que o contexto viaxe co traballo, aínda que ningún contorno illado individual o faga.

Eliminando compromisos anteriores

A maioría das plataformas de contornos illados só resolve dúas de tres variables: funcionalidade, eficiencia ou seguridade. Optimizar para unha adoita facerse a expensas doutra. Algunhas solucións teñen fortes primitivas de illamento, pero deixan as credenciais expostas dentro do contorno. Outras executan traballos de curta duración ben, pero perden o estado e fallan cando unha sesión necesita funcionar durante horas.

SPACE resolve as tres separando as preocupacións en servizos adicados. A porta de enlace de rede (Network Gateway), o daemon de Space (Space Daemon) e o servizo de ficheiros protexen cada un unha parte diferente da pila. Tamén proporcionan credenciais dende fóra do contorno illado só no momento en que son necesarias.

Con este deseño, un axente comprometido non ten ningunha vía de acceso ás credenciais xestionadas pola plataforma por defecto. E tampouco ten acceso máis alá da tarefa que se lle asignou, independentemente da duración da sesión ou do backend.

Creando tres capas de seguridade

SPACE está composto por tres capas clave, cada unha con fortes medidas de seguridade integradas:

Plano de control (Control Plane): A primeira capa da arquitectura de SPACE, o plano de control, é responsable de orquestrar o ciclo de vida do contorno illado. Recibe cada solicitude a través dunha única API, fai un seguimento do estado do contorno illado e decide en tempo real a que backend dirixir as chamadas. Determina cando unha tarefa necesita un novo contorno illado. Tamén decide cando unha tarefa está completa e o seu contorno illado correspondente pode ser destruído. Dado que o plano de control non ten estado e está aloxado centralmente, a mesma chamada á API funciona en calquera infraestrutura existente, incluíndo unha máquina local.

Servizos a nivel de nodo: En SPACE, os servizos a nivel de nodo son onde a postura de seguridade de Perplexity destaca. Con SPACE, as credenciais nunca pasan ao contorno illado. No seu lugar, envíanse dende fóra do contorno illado só no momento preciso en que se necesitan. Cando un axente necesita acceso temporal para conectarse a unha conta de Google, SPACE pode xestionar o fluxo de inicio de sesión sen expoñer as credenciais dentro do contorno illado. O tráfico de rede saíndo tamén se controla a nivel de nodo. Un axente comprometido non pode alcanzar nada fóra do seu ámbito permitido.

Dentro do contorno illado: A capa interna do contorno illado é a última liña de defensa de SPACE. Con SPACE, cada tarefa execútase dentro dunha microvM de Firecracker, un contorno totalmente illado co seu propio sistema operativo. Isto significa que nada do que hai dentro pode afectar ao host ou a calquera outro contorno illado que se execute en paralelo. O daemon de Space é o único proceso que fala co plano de control de Perplexity. Transporta sinais operativos como comandos de inicio, pausa e instantáneas. Isto é o que fai que a canle de comunicación sexa auditable e controlable.

Ofrecendo un conxunto completo de controis

SPACE é único entre os provedores por ofrecer un conxunto completo de controis. SPACE combina pausa e resume, ramificación de sesións, illamento de credenciais por sesión, reenvío de protocolos e orquestración multi-backend nunha única plataforma.

SPACE toma instantáneas continuas do estado completo da sesión, capturando a memoria en directo xunto cos ficheiros tan frecuentemente como cada minuto. Pode retroceder no tempo unha semana. É esencialmente unha máquina do tempo integrada: calquera pode marchar a metade dunha tarefa, volver unha semana despois e o axente retoma exactamente onde o pausou.

SPACE trata o contorno illado como non confiable por defecto e rodéao de controis de rede, controis de credenciais, separación de inquilinos e almacenamento cifrado. Se unha capa resulta comprometida, as outras protexerán a información persoal.

Con SPACE, os clientes empresariais tamén poden traer as súas propias chaves de cifrado. Se un cliente revoga a súa chave, os novos contornos illados non poden iniciarse e os datos cifrados existentes polo cliente xa non se poden descifrar.

Para aqueles que traballan con datos particularmente sensibles, SPACE está deseñado para funcionar tanto en-premise (local) como totalmente fóra de liña. Este nivel de control garante que os datos nunca teñan que saír dun contorno seguro.

Potenciando Perplexity

Os enxeñeiros de Perplexity levaron SPACE do concepto ao produto en 10 semanas. Levamos usando SPACE internamente durante os últimos dous meses. Durante a última semana, deu soporte a millóns de creacións de contornos illados e decenas de millóns de reconexións a contornos illados. Está dispoñible en Computer para todos os usuarios desde hoxe.

SPACE foi deseñado para executarse en calquera lugar. Nunha proba inicial nunha CPU NVIDIA Vera, os fluxos de traballo reais ao estilo de Computer funcionaron aproximadamente 1.5 veces máis rápido que a nosa referencia de produción actual, e iniciaron contornos illados concorrentes ata 1.9 veces máis rápido. Este sinal inicial demostra que Vera ofrecerá un valor excepcional para os contornos illados de axentes e valida a agnosticidade do backend detrás de SPACE.

Investindo en contornos seguros

Cremos que non debería haber un compromiso entre funcionalidade, eficiencia e seguridade. Os axentes deberían traballar cos mesmos datos que nós, coa mesma confianza que depositaríamos en calquera compañeiro de equipo.

SPACE é só a primeira iteración deste contorno seguro. A medida que a intelixencia artificial continúa evolucionando, os nosos sistemas de seguridade e infraestrutura tamén o farán.

Consulta Making SPACE: Secure and Efficient Runtimes for Long-Running Agents para obter máis detalles.