Abrindo o código do SPACE, a plataforma de sandbox por trás do Computer

Desde o lançamento do Computer em fevereiro, a Perplexity tem sido pioneira em agentes pessoais. Estamos comprometidos com os problemas difíceis da governança de agentes: detectar comportamentos inseguros e impedir atividades de agentes descontrolados. Em julho, substituímos nosso provedor comercial de sandbox por uma solução interna mais robusta e resiliente, que chamamos de SPACE.

O SPACE oferece alta segurança para sistemas agênticos avançados. Na verdade, uma recente bateria de testes de segurança comprovou a resiliência do SPACE contra técnicas de contorno de rede como as usadas no incidente da OpenAI/Hugging Face.

Hoje, estamos disponibilizando o SPACE em código aberto para oferecer aos desenvolvedores uma base para criar sistemas de agentes mais seguros e contribuir para proteções mais robustas em todo o setor. Os desenvolvedores podem acessar o repositório aqui.

A governança de agentes é um problema de engenharia, e o código aberto é essencial para resolvê-lo. Quando os desenvolvedores têm sistemas que podem inspecionar, adaptar e usar como base, eles encontram mais vulnerabilidades e desenvolvem ferramentas melhores. Abrir o código do SPACE oferece aos desenvolvedores uma base testada em produção para runtimes de agentes, com isolamento, recuperação de estado e controles de credenciais e de rede integrados.

Uma base para outros desenvolvedores

Os sandboxes mantêm os agentes seguros, permitindo que acessem as ferramentas e os arquivos de que precisam para concluir essas tarefas e, ao mesmo tempo, protegendo as informações sensíveis.

Abrir o código do SPACE oferece aos desenvolvedores um ponto de partida para os ambientes em que seus agentes executam código e trabalham com arquivos. As equipes podem ver como a plataforma de sandbox SPACE funciona e desenvolver a partir de sua implementação. Também podem adaptá-la às suas necessidades em vez de recriar a infraestrutura subjacente.

No Computer, o SPACE oferece execução isolada de código, pausa e retomada, recuperação e ramificação de sessões. Esses recursos formam a base para assistentes que poderiam:

• Analisar dados: Limpar uma planilha, executar cálculos e criar gráficos em um espaço de trabalho separado.
• Retomar o trabalho: Pausar para que alguém revise um rascunho ou forneça informações que faltam e, depois, retomar com os arquivos e o estado de execução preservados.
• Explorar alternativas: Testar duas formas de limpar um conjunto de dados em cópias separadas do espaço de trabalho ou restaurar um arquivo anterior após um erro.

Esses exemplos ilustram como os desenvolvedores poderiam usar os controles de isolamento e de sessão documentados do SPACE. Engenheiros de plataforma e de segurança também podem revisar o modelo de isolamento e os exemplos de segurança antes de integrar o SPACE aos seus próprios sistemas.

Mais segurança para o trabalho autônomo

Quando damos aos agentes mais liberdade para resolver problemas, precisamos de limites claros sobre como eles fazem isso. Sabemos que agentes que executam tarefas legítimas ainda podem ultrapassar limites de segurança ao tentar contornar arquivos ausentes, solicitações com falha ou permissões negadas.

Podemos implementar salvaguardas no modelo para reduzir a probabilidade de comportamentos inseguros. Adicionar controles independentes no sistema ao redor ajuda a conter os danos caso essas salvaguardas falhem. Eles limitam o que um agente pode acessar, independentemente do que ele decida fazer.

O SPACE aplica esses controles a um espaço de trabalho separado para o código e os arquivos gerados por agentes. Nós o projetamos para combinar isolamento, recuperação e execução eficiente. Isso permite que os agentes realizem trabalho útil em sessões longas sem depender apenas do modelo para respeitar os limites de segurança.

Execução em um sistema operacional próprio

Cada sandbox do SPACE é executado dentro de uma pequena máquina virtual com seu próprio sistema operacional, criando uma barreira de isolamento entre o trabalho do agente e o sistema host. Um plano de controle central coordena quando esses espaços de trabalho são criados, pausados, retomados ou removidos.

O SPACE trata o sandbox como não confiável e gerencia o acesso à rede e as credenciais mantidas pela plataforma fora do sandbox. Os agentes podem se conectar a serviços autorizados sem que essas credenciais fiquem armazenadas em seu ambiente de trabalho.

Snapshots frequentes de arquivos e checkpoints de todo o ambiente em execução preservam o progresso em caso de interrupções. Para manter essas operações eficientes, o SPACE armazena as alterações em vez de copiar repetidamente ambientes inteiros. Isso reduz o trabalho necessário para criar, restaurar ou ramificar um sandbox.

Melhor desempenho em produção

Desde julho, o SPACE é a base de todas as sessões do Computer e processa milhões de criações de sandbox por dia. Em uma comparação com o mesmo tráfego de produção, a criação de sandboxes foi de três a cinco vezes mais rápida do que com nosso provedor anterior.

Também testamos o SPACE contra agentes que tentavam deliberadamente romper seus limites. Nossa avaliação de segurança publicada não encontrou nenhuma fuga da máquina virtual para o host em 108 tentativas, mas alguns agentes encontraram formas de contornar as restrições de rede. Corrigimos essas vulnerabilidades, e nenhum dos métodos de ataque identificados teve sucesso nos testes posteriores.

Também divulgamos aos respectivos fornecedores vulnerabilidades relacionadas que encontramos em outras plataformas de sandbox, estendendo esse trabalho para além da nossa própria infraestrutura.

Contribuindo para uma IA agêntica mais segura

O SPACE faz parte de um esforço mais amplo para fortalecer os sistemas dos quais as pessoas dependem à medida que a IA assume mais trabalho. Por meio do Secure Intelligence Institute, realizamos pesquisas de segurança e colaboramos com a comunidade em geral, transformando descobertas em defesas práticas.

Acreditamos que abrir o código de ferramentas de segurança dá aos desenvolvedores mais formas de testar defesas, encontrar vulnerabilidades e criar sistemas de IA mais seguros. Compartilhamos ferramentas que abordam diferentes partes desse trabalho:

• BrowseSafe, um modelo e um benchmark para detectar instruções maliciosas ocultas em páginas da web.
• Numbat, um kit de ferramentas de segurança cujo código foi aberto em julho, que ajuda a detectar, investigar e impedir comportamentos perigosos de agentes em computadores
• Bumblebee, um scanner cujo código foi aberto em maio, que verifica as máquinas de desenvolvedores em busca de pacotes de software, extensões e configurações de ferramentas de IA de risco

Disponibilizar essas ferramentas permite que outras equipes inspecionem nosso trabalho, o adaptem às suas necessidades e contribuam com melhorias. Com o SPACE, estamos estendendo essa abordagem aos ambientes em que os agentes executam código e trabalham com arquivos.

Implantação em sistemas de agentes

A Akamai testou e lançou o SPACE em sua plataforma de nuvem e está trabalhando com a Perplexity para disponibilizá-lo aos seus clientes. A Crusoe também está em parceria com a Perplexity para adicionar o SPACE ao seu portfólio de Managed AI Services. A CoreWeave publicou um guia de configuração para desenvolvedores que desejam implantar o SPACE para avaliação no CKS.

Os desenvolvedores podem começar pelas instruções de configuração e pelas orientações de segurança do SPACE para implantá-lo em seus próprios sistemas de agentes. O repositório e a documentação definem as configurações compatíveis e os componentes incluídos.