Liberamos o código de SPACE, a plataforma de contornos illados na que se basea Computer

Desde o lanzamento de Computer en febreiro, Perplexity foi pioneira nos axentes persoais. Comprometémonos a abordar os problemas difíciles da gobernanza dos axentes: detectar comportamentos inseguros e previr a actividade de axentes descontrolados. En xullo, substituímos o noso provedor comercial de contornos illados por unha solución propia máis robusta e resiliente á que chamamos SPACE.

SPACE proporciona un alto nivel de seguridade para sistemas agénticos avanzados. De feito, unha recente batería de probas de seguridade demostrou que SPACE resiste técnicas de evasión de rede como as empregadas no incidente de OpenAI/Hugging Face.

Hoxe liberamos SPACE como código aberto para ofrecer aos desenvolvedores unha base para construír sistemas de axentes máis seguros e contribuír a reforzar as proteccións en todo o sector. Os desenvolvedores poden acceder ao repositorio aquí.

A gobernanza dos axentes é un problema de enxeñaría, e o código aberto é esencial para resolvelo. Cando os desenvolvedores dispoñen de sistemas que poden examinar, adaptar e ampliar, atopan máis debilidades e desenvolven mellores ferramentas. Publicar SPACE como código aberto ofrece aos desenvolvedores unha base probada en produción para os contornos de execución de axentes, con illamento, recuperación do estado e controis de credenciais e de rede integrados.

Unha base para outros desenvolvedores

Os contornos illados manteñen seguros os axentes: permítenlles acceder ás ferramentas e aos ficheiros que precisan para completar estas tarefas e, á vez, manteñen protexida a información confidencial.

Publicar SPACE como código aberto ofrece aos desenvolvedores un punto de partida para os contornos onde os seus axentes executan código e traballan con ficheiros. Os equipos poden ver como funciona a plataforma de contornos illados SPACE e partir da súa implementación. Tamén poden adaptala ás súas necesidades en lugar de recrear a infraestrutura subxacente.

En Computer, SPACE admite a execución illada de código, a pausa e a retomada, a recuperación e a ramificación de sesións. Estas capacidades proporcionan a base para asistentes que poderían:

• Analizar datos: limpar unha folla de cálculo, realizar cálculos e crear gráficos nun espazo de traballo separado.
• Retomar o traballo: pausar para que alguén revise un borrador ou achegue a información que falta e, despois, retomar o traballo cos seus ficheiros e o estado de execución conservados.
• Explorar alternativas: probar dúas formas de limpar un conxunto de datos en copias separadas do seu espazo de traballo ou restaurar un ficheiro anterior tras un erro.

Estes exemplos ilustran como poderían usar os desenvolvedores os controis de illamento e de sesión documentados de SPACE. Os enxeñeiros de plataformas e de seguridade tamén poden revisar o modelo de illamento e os exemplos de seguridade antes de integrar SPACE nos seus propios sistemas.

Máis seguridade para o traballo autónomo

Cando lles damos aos axentes máis marxe para resolver problemas, necesitamos límites claros sobre como o fan. Sabemos que os axentes que perseguen tarefas lexítimas poden, aínda así, traspasar límites de seguridade cando tentan sortear ficheiros que faltan, solicitudes fallidas ou permisos denegados.

Podemos aplicar salvagardas no modelo para reducir a probabilidade de comportamentos inseguros. Engadir controis independentes no sistema que o rodea axuda a conter os danos se esas salvagardas fallan. Estes controis limitan aquilo ao que pode acceder un axente, independentemente do que decida facer.

SPACE aplica eses controis a un espazo de traballo separado para o código e os ficheiros xerados polos axentes. Deseñámolo para combinar illamento, recuperación e execución eficiente. Isto permite que os axentes realicen traballo útil durante sesións longas sen depender só de que o modelo respecte os límites de seguridade.

Execución dentro do seu propio sistema operativo

Cada contorno illado de SPACE execútase dentro dunha pequena máquina virtual co seu propio sistema operativo, o que crea un límite de illamento entre o traballo do axente e o sistema anfitrión. Un plano de control central coordina cando se crean, pausan, retoman ou eliminan estes espazos de traballo.

SPACE trata o contorno illado como non fiable e xestiona o acceso á rede e as credenciais que garda a plataforma fóra del. Os axentes poden conectarse a servizos autorizados sen que esas credenciais se almacenen no seu contorno de traballo.

As instantáneas frecuentes de ficheiros e os puntos de control de todo o contorno en execución conservan o progreso ante as interrupcións. Para que estas operacións sexan eficientes, SPACE almacena os cambios en lugar de copiar repetidamente contornos completos. Isto reduce o traballo necesario para crear, restaurar ou ramificar un contorno illado.

Mellor rendemento en produción

Desde xullo, SPACE impulsa todas as sesións de Computer e xestiona millóns de creacións de contornos illados ao día. Nunha comparación co mesmo tráfico de produción, a creación de contornos illados foi entre tres e cinco veces máis rápida que co noso provedor anterior.

Tamén sometemos SPACE a probas con axentes que intentaban deliberadamente traspasar os seus límites. A nosa avaliación de seguridade publicada non detectou ningunha fuga da máquina virtual ao sistema anfitrión en 108 intentos, aínda que algúns atoparon formas de eludir as restricións de rede. Corriximos esas debilidades, e ningún dos métodos de ataque identificados tivo éxito nas probas de seguimento.

Tamén comunicamos aos seus provedores as debilidades relacionadas que atopamos noutras plataformas de contornos illados, o que estende ese traballo máis alá da nosa propia infraestrutura.

Contribuír a unha IA agéntica máis segura

SPACE forma parte dun esforzo máis amplo para reforzar os sistemas nos que confían as persoas a medida que a IA asume máis traballo. A través do Secure Intelligence Institute, realizamos investigación en seguridade e colaboramos coa comunidade en xeral, e convertemos os resultados en defensas prácticas.

Cremos que publicar ferramentas de seguridade como código aberto ofrece aos desenvolvedores máis formas de probar as defensas, atopar debilidades e construír sistemas de IA máis seguros. Compartimos ferramentas que abordan distintas partes dese traballo:

• BrowseSafe, un modelo e unha proba de referencia para detectar instrucións maliciosas ocultas en páxinas web.
• Numbat, un conxunto de ferramentas de seguridade publicado como código aberto en xullo, que axuda a detectar, investigar e previr comportamentos perigosos dos axentes nos ordenadores
• Bumblebee, un escáner publicado como código aberto en maio, que comproba se nos equipos dos desenvolvedores hai paquetes de software, extensións e configuracións de ferramentas de IA de risco

Poñer estas ferramentas á disposición de todos permite que outros equipos examinen o noso traballo, o adapten ás súas necesidades e contribúan con melloras. Con SPACE, estendemos ese enfoque aos contornos onde os axentes executan código e traballan con ficheiros.

Implementación en sistemas de axentes

Akamai probou e lanzou SPACE na súa plataforma na nube e está a traballar con Perplexity para levalo aos seus clientes. Crusoe tamén colabora con Perplexity para incorporar SPACE á súa carteira de servizos de IA xestionados. CoreWeave publicou unha guía de configuración para os desenvolvedores que queiran despregar SPACE en CKS para avalialo.

Os desenvolvedores poden comezar polas instrucións de configuración e as recomendacións de seguridade de SPACE para implementalo nos seus propios sistemas de axentes. O repositorio e a documentación definen as configuracións compatibles e os compoñentes incluídos.