SPACE, la plateforme de bacs à sable de Computer, passe en open source

Depuis le lancement de Computer en février, Perplexity fait figure de pionnier dans le domaine des agents personnels. Nous nous attaquons aux problèmes complexes de la gouvernance des agents : détecter les comportements dangereux et empêcher les activités d’agents incontrôlés. En juillet, nous avons remplacé notre fournisseur commercial de bacs à sable par une solution interne plus robuste et plus résiliente, baptisée SPACE.

SPACE offre un niveau de sécurité élevé aux systèmes agentiques avancés. Une récente série intensive de tests de sécurité a d’ailleurs démontré la résilience de SPACE face à des techniques de contournement réseau comparables à celles utilisées lors de l’incident OpenAI/Hugging Face.

Aujourd’hui, nous publions SPACE en open source afin de fournir aux développeurs une base pour concevoir des systèmes d’agents plus sûrs et contribuer à renforcer les protections dans l’ensemble du secteur. Les développeurs peuvent accéder au dépôt ici.

La gouvernance des agents est un problème d’ingénierie, et l’open source est essentiel pour le résoudre. Lorsque les développeurs disposent de systèmes qu’ils peuvent examiner, adapter et enrichir, ils découvrent davantage de failles et conçoivent de meilleurs outils. En publiant SPACE en open source, nous offrons aux développeurs une base éprouvée en production pour les environnements d’exécution d’agents, avec isolation, récupération d’état et contrôles des identifiants et du réseau intégrés.

Offrir une base à d’autres développeurs

Les bacs à sable assurent la sécurité des agents : ils leur donnent accès aux outils et aux fichiers nécessaires pour accomplir ces tâches, tout en protégeant les informations sensibles.

En publiant SPACE en open source, nous offrons aux développeurs un point de départ pour les environnements dans lesquels leurs agents exécutent du code et manipulent des fichiers. Les équipes peuvent découvrir le fonctionnement de la plateforme de bacs à sable SPACE et s’appuyer sur son implémentation. Elles peuvent aussi l’adapter à leurs besoins plutôt que de recréer l’infrastructure sous-jacente.

Dans Computer, SPACE prend en charge l’exécution de code isolée, la mise en pause et la reprise, la récupération ainsi que la création de branches de session. Ces capacités constituent la base d’assistants qui pourraient :

• Analyser des données : Nettoyer une feuille de calcul, effectuer des calculs et créer des graphiques dans un espace de travail distinct.
• Reprendre le travail : Faire une pause le temps qu’une personne relise un brouillon ou fournisse des informations manquantes, puis reprendre avec les fichiers et l’état d’exécution préservés.
• Explorer des alternatives : Tester deux façons de nettoyer un jeu de données dans des copies distinctes de l’espace de travail, ou restaurer une version antérieure d’un fichier après une erreur.

Ces exemples illustrent la manière dont les développeurs pourraient utiliser les contrôles d’isolation et de session documentés de SPACE. Les ingénieurs plateforme et sécurité peuvent également examiner le modèle d’isolation et les exemples de sécurité avant d’intégrer SPACE à leurs propres systèmes.

Renforcer la sécurité du travail autonome

Lorsque nous donnons aux agents davantage de latitude pour résoudre des problèmes, nous devons fixer des limites claires à leur façon de procéder. Nous savons que des agents poursuivant des tâches légitimes peuvent tout de même franchir des limites de sécurité lorsqu’ils tentent de contourner des fichiers manquants, des requêtes en échec ou des refus d’autorisation.

Nous pouvons mettre en place des garde-fous au niveau du modèle pour réduire la probabilité de comportements dangereux. Ajouter des contrôles indépendants dans le système environnant permet de limiter les dégâts si ces garde-fous échouent. Ces contrôles restreignent ce à quoi un agent peut accéder, quoi qu’il décide de faire.

SPACE applique ces contrôles à un espace de travail distinct, dédié au code et aux fichiers générés par les agents. Nous l’avons conçu pour allier isolation, récupération et exécution efficace. Les agents peuvent ainsi accomplir un travail utile au cours de longues sessions sans que le respect des limites de sécurité repose sur le seul modèle.

S’exécuter dans son propre système d’exploitation

Chaque bac à sable SPACE s’exécute dans une petite machine virtuelle dotée de son propre système d’exploitation, ce qui crée une frontière d’isolation entre le travail de l’agent et le système hôte. Un plan de contrôle central coordonne la création, la mise en pause, la reprise et la suppression de ces espaces de travail.

SPACE considère le bac à sable comme non fiable et gère l’accès réseau ainsi que les identifiants détenus par la plateforme en dehors du bac à sable. Les agents peuvent se connecter aux services autorisés sans que ces identifiants soient stockés dans leur environnement de travail.

Des instantanés fréquents des fichiers et des points de contrôle de l’ensemble de l’environnement en cours d’exécution préservent la progression en cas d’interruption. Pour que ces opérations restent efficaces, SPACE enregistre les modifications plutôt que de copier à répétition des environnements entiers. Cela réduit le travail nécessaire pour créer un bac à sable, le restaurer ou en créer une branche.

Améliorer les performances en production

Depuis juillet, SPACE prend en charge toutes les sessions Computer et gère des millions de créations de bacs à sable par jour. Dans une comparaison portant sur le même trafic de production, la création de bacs à sable s’est révélée trois à cinq fois plus rapide qu’avec notre fournisseur précédent.

Nous avons également testé SPACE face à des agents cherchant délibérément à franchir ses limites. Notre évaluation de sécurité publiée n’a relevé aucune évasion de la machine virtuelle vers l’hôte en 108 tentatives, mais certains agents ont trouvé des moyens de contourner les restrictions réseau. Nous avons corrigé ces failles, et aucune des deux méthodes d’attaque identifiées n’a abouti lors des tests ultérieurs.

Nous avons également signalé aux éditeurs concernés des failles similaires découvertes dans d’autres plateformes de bacs à sable, étendant ainsi ce travail au-delà de notre propre infrastructure.

Contribuer à une IA agentique plus sûre

SPACE s’inscrit dans un effort plus large visant à renforcer les systèmes sur lesquels chacun s’appuie à mesure que l’IA prend en charge davantage de travail. Par l’intermédiaire du Secure Intelligence Institute, nous menons des recherches en sécurité et collaborons avec l’ensemble de la communauté afin de traduire nos découvertes en défenses concrètes.

Nous pensons que publier des outils de sécurité en open source offre aux développeurs davantage de moyens de tester leurs défenses, de repérer les failles et de concevoir des systèmes d’IA plus sûrs. Nous avons partagé des outils qui couvrent différents aspects de ce travail :

• BrowseSafe, un modèle et un benchmark permettant de détecter les instructions malveillantes dissimulées dans les pages web.
• Numbat, une boîte à outils de sécurité publiée en open source en juillet, qui aide à détecter, analyser et prévenir les comportements dangereux des agents sur les ordinateurs
• Bumblebee, un scanner publié en open source en mai, qui recherche sur les machines des développeurs les paquets logiciels, extensions et configurations d’outils d’IA à risque

Mettre ces outils à disposition permet à d’autres équipes d’examiner notre travail, de l’adapter à leurs besoins et d’y apporter des améliorations. Avec SPACE, nous étendons cette approche aux environnements dans lesquels les agents exécutent du code et manipulent des fichiers.

Déployer pour des systèmes d’agents

Akamai a testé et lancé SPACE sur sa plateforme cloud et collabore avec Perplexity pour le proposer à ses clients. Crusoe s’associe également à Perplexity pour intégrer SPACE à sa gamme Managed AI Services. CoreWeave a publié un guide de configuration destiné aux développeurs qui souhaitent déployer SPACE à des fins d’évaluation sur CKS.

Les développeurs peuvent commencer par suivre les instructions d’installation et les recommandations de sécurité de SPACE pour le déployer dans leurs propres systèmes d’agents. Le dépôt et la documentation précisent les configurations prises en charge et les composants inclus.