SPACE, la plateforme de bacs à sable qui propulse Computer, passe au code source ouvert

Depuis le lancement de Computer en février, Perplexity fait figure de pionnier dans le domaine des agents personnels. Nous sommes déterminés à nous attaquer aux problèmes complexes que posent la gouvernance des agents, la détection des comportements dangereux et la prévention des activités d'agents incontrôlés. En juillet, nous avons remplacé notre fournisseur commercial de bacs à sable par une solution interne plus robuste et résiliente, que nous avons nommée SPACE.

SPACE offre un niveau de sécurité élevé pour les systèmes agentiques avancés. D'ailleurs, une récente batterie de tests de sécurité a démontré la résilience de SPACE face aux techniques de contournement réseau comme celles utilisées lors de l'incident OpenAI/Hugging Face.

Aujourd'hui, nous publions SPACE en code source ouvert afin d'offrir aux développeurs une base pour bâtir des systèmes d'agents plus sûrs et contribuer au renforcement des protections dans l'ensemble de l'industrie. Les développeurs peuvent accéder au dépôt ici.

La gouvernance des agents est un problème d'ingénierie, et le code source ouvert est essentiel pour le résoudre. Lorsque les développeurs disposent de systèmes qu'ils peuvent examiner, adapter et enrichir, ils découvrent davantage de faiblesses et conçoivent de meilleurs outils. La publication de SPACE en code source ouvert offre aux développeurs une base éprouvée en production pour les environnements d'exécution d'agents, avec isolation, récupération de l'état et contrôles des identifiants et du réseau intégrés.

Bâtir une base pour d'autres concepteurs

Les bacs à sable assurent la sécurité des agents : ils leur permettent d'accéder aux outils et aux fichiers dont ils ont besoin pour accomplir ces tâches, tout en protégeant les renseignements sensibles.

La publication de SPACE en code source ouvert offre aux développeurs un point de départ pour les environnements où leurs agents exécutent du code et manipulent des fichiers. Les équipes peuvent voir comment fonctionne la plateforme de bacs à sable SPACE et s'appuyer sur son implémentation. Elles peuvent aussi l'adapter à leurs besoins plutôt que de recréer l'infrastructure sous-jacente.

Dans Computer, SPACE prend en charge l'exécution isolée de code, la mise en pause et la reprise, la récupération ainsi que la création de branches de session. Ces capacités constituent la base d'assistants qui pourraient :

• Analyser des données : nettoyer une feuille de calcul, effectuer des calculs et créer des graphiques dans un espace de travail distinct.
• Reprendre le travail : faire une pause le temps que quelqu'un révise une ébauche ou fournisse des renseignements manquants, puis reprendre en conservant les fichiers et l'état d'exécution.
• Explorer des solutions de rechange : tester deux façons de nettoyer un jeu de données dans des copies distinctes de l'espace de travail, ou restaurer un fichier antérieur après une erreur.

Ces exemples illustrent comment les développeurs pourraient utiliser les contrôles d'isolation et de session documentés de SPACE. Les ingénieurs de plateforme et de sécurité peuvent aussi examiner le modèle d'isolation et les exemples de sécurité avant d'intégrer SPACE à leurs propres systèmes.

Renforcer la sécurité du travail autonome

Lorsque nous donnons aux agents plus de latitude pour résoudre des problèmes, nous devons fixer des limites claires quant à la façon dont ils s'y prennent. Nous savons que des agents qui poursuivent des tâches légitimes peuvent tout de même franchir des limites de sécurité lorsqu'ils tentent de contourner des fichiers manquants, des requêtes échouées ou des refus d'autorisation.

Nous pouvons mettre en place des mesures de protection au niveau du modèle pour réduire la probabilité de comportements dangereux. L'ajout de contrôles indépendants dans le système environnant aide à limiter les dégâts si ces mesures échouent. Ces contrôles restreignent ce à quoi un agent peut accéder, peu importe ce qu'il décide de faire.

SPACE applique ces contrôles autour d'un espace de travail distinct réservé au code et aux fichiers générés par les agents. Nous l'avons conçu pour allier isolation, récupération et exécution efficace. Les agents peuvent ainsi accomplir un travail utile au cours de longues sessions sans dépendre uniquement du modèle pour respecter les limites de sécurité.

S'exécuter dans son propre système d'exploitation

Chaque bac à sable SPACE s'exécute dans une petite machine virtuelle dotée de son propre système d'exploitation, ce qui crée une frontière d'isolation entre le travail de l'agent et le système hôte. Un plan de contrôle central coordonne le moment où ces espaces de travail sont créés, mis en pause, repris ou supprimés.

SPACE considère le bac à sable comme non fiable et gère l'accès réseau ainsi que les identifiants détenus par la plateforme à l'extérieur du bac à sable. Les agents peuvent se connecter aux services autorisés sans que ces identifiants soient stockés dans leur environnement de travail.

Des instantanés fréquents des fichiers et des points de contrôle de l'environnement d'exécution complet préservent la progression en cas d'interruption. Pour que ces opérations demeurent efficaces, SPACE stocke les modifications plutôt que de copier à répétition des environnements entiers. Cela réduit le travail nécessaire pour créer, restaurer ou ramifier un bac à sable.

Améliorer les performances en production

Depuis juillet, SPACE alimente toutes les sessions Computer et gère des millions de créations de bacs à sable par jour. Dans une comparaison effectuée sur le même trafic de production, la création de bacs à sable était de trois à cinq fois plus rapide qu'avec notre fournisseur précédent.

Nous avons également mis SPACE à l'épreuve face à des agents qui tentaient délibérément d'en franchir les limites. Notre évaluation de sécurité publiée n'a relevé aucune évasion de la machine virtuelle vers l'hôte en 108 tentatives, mais certains agents ont trouvé des moyens de contourner les restrictions réseau. Nous avons corrigé ces faiblesses, et aucune des deux méthodes d'attaque identifiées n'a réussi lors des tests de suivi.

Nous avons également signalé à leurs fournisseurs des faiblesses connexes découvertes dans d'autres plateformes de bacs à sable, étendant ainsi ce travail au-delà de notre propre infrastructure.

Contribuer à une IA agentique plus sûre

SPACE s'inscrit dans un effort plus large visant à renforcer les systèmes sur lesquels les gens comptent à mesure que l'IA prend en charge davantage de travail. Par l'intermédiaire du Secure Intelligence Institute, nous menons des recherches en sécurité et collaborons avec l'ensemble de la communauté afin de transformer nos découvertes en défenses concrètes.

Nous croyons que la publication d'outils de sécurité en code source ouvert donne aux développeurs plus de moyens de tester les défenses, de repérer les faiblesses et de concevoir des systèmes d'IA plus sûrs. Nous avons partagé des outils qui couvrent différents aspects de ce travail :

• BrowseSafe, un modèle et un banc d'essai pour détecter les instructions malveillantes cachées dans les pages Web.
• Numbat, une trousse d'outils de sécurité publiée en code source ouvert en juillet, qui aide à détecter, à analyser et à prévenir les comportements dangereux des agents sur les ordinateurs
• Bumblebee, un outil d'analyse publié en code source ouvert en mai, qui repère les paquets logiciels, les extensions et les configurations d'outils d'IA à risque sur les machines des développeurs

Rendre ces outils accessibles permet à d'autres équipes d'examiner notre travail, de l'adapter à leurs besoins et d'y apporter des améliorations. Avec SPACE, nous étendons cette approche aux environnements où les agents exécutent du code et manipulent des fichiers.

Déployer SPACE dans des systèmes d'agents

Akamai a testé et lancé SPACE sur sa plateforme infonuagique et collabore avec Perplexity pour l’offrir à ses clients. Crusoe s’associe également à Perplexity pour ajouter SPACE à sa gamme Managed AI Services. CoreWeave a publié un guide de configuration à l’intention des développeurs qui souhaitent déployer SPACE à des fins d’évaluation sur CKS.

Les développeurs peuvent commencer par les instructions de configuration et les conseils de sécurité de SPACE pour le déployer dans leurs propres systèmes d'agents. Le dépôt et la documentation définissent les configurations prises en charge et les composants inclus.