Alliberem com a codi obert SPACE, la plataforma d'entorns de proves de Computer

Des que va llançar Computer al febrer, Perplexity ha estat pionera en agents personals. Ens comprometem a abordar els problemes difícils de la governança dels agents: detectar comportaments insegurs i evitar l'activitat d'agents descontrolats. Al juliol, vam substituir el nostre proveïdor comercial d'entorns de proves per una solució pròpia més robusta i resilient que vam anomenar SPACE.

SPACE proporciona un alt nivell de seguretat per a sistemes agèntics avançats. De fet, una bateria de proves de seguretat recent va demostrar que SPACE resisteix tècniques d'elusió de xarxa com les utilitzades en l'incident d'OpenAI/Hugging Face.

Avui publiquem SPACE com a codi obert per oferir als desenvolupadors una base sobre la qual crear sistemes d'agents més segurs i contribuir a unes proteccions més sòlides a tot el sector. Els desenvolupadors poden accedir al repositori aquí.

La governança dels agents és un problema d'enginyeria, i el codi obert és essencial per resoldre'l. Quan els desenvolupadors disposen de sistemes que poden examinar, adaptar i ampliar, troben més vulnerabilitats i desenvolupen millors eines. Alliberar SPACE com a codi obert ofereix als desenvolupadors una base provada en producció per als entorns d'execució d'agents, amb aïllament, recuperació de l'estat i controls de credencials i de xarxa integrats.

Una base per a altres desenvolupadors

Els entorns de proves mantenen els agents segurs: els permeten accedir a les eines i els fitxers que necessiten per completar aquestes tasques, alhora que protegeixen la informació confidencial.

Alliberar SPACE com a codi obert ofereix als desenvolupadors un punt de partida per als entorns on els seus agents executen codi i treballen amb fitxers. Els equips poden veure com funciona la plataforma d'entorns de proves SPACE i basar-se en la seva implementació. També la poden adaptar a les seves necessitats en lloc de tornar a crear la infraestructura subjacent.

A Computer, SPACE admet l'execució aïllada de codi, la pausa i la represa, la recuperació i la ramificació de sessions. Aquestes capacitats proporcionen la base per a assistents que podrien:

• Analitzar dades: netejar un full de càlcul, fer càlculs i crear gràfics en un espai de treball separat.
• Reprendre la feina: fer una pausa perquè algú revisi un esborrany o aporti informació que falta i, després, reprendre la feina amb els fitxers i l'estat d'execució conservats.
• Explorar alternatives: provar dues maneres de netejar un conjunt de dades en còpies separades de l'espai de treball, o restaurar un fitxer anterior després d'un error.

Aquests exemples il·lustren com els desenvolupadors podrien utilitzar els controls d'aïllament i de sessió documentats de SPACE. Els enginyers de plataforma i de seguretat també poden revisar el model d'aïllament i els exemples de seguretat abans d'integrar SPACE als seus propis sistemes.

Més seguretat per a la feina autònoma

Quan donem als agents més marge per resoldre problemes, necessitem límits clars sobre com ho fan. Sabem que els agents que persegueixen tasques legítimes poden traspassar igualment els límits de seguretat quan intenten esquivar fitxers que falten, sol·licituds fallides o permisos denegats.

Podem implementar salvaguardes en el model per reduir la probabilitat de comportaments insegurs. Afegir controls independents al sistema que l'envolta ajuda a contenir els danys si aquestes salvaguardes fallen. Aquests controls limiten allò a què pot accedir un agent, independentment del que decideixi fer.

SPACE aplica aquests controls al voltant d'un espai de treball separat per al codi i els fitxers generats pels agents. El vam dissenyar per combinar aïllament, recuperació i execució eficient. Això permet que els agents facin feina útil durant sessions llargues sense dependre només del model perquè respecti els límits de seguretat.

Execució dins del seu propi sistema operatiu

Cada entorn de proves de SPACE s'executa dins d'una petita màquina virtual amb el seu propi sistema operatiu, cosa que crea un límit d'aïllament entre la feina de l'agent i el sistema amfitrió. Un pla de control central coordina quan es creen, es posen en pausa, es reprenen o s'eliminen aquests espais de treball.

SPACE tracta l'entorn de proves com a no fiable i gestiona l'accés a la xarxa i les credencials que conserva la plataforma fora de l'entorn de proves. Els agents es poden connectar a serveis autoritzats sense que aquestes credencials s'emmagatzemin al seu entorn de treball.

Les instantànies freqüents dels fitxers i els punts de control de tot l'entorn en execució conserven el progrés malgrat les interrupcions. Per mantenir l'eficiència d'aquestes operacions, SPACE emmagatzema els canvis en lloc de copiar repetidament entorns sencers. Això redueix la feina necessària per crear, restaurar o ramificar un entorn de proves.

Millor rendiment en producció

Des del juliol, SPACE impulsa totes les sessions de Computer i gestiona milions de creacions d'entorns de proves al dia. En una comparació amb el mateix trànsit de producció, la creació d'entorns de proves va ser entre tres i cinc vegades més ràpida que amb el nostre proveïdor anterior.

També vam posar a prova SPACE amb agents que intentaven deliberadament traspassar-ne els límits. La nostra avaluació de seguretat publicada no va detectar cap fuga de la màquina virtual a l'amfitrió en 108 intents, però alguns agents van trobar maneres d'eludir les restriccions de xarxa. Vam corregir aquestes vulnerabilitats, i cap dels dos mètodes d'atac identificats va tenir èxit en les proves posteriors.

També vam comunicar als proveïdors corresponents les vulnerabilitats relacionades que vam trobar en altres plataformes d'entorns de proves, i així vam estendre aquesta feina més enllà de la nostra pròpia infraestructura.

Contribuir a una IA agèntica més segura

SPACE forma part d'un esforç més ampli per reforçar els sistemes en què confien les persones a mesura que la IA assumeix més feina. A través del Secure Intelligence Institute, duem a terme investigació en seguretat i col·laborem amb la comunitat en general per convertir les troballes en defenses pràctiques.

Creiem que alliberar eines de seguretat com a codi obert ofereix als desenvolupadors més maneres de posar a prova les defenses, trobar vulnerabilitats i crear sistemes d'IA més segurs. Hem compartit eines que aborden diferents parts d'aquesta feina:

• BrowseSafe, un model i un banc de proves per detectar instruccions malicioses amagades en pàgines web.
• Numbat, un conjunt d'eines de seguretat alliberat com a codi obert al juliol, que ajuda a detectar, investigar i prevenir comportaments perillosos dels agents als ordinadors
• Bumblebee, un escàner alliberat com a codi obert al maig, que revisa els equips dels desenvolupadors per detectar paquets de programari, extensions i configuracions d'eines d'IA que comportin riscos

Posar aquestes eines a disposició d'altres equips els permet examinar la nostra feina, adaptar-la a les seves necessitats i aportar-hi millores. Amb SPACE, estenem aquest enfocament als entorns on els agents executen codi i treballen amb fitxers.

Desplegament per a sistemes d'agents

Akamai ha provat i llançat SPACE a la seva plataforma al núvol i treballa amb Perplexity per oferir-lo als seus clients. Crusoe també s’ha associat amb Perplexity per incorporar SPACE a la seva cartera de Managed AI Services. CoreWeave ha publicat una guia de configuració per als desenvolupadors que vulguin desplegar SPACE a CKS per avaluar-lo.

Els desenvolupadors poden començar amb les instruccions de configuració i les pautes de seguretat de SPACE per desplegar-lo en els seus propis sistemes d'agents. El repositori i la documentació defineixen les configuracions compatibles i els components inclosos.