Computer의 기반 샌드박스 플랫폼 SPACE 오픈 소스 공개

2월에 Computer를 출시한 이후 Perplexity는 개인용 에이전트 분야를 일찍부터 개척해 왔습니다. 저희는 에이전트 거버넌스, 안전하지 않은 행동 탐지, 통제를 벗어난 에이전트 활동 방지라는 어려운 문제를 해결하는 데 전념하고 있습니다. 7월에는 기존의 상용 샌드박스 제공업체를 더 견고하고 복원력이 뛰어난 자체 솔루션으로 교체하고, 이를 SPACE라고 명명했습니다.

SPACE는 고급 에이전트 시스템에 높은 수준의 보안을 제공합니다. 실제로 최근 진행한 집중적인 보안 테스트에서 SPACE는 OpenAI/Hugging Face 사고에서 사용된 것과 같은 네트워크 우회 기법에 대한 복원력을 입증했습니다.

오늘 저희는 개발자가 더 안전한 에이전트 시스템을 구축할 수 있는 기반을 제공하고 업계 전반의 보호 체계 강화에 기여할 수 있도록 SPACE를 오픈 소스로 공개합니다. 개발자는 여기에서 리포지토리에 액세스할 수 있습니다.

에이전트 거버넌스는 엔지니어링 문제이며, 이를 해결하려면 오픈 소스가 필수적입니다. 개발자가 검토하고, 조정하고, 기반으로 삼아 개발할 수 있는 시스템이 있으면 더 많은 취약점을 찾고 더 나은 도구를 만들 수 있습니다. SPACE가 오픈 소스로 공개되면서 개발자는 격리, 상태 복구, 자격 증명 및 네트워크 제어 기능이 내장되고 프로덕션 환경에서 검증된 에이전트 런타임의 토대를 얻게 됩니다.

샌드박스는 에이전트가 이러한 작업을 완료하는 데 필요한 도구와 파일에 액세스할 수 있게 하면서도 민감한 정보를 보호하여 에이전트를 안전하게 유지합니다.

SPACE가 오픈 소스로 공개되면서 개발자는 에이전트가 코드를 실행하고 파일을 다루는 환경을 구축할 출발점을 얻게 됩니다. 팀은 SPACE 샌드박스 플랫폼의 작동 방식을 살펴보고 그 구현을 기반으로 개발할 수 있습니다. 또한 기반 인프라를 처음부터 다시 만들 필요 없이 필요에 맞게 조정할 수도 있습니다.

Computer에서 SPACE는 격리된 코드 실행, 일시 중지 및 재개, 복구, 세션 분기를 지원합니다. 이러한 기능은 다음과 같은 일을 할 수 있는 어시스턴트의 토대가 됩니다:

데이터 분석: 별도의 작업 공간에서 스프레드시트를 정리하고, 계산을 실행하고, 차트를 만듭니다.
작업 재개: 누군가 초안을 검토하거나 누락된 정보를 제공할 때까지 일시 중지한 후, 파일과 실행 상태가 보존된 채로 작업을 재개합니다.
대안 탐색: 작업 공간의 별도 사본에서 데이터 세트를 정리하는 두 가지 방법을 테스트하거나, 실수한 후 이전 파일을 복원합니다.

이 예시들은 개발자가 문서화된 SPACE의 격리 및 세션 제어 기능을 어떻게 활용할 수 있는지 보여 줍니다. 플랫폼 및 보안 엔지니어는 SPACE를 자체 시스템에 통합하기 전에 격리 모델과 보안 예시를 검토할 수도 있습니다.

에이전트에게 문제 해결의 여지를 더 많이 줄수록, 문제를 해결하는 방식에는 명확한 한계가 필요합니다. 정당한 작업을 수행하는 에이전트라도 누락된 파일, 실패한 요청, 권한 거부를 우회하려는 과정에서 보안 경계를 넘을 수 있다는 것을 저희는 잘 알고 있습니다.

모델 안전장치를 마련하면 안전하지 않은 행동이 발생할 가능성을 줄일 수 있습니다. 여기에 주변 시스템의 독립적인 제어 장치를 더하면 이러한 안전장치가 실패하더라도 피해를 억제하는 데 도움이 됩니다. 이러한 제어 장치는 에이전트가 무엇을 하기로 결정하든 에이전트가 액세스할 수 있는 범위를 제한합니다.

SPACE는 에이전트가 생성한 코드와 파일을 위한 별도의 작업 공간에 이러한 제어 장치를 적용합니다. 저희는 격리, 복구, 효율적인 실행을 결합하도록 SPACE를 설계했습니다. 이를 통해 에이전트는 보안 경계 준수를 모델에만 의존하지 않고도 긴 세션 동안 유용한 작업을 수행할 수 있습니다.

각 SPACE 샌드박스는 자체 운영 체제를 갖춘 소형 가상 머신 내부에서 실행되어 에이전트의 작업과 호스트 시스템 사이에 격리 경계를 만듭니다. 중앙 컨트롤 플레인은 이러한 작업 공간의 생성, 일시 중지, 재개, 삭제 시점을 조율합니다.

SPACE는 샌드박스를 신뢰할 수 없는 영역으로 간주하고, 네트워크 액세스와 플랫폼이 보유한 자격 증명을 샌드박스 외부에서 관리합니다. 에이전트는 작업 환경에 해당 자격 증명을 저장하지 않고도 승인된 서비스에 연결할 수 있습니다.

빈번한 파일 스냅샷과 전체 실행 환경의 체크포인트를 통해 중단이 발생해도 진행 상황이 보존됩니다. 이러한 작업을 효율적으로 유지하기 위해 SPACE는 전체 환경을 반복해서 복사하는 대신 변경 사항을 저장합니다. 이를 통해 샌드박스를 생성, 복원, 분기하는 데 필요한 작업이 줄어듭니다.

7월부터 SPACE는 모든 Computer 세션을 구동하며 하루 수백만 건의 샌드박스 생성을 처리해 왔습니다. 동일한 프로덕션 트래픽을 대상으로 한 비교 결과, 샌드박스 생성 속도가 이전 제공업체보다 3~5배 빨랐습니다.

또한 저희는 의도적으로 경계를 뚫으려는 에이전트를 상대로 SPACE를 테스트했습니다. 저희가 공개한 보안 평가 결과, 108회의 시도 중 가상 머신에서 호스트로 탈출한 사례는 없었지만 일부 에이전트는 네트워크 제한을 우회하는 방법을 찾아냈습니다. 저희는 이러한 취약점을 수정했으며, 후속 테스트에서는 확인된 두 가지 공격 방법 모두 성공하지 못했습니다.

또한 저희는 다른 샌드박스 플랫폼에서 발견한 관련 취약점을 해당 공급업체에 공개하여, 이 작업을 저희 인프라 너머로 확장했습니다.

SPACE는 AI가 더 많은 일을 맡게 됨에 따라 사람들이 의존하는 시스템을 강화하기 위한 더 폭넓은 노력의 일환입니다. 저희는 Secure Intelligence Institute를 통해 보안 연구를 수행하고 더 넓은 커뮤니티와 협력하며, 연구 결과를 실질적인 방어 수단으로 전환하고 있습니다.

저희는 보안 도구를 오픈 소스로 공개하면 개발자가 방어 체계를 테스트하고, 취약점을 찾고, 더 안전한 AI 시스템을 구축할 수 있는 방법이 늘어난다고 믿습니다. 저희는 이 작업의 여러 측면을 다루는 도구를 공개해 왔습니다:

BrowseSafe: 웹 페이지에 숨겨진 악성 지시를 탐지하기 위한 모델 및 벤치마크.
Numbat: 7월에 오픈 소스로 공개된 보안 툴킷으로, 컴퓨터에서 발생하는 위험한 에이전트 행동을 탐지, 조사, 방지하는 데 도움을 줍니다
Bumblebee: 5월에 오픈 소스로 공개된 스캐너로, 개발자 머신에 위험한 소프트웨어 패키지, 확장 프로그램, AI 도구 구성이 있는지 점검합니다

이러한 도구를 공개하면 다른 팀이 저희 작업을 검토하고, 필요에 맞게 조정하고, 개선 사항을 기여할 수 있습니다. 저희는 SPACE를 통해 이러한 접근 방식을 에이전트가 코드를 실행하고 파일을 다루는 환경으로 확장하고 있습니다.

Akamai는 자사 클라우드 플랫폼에서 SPACE를 테스트하고 출시했으며, 고객에게 SPACE를 제공하기 위해 Perplexity와 협력하고 있습니다. Crusoe도 Perplexity와 파트너십을 맺고 자사 Managed AI Services 포트폴리오에 SPACE를 추가할 예정입니다. CoreWeave는 CKS에서 SPACE를 평가용으로 배포하려는 개발자를 위한 설정 가이드를 공개했습니다.

개발자는 SPACE의 설정 안내와 보안 가이드부터 시작하여 자체 에이전트 시스템에 SPACE를 배포할 수 있습니다. 리포지토리와 문서에서 지원되는 구성과 포함된 구성 요소를 확인할 수 있습니다.

다른 개발자를 위한 토대 마련

자율 작업의 보안 강화

자체 운영 체제 내부에서 실행

프로덕션 성능 향상

더 안전한 에이전트형 AI에 기여

에이전트 시스템에 배포하기