Udostępniamy jako open source SPACE – platformę piaskownic, na której działa Computer

Od czasu wprowadzenia Computer w lutym Perplexity jest jednym z pionierów w dziedzinie osobistych agentów. Zależy nam na rozwiązywaniu trudnych problemów związanych z zarządzaniem agentami, wykrywaniem niebezpiecznych zachowań i zapobieganiem niekontrolowanym działaniom agentów. W lipcu zastąpiliśmy komercyjnego dostawcę piaskownic solidniejszym i bardziej odpornym rozwiązaniem własnym, które nazwaliśmy SPACE.

SPACE zapewnia wysoki poziom bezpieczeństwa zaawansowanym systemom agentowym. Niedawna seria intensywnych testów bezpieczeństwa wykazała, że SPACE jest odporny na techniki obchodzenia zabezpieczeń sieciowych, takie jak te użyte w incydencie OpenAI/Hugging Face.

Dziś udostępniamy SPACE jako open source, aby dać deweloperom podstawę do tworzenia bezpieczniejszych systemów opartych na agentach i przyczyniania się do wzmocnienia zabezpieczeń w całej branży. Deweloperzy znajdą repozytorium tutaj.

Zarządzanie agentami to problem inżynieryjny, a oprogramowanie open source ma kluczowe znaczenie dla jego rozwiązania. Gdy programiści mają systemy, które mogą analizować, dostosowywać i rozwijać, znajdują więcej słabości i tworzą lepsze narzędzia. Udostępnienie SPACE jako open source daje programistom sprawdzoną w środowisku produkcyjnym podstawę dla środowisk uruchomieniowych agentów, z wbudowaną izolacją, odzyskiwaniem stanu oraz kontrolą poświadczeń i dostępu do sieci.

Tworzenie podstaw dla innych twórców

Piaskownice zapewniają agentom bezpieczeństwo: dają im dostęp do narzędzi i plików potrzebnych do wykonania tych zadań, a jednocześnie chronią poufne informacje.

Udostępnienie SPACE jako open source daje programistom punkt wyjścia do tworzenia środowisk, w których ich agenci uruchamiają kod i pracują z plikami. Zespoły mogą zobaczyć, jak działa platforma piaskownic SPACE, i rozwijać własne rozwiązania na bazie jej implementacji. Mogą ją też dostosować do swoich potrzeb, zamiast od nowa tworzyć bazową infrastrukturę.

W Computer platforma SPACE obsługuje izolowane wykonywanie kodu, wstrzymywanie i wznawianie pracy, odzyskiwanie oraz rozgałęzianie sesji. Te możliwości stanowią podstawę dla asystentów, którzy mogliby:

• Analizować dane: czyścić arkusz kalkulacyjny, wykonywać obliczenia i tworzyć wykresy w oddzielnej przestrzeni roboczej.
• Wznawiać pracę: wstrzymywać działanie, aby ktoś mógł przejrzeć wersję roboczą lub uzupełnić brakujące informacje, a następnie wznawiać je z zachowanymi plikami i stanem działającego środowiska.
• Badać alternatywy: testować dwa sposoby czyszczenia zbioru danych w oddzielnych kopiach przestrzeni roboczej lub przywracać wcześniejszą wersję pliku po pomyłce.

Te przykłady pokazują, jak programiści mogliby korzystać z udokumentowanych w SPACE mechanizmów izolacji i kontroli sesji. Inżynierowie platform i bezpieczeństwa mogą też zapoznać się z modelem izolacji i przykładami zabezpieczeń przed zintegrowaniem SPACE z własnymi systemami.

Większe bezpieczeństwo pracy autonomicznej

Gdy dajemy agentom więcej swobody w rozwiązywaniu problemów, potrzebujemy jasnych ograniczeń co do sposobu, w jaki to robią. Wiemy, że agenci realizujący uprawnione zadania mogą mimo to przekraczać granice bezpieczeństwa, gdy próbują obejść brakujące pliki, nieudane żądania lub odmowy dostępu.

Możemy wprowadzać zabezpieczenia na poziomie modelu, aby zmniejszyć prawdopodobieństwo niebezpiecznych zachowań. Dodanie niezależnych mechanizmów kontroli w otaczającym systemie pomaga ograniczyć szkody, jeśli te zabezpieczenia zawiodą. Mechanizmy te ograniczają zakres dostępu agenta niezależnie od tego, co postanowi zrobić.

SPACE otacza tymi zabezpieczeniami oddzielną przestrzeń roboczą przeznaczoną na kod i pliki generowane przez agentów. Zaprojektowaliśmy go tak, aby łączył izolację, odzyskiwanie i wydajne wykonywanie kodu. Dzięki temu agenci mogą wykonywać użyteczną pracę w długich sesjach, a przestrzeganie granic bezpieczeństwa nie zależy wyłącznie od samego modelu.

Działanie we własnym systemie operacyjnym

Każda piaskownica SPACE działa w niewielkiej maszynie wirtualnej z własnym systemem operacyjnym, co tworzy granicę izolacji między pracą agenta a systemem hosta. Centralna płaszczyzna sterowania koordynuje, kiedy te przestrzenie robocze są tworzone, wstrzymywane, wznawiane lub usuwane.

SPACE traktuje piaskownicę jako niezaufaną i poza nią zarządza dostępem do sieci oraz poświadczeniami przechowywanymi przez platformę. Agenci mogą łączyć się z autoryzowanymi usługami, a poświadczenia te nie są przechowywane w ich środowisku roboczym.

Częste migawki plików i punkty kontrolne całego działającego środowiska pozwalają zachować postęp pracy mimo przerw. Aby operacje te były wydajne, SPACE zapisuje zmiany zamiast wielokrotnie kopiować całe środowiska. Zmniejsza to nakład pracy potrzebny do utworzenia, przywrócenia lub rozgałęzienia piaskownicy.

Lepsza wydajność w środowisku produkcyjnym

Od lipca SPACE obsługuje wszystkie sesje Computer i każdego dnia tworzy miliony piaskownic. W porównaniu przeprowadzonym na tym samym ruchu produkcyjnym piaskownice powstawały od trzech do pięciu razy szybciej niż u naszego poprzedniego dostawcy.

Ponadto przetestowaliśmy SPACE w starciu z agentami, które celowo próbowały przełamać jego granice. Według opublikowanej przez nas oceny bezpieczeństwa w 108 próbach nie doszło ani razu do ucieczki z maszyny wirtualnej do hosta, choć niektórym agentom udało się obejść ograniczenia sieciowe. Usunęliśmy te słabości i w testach kontrolnych żadna z dwóch zidentyfikowanych metod ataku nie zakończyła się powodzeniem.

Powiązane słabości, które wykryliśmy w innych platformach piaskownic, zgłosiliśmy również ich dostawcom, wykraczając w tych działaniach poza naszą własną infrastrukturę.

Wkład w bezpieczniejszą agentową AI

SPACE to część szerszych działań na rzecz wzmacniania systemów, na których ludzie polegają w miarę, jak AI przejmuje coraz więcej pracy. Za pośrednictwem Secure Intelligence Institute prowadzimy badania nad bezpieczeństwem i współpracujemy z szerszą społecznością, przekładając wyniki na praktyczne zabezpieczenia.

Wierzymy, że udostępnianie narzędzi bezpieczeństwa jako open source daje programistom więcej możliwości testowania zabezpieczeń, wykrywania słabości i budowania bezpieczniejszych systemów AI. Udostępniliśmy narzędzia, które obejmują różne obszary tej pracy:

• BrowseSafe – model i benchmark do wykrywania złośliwych instrukcji ukrytych na stronach internetowych.
• Numbat – zestaw narzędzi bezpieczeństwa udostępniony jako open source w lipcu, który pomaga wykrywać i badać niebezpieczne zachowania agentów na komputerach oraz im zapobiegać
• Bumblebee – skaner udostępniony jako open source w maju, który sprawdza komputery programistów pod kątem ryzykownych pakietów oprogramowania, rozszerzeń i konfiguracji narzędzi AI

Udostępnienie tych narzędzi pozwala innym zespołom analizować naszą pracę, dostosowywać ją do własnych potrzeb i wnosić usprawnienia. Dzięki SPACE rozszerzamy to podejście na środowiska, w których agenci wykonują kod i pracują z plikami.

Wdrażanie w systemach agentowych

Firma Akamai przetestowała i uruchomiła SPACE na swojej platformie chmurowej, a także współpracuje z Perplexity, aby udostępnić to rozwiązanie swoim klientom. Firma Crusoe również nawiązała współpracę z Perplexity, aby włączyć SPACE do swojego portfolio Managed AI Services. Firma CoreWeave opublikowała wskazówki dotyczące konfiguracji dla programistów, którzy chcą wdrożyć SPACE w CKS w celu oceny.

Programiści mogą zacząć od instrukcji konfiguracji i wskazówek dotyczących bezpieczeństwa SPACE, aby wdrożyć go we własnych systemach agentowych. Repozytorium i dokumentacja określają obsługiwane konfiguracje i dołączone komponenty.