Nyílt forráskódú lett a SPACE, a Computer mögött álló sandbox-platform

A Computer februári bevezetése óta a Perplexity a személyes ügynökök egyik korai úttörője. Elkötelezetten foglalkozunk az ügynökirányítás nehéz kérdéseivel: a nem biztonságos viselkedés észlelésével és az ellenőrizetlen ügynöki tevékenység megelőzésével. Júliusban a kereskedelmi forgalomban elérhető sandbox-szolgáltatónkat egy robusztusabb és ellenállóbb, saját fejlesztésű megoldásra cseréltük, amely a SPACE nevet kapta.

A SPACE magas szintű biztonságot nyújt a fejlett ügynökalapú rendszerek számára. Egy nemrégiben végzett átfogó biztonsági tesztsorozat igazolta is, hogy a SPACE ellenáll az olyan hálózatmegkerülési technikáknak, mint amilyeneket az OpenAI/Hugging Face-incidens során alkalmaztak.

Ma nyílt forráskódúvá tesszük a SPACE-t, hogy a fejlesztők szilárd alapot kapjanak a biztonságosabb ügynökrendszerek építéséhez, és hozzájárulhassanak az erősebb védelem kialakításához az egész iparágban. A fejlesztők itt érhetik el a tárolót.

Az ügynökirányítás mérnöki probléma, és a megoldásához elengedhetetlen a nyílt forráskód. Ha a fejlesztők olyan rendszerekkel dolgozhatnak, amelyeket megvizsgálhatnak, testre szabhatnak és továbbfejleszthetnek, több gyengeséget találnak, és jobb eszközöket fejlesztenek. A SPACE nyílt forráskódúvá tétele éles környezetben tesztelt alapot ad a fejlesztőknek az ügynökök futtatókörnyezeteihez, beépített izolációval, állapot-helyreállítással, valamint a hitelesítő adatok és a hálózati hozzáférés szabályozásával.

Alapok más fejlesztők számára

A sandboxok biztonságban tartják az ügynököket: hozzáférést adnak nekik a feladatok elvégzéséhez szükséges eszközökhöz és fájlokhoz, miközben az érzékeny információk védve maradnak.

A SPACE nyílt forráskódúvá tétele kiindulópontot ad a fejlesztőknek azokhoz a környezetekhez, ahol ügynökeik kódot futtatnak és fájlokkal dolgoznak. A csapatok megismerhetik, hogyan működik a SPACE sandbox-platform, és építhetnek a megvalósítására. Emellett a saját igényeikhez is igazíthatják, ahelyett hogy újra létrehoznák a mögöttes infrastruktúrát.

A Computerben a SPACE támogatja az izolált kódfuttatást, a szüneteltetést és a folytatást, a helyreállítást, valamint a munkamenetek elágaztatását. Ezek a képességek teremtik meg az alapot olyan asszisztensek számára, amelyek a következőkre lehetnek képesek:

• Adatelemzés: Táblázat megtisztítása, számítások futtatása és diagramok készítése külön munkaterületen.
• Munka folytatása: Szüneteltetés, amíg valaki átnéz egy vázlatot vagy megadja a hiányzó információkat, majd folytatás a fájlok és a futási állapot megőrzésével.
• Alternatívák kipróbálása: Egy adathalmaz megtisztítására szolgáló két módszer tesztelése a munkaterület külön másolataiban, vagy egy korábbi fájl visszaállítása hiba után.

Ezek a példák azt szemléltetik, hogyan használhatnák a fejlesztők a SPACE dokumentált izolációs és munkamenet-vezérlési funkcióit. A platform- és biztonsági mérnökök a SPACE saját rendszereikbe való integrálása előtt az izolációs modellt és a biztonsági példákat is áttekinthetik.

Nagyobb biztonság az autonóm munkához

Ha nagyobb mozgásteret adunk az ügynököknek a problémák megoldásához, egyértelmű korlátokat kell szabnunk arra, hogyan teszik ezt. Tudjuk, hogy a legitim feladatokat végző ügynökök is átléphetik a biztonsági határokat, amikor megpróbálják megkerülni a hiányzó fájlokat, a sikertelen kéréseket vagy a megtagadott engedélyeket.

A nem biztonságos viselkedés valószínűségének csökkentésére modellszintű biztosítékokat vezethetünk be. Ha a környező rendszerben független ellenőrzési mechanizmusokat is alkalmazunk, az segít korlátozni a kárt arra az esetre, ha ezek a biztosítékok kudarcot vallanak. Ezek a mechanizmusok korlátozzák, mihez férhet hozzá egy ügynök, függetlenül attól, hogy mit dönt.

A SPACE ezeket az ellenőrzési mechanizmusokat egy különálló munkaterület köré helyezi, amely az ügynökök által létrehozott kódot és fájlokat tartalmazza. Úgy terveztük, hogy egyesítse az izolációt, a helyreállítást és a hatékony végrehajtást. Így az ügynökök hosszú munkameneteken át is hasznos munkát végezhetnek anélkül, hogy kizárólag a modellre kellene hagyatkozni a biztonsági határok betartásában.

Futás saját operációs rendszerben

Minden SPACE-sandbox egy saját operációs rendszerrel rendelkező kis virtuális gépen belül fut, így elszigetelő határt képez az ügynök munkája és a gazdarendszer között. Egy központi vezérlősík koordinálja, mikor jönnek létre, szünetelnek, folytatódnak vagy törlődnek ezek a munkaterületek.

A SPACE a sandboxot nem megbízhatónak tekinti, és a hálózati hozzáférést, valamint a platform által tárolt hitelesítő adatokat a sandboxon kívül kezeli. Az ügynökök így úgy csatlakozhatnak az engedélyezett szolgáltatásokhoz, hogy ezek a hitelesítő adatok nincsenek a munkakörnyezetükben tárolva.

A gyakori fájlpillanatképek és a teljes futó környezetről készült ellenőrzőpontok megszakítások esetén is megőrzik az előrehaladást. E műveletek hatékonysága érdekében a SPACE a változásokat tárolja, ahelyett hogy újra és újra lemásolná a teljes környezetet. Ez csökkenti a sandbox létrehozásához, visszaállításához vagy elágaztatásához szükséges munkát.

Jobb teljesítmény éles környezetben

Július óta a SPACE működteti az összes Computer-munkamenetet, és naponta több millió sandbox létrehozását kezeli. Az azonos éles forgalmon végzett összehasonlításban a sandboxok létrehozása háromszor-ötször gyorsabb volt, mint a korábbi szolgáltatónknál.

Teszteltük a SPACE-t olyan ügynökökkel szemben is, amelyek szándékosan próbálták áttörni a határait. A közzétett biztonsági értékelésünk szerint a 108 kísérlet egyike sem jutott ki a virtuális gépből a gazdagépre, néhány kísérlet azonban módot talált a hálózati korlátozások megkerülésére. Ezeket a gyengeségeket kijavítottuk, és a későbbi tesztelés során egyik azonosított támadási módszer sem járt sikerrel.

A más sandbox-platformokon talált kapcsolódó gyengeségeket a szolgáltatóikkal is közöltük, így ezt a munkát a saját infrastruktúránkon túlra is kiterjesztettük.

Hozzájárulás a biztonságosabb ügynökalapú MI-hez

A SPACE egy szélesebb körű törekvés része, amelynek célja azoknak a rendszereknek a megerősítése, amelyekre az emberek támaszkodnak, ahogy az MI egyre több munkát vesz át. A Secure Intelligence Institute révén biztonsági kutatásokat végzünk, együttműködünk a szélesebb közösséggel, és az eredményeket gyakorlati védelmi megoldásokká alakítjuk.

Úgy gondoljuk, hogy a biztonsági eszközök nyílt forráskódúvá tétele több lehetőséget ad a fejlesztőknek a védelmi rendszerek tesztelésére, a gyengeségek felderítésére és biztonságosabb MI-rendszerek építésére. Olyan eszközöket osztottunk meg, amelyek e munka különböző részeit fedik le:

• BrowseSafe: modell és benchmark a weboldalakba rejtett rosszindulatú utasítások észlelésére.
• Numbat: júliusban nyílt forráskódúvá tett biztonsági eszközkészlet, amely segít felismerni, kivizsgálni és megelőzni az ügynökök veszélyes viselkedését a számítógépeken
• Bumblebee: májusban nyílt forráskódúvá tett szkenner, amely kockázatos szoftvercsomagok, bővítmények és MI-eszköz-konfigurációk után kutatva ellenőrzi a fejlesztői gépeket

Azzal, hogy ezeket az eszközöket elérhetővé tesszük, más csapatok is megvizsgálhatják a munkánkat, saját igényeikhez igazíthatják, és fejlesztésekkel járulhatnak hozzá. A SPACE-szel ezt a megközelítést kiterjesztjük azokra a környezetekre is, ahol az ügynökök kódot futtatnak és fájlokkal dolgoznak.

Üzembe helyezés ügynökrendszerekhez

Az Akamai tesztelte és elindította a SPACE-t a felhőplatformján, és a Perplexityvel együttműködve azon dolgozik, hogy ügyfelei számára is elérhetővé tegye. A Crusoe szintén partnerségre lépett a Perplexityvel, hogy a SPACE-t felvegye a Managed AI Services portfóliójába. A CoreWeave telepítési útmutatót tett közzé azoknak a fejlesztőknek, akik kiértékelés céljából szeretnék üzembe helyezni a SPACE-t a CKS-en.

A fejlesztők a SPACE beállítási útmutatójával és biztonsági irányelveivel kezdhetnek hozzá, hogy saját ügynökrendszereikhez üzembe helyezzék. A tároló és a dokumentáció határozza meg a támogatott konfigurációkat és a mellékelt összetevőket.