ഏജന്റുകൾക്കായുള്ള സുരക്ഷിത സാൻഡ്‌ബോക്സുകൾ

AI ഏജന്റുകൾ നമുക്കുവേണ്ടി യഥാർത്ഥ ജോലി ചെയ്യുന്നു: ഫയലുകൾ എഡിറ്റ് ചെയ്യുക, കോഡ് റൺ ചെയ്യുക, മണിക്കൂറുകളോ ദിവസങ്ങളോ നീണ്ടുനിൽക്കുന്ന ഒന്നിലധികം ഘട്ടങ്ങളുള്ള ടാസ്‌ക്കുകൾ നിർവ്വഹിക്കുക. ഇതിന് പലപ്പോഴും സ്വകാര്യ വിവരങ്ങളിലേക്ക് ആക്‌സസ് ആവശ്യമാണ്, അതുകൊണ്ടുതന്നെ ഒരു മോഡൽ എത്ര സ്മാർട്ടാണ് എന്നതിനേക്കാൾ ഏജന്റ് എവിടെ റൺ ചെയ്യുന്നു എന്നത് പ്രധാനപ്പെട്ടതായി തീരുന്നു.

സാൻഡ്‌ബോക്സുകൾ ഏജന്റുകളെ സുരക്ഷിതമായി നിലനിർത്തുന്നു, ഈ ടാസ്‌ക്കുകൾ പൂർത്തിയാക്കാൻ അവയ്ക്ക് ആവശ്യമായ ടൂളുകളിലേക്കും ഫയലുകളിലേക്കും പ്രവേശനം നൽകിക്കൊണ്ട് തന്നെ സെൻസിറ്റീവ് വിവരങ്ങൾ സംരക്ഷിക്കുകയും ചെയ്യുന്നു.

ഞങ്ങളുടെ ഏജന്റ് പ്ലാറ്റ്‌ഫോമായ Computer നിർമ്മിച്ചപ്പോൾ, ഞങ്ങൾ തയ്യാറായിട്ടുള്ള സാൻഡ്‌ബോക്സ് ഓപ്ഷനുകൾ പരിശോധിച്ചു. ഫങ്ഷണാലിറ്റി, എഫിഷ്യൻസി, സുരക്ഷ എന്നിവ തമ്മിലുള്ള ട്രേഡ്-ഓഫുകൾ പരിഗണിക്കാൻ എല്ലാ ഓപ്ഷനുകളും ആവശ്യപ്പെട്ടു. Perplexity Computer-ന് ഈ മൂന്നും ആവശ്യമായിരുന്നു, അതിനാൽ ഞങ്ങൾ പൂർണ്ണമായും പുതിയൊരു തരം സാൻഡ്‌ബോക്സ് നിർമ്മിച്ചു.

ഇന്ന്, വിപുലമായ ഏജന്റ് സിസ്റ്റങ്ങൾക്കായി ഉയർന്ന തലത്തിലുള്ള സുരക്ഷ നൽകിക്കൊണ്ട് Computer-ന്റെ മുഴുവൻ ശക്തിയും അൺലോക്ക് ചെയ്യാൻ രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്ന ഒരു സാൻഡ്‌ബോക്സ് പ്ലാറ്റ്‌ഫോമായ SPACE ഞങ്ങൾ അവതരിപ്പിക്കുന്നു.

സാൻഡ്‌ബോക്സ് ആർക്കിടെക്ചർ പുനർരൂപകൽപ്പന ചെയ്യുന്നു

കോഡ് റൺ ചെയ്യുന്നതിനോ ഫയലുകളുമായി ഇടപഴകുന്നതിനോ മറ്റ് ടാസ്‌ക്കുകൾക്കോ എത്ര സമയം ആവശ്യമാണോ അത്രയും മാത്രം കാലയളവുള്ള താൽക്കാലിക സാൻഡ്‌ബോക്സുകൾ SPACE സ്പിൻ അപ്പ് ചെയ്യുന്നു. ടാസ്‌ക് പൂർത്തിയാകുമ്പോൾ, സാൻഡ്‌ബോക്സും അതിനുള്ളിലുള്ളതെല്ലാം നശിപ്പിക്കപ്പെടുന്നു.

പുനരാരംഭങ്ങളെ അതിജീവിക്കേണ്ട uzun-horizon (ദീർഘകാല) ജോലികൾക്കായി, SPACE ഓരോ സാൻഡ്‌ബോക്സിനെയും താൽക്കാലികമായി നിർത്താനോ (pause), പുനരാരംഭിക്കാനോ (resume), ഒന്നിലധികം സാൻഡ്‌ബോക്സുകളായി വിഭജിക്കാനോ (branch) കഴിയുന്ന ഒരു സെഷനിൽ പൊതിയുന്നു. SPACE-ന്റെ റോളിംഗ് സ്നാപ്പ്‌ഷോട്ട് സാങ്കേതികവിദ്യ, വ്യക്തിഗത സാൻഡ്‌ബോക്സുകൾ ഇല്ലെങ്കിൽപോലും, ജോലിക്കൊപ്പം സന്ദർഭം യാത്ര ചെയ്യാൻ അനുവദിക്കുന്നു.

മുൻകാല ട്രേഡ്-ഓഫുകൾ ഒഴിവാക്കുന്നു

മിക്ക സാൻഡ്‌ബോക്സ് പ്ലാറ്റ്‌ഫോമുകളും മൂന്നിൽ രണ്ട് വേരിയബിളുകൾക്ക് മാത്രമേ പരിഹാരം കാണുന്നുള്ളൂ: ഫങ്ഷണാലിറ്റി, എഫിഷ്യൻസി അല്ലെങ്കിൽ സുരക്ഷ. ഒന്നിനായി ഒപ്റ്റിമൈസ് ചെയ്യുന്നത് മറ്റൊന്നിന്റെ ചെലവിൽ വരാൻ പ്രവണത കാണിക്കുന്നു. ചില പരിഹാരങ്ങൾക്ക് ശക്തമായ ഐസൊലേഷൻ പ്രിമിറ്റീവുകൾ ഉണ്ട് എന്നാൽ പരിസ്ഥിതിക്കുള്ളിൽ ക്രെഡൻഷ്യലുകൾ തുറന്നുകാട്ടപ്പെടുന്നു. മറ്റുള്ളവ ഹ്രസ്വകാല ജോലികൾ നന്നായി നിർവ്വഹിക്കുന്നു, എന്നാൽ ഒരു സെഷൻ മണിക്കൂറുകളോളം പ്രവർത്തിക്കേണ്ടി വരുമ്പോൾ സ്റ്റേറ്റ് നഷ്ടപ്പെടുകയും പരാജയപ്പെടുകയും ചെയ്യുന്നു.

സമർപ്പിത സേവകങ്ങളിലുടനീളം ആശങ്കകൾ വേർതിരിച്ചുകൊണ്ട് SPACE ഈ മൂന്നിനും പരിഹാരം കാണുന്നു. നെറ്റ്‌വർക്ക് ഗേറ്റ്‌വേ, സ്പേസ് ഡെമൺ, ഫയൽ സർവീസ് എന്നിവ ഓരോന്നും സ്റ്റാക്കിന്റെ വ്യത്യസ്ത ഭാഗങ്ങൾ സുരക്ഷിതമാക്കുന്നു. സാൻഡ്‌ബോക്സിന് പുറത്തുനിന്നുള്ള ക്രെഡൻഷ്യലുകൾ ആവശ്യമായ കൃത്യസമയത്ത് മാത്രമാണ് അവ നൽകുന്നത്.

ഈ ഡിസൈൻ വഴി, വിട്ടുവീഴ്ച ചെയ്യപ്പെട്ട ഒരു ഏജന്റിന് സ്ഥിരമായി പ്ലാറ്റ്‌ഫോം നിയന്ത്രിക്കുന്ന ക്രെഡൻഷ്യലുകളിലേക്ക് പാതയില്ല. കൂടാതെ, സെഷന്റെ കാലാവധിയോ ബാക്ക്‌എൻഡോ പരിഗണിക്കാതെ, നൽകിയിട്ടുള്ള ടാസ്‌ക്കിനപ്പുറം ഇതിന് പ്രവേശനവുമില്ല.

സുരക്ഷയുടെ മൂന്ന് പാളികൾ സൃഷ്ടിക്കുന്നു

SPACE മൂന്ന് പ്രധാന പാളികൾ ചേർന്നതാണ്, ഓരോന്നിനും ശക്തമായ സുരക്ഷാ നടപടികൾ അന്തർലീനമായിട്ടുണ്ട്:

കൺട്രോൾ പ്ലെയ്ൻ: SPACE-ന്റെ ആർക്കിടെക്ചറിന്റെ ആദ്യ പാളിയാണ് കൺട്രോൾ പ്ലെയ്ൻ, ഇത് സാൻഡ്‌ബോക്സിന്റെ ലൈഫ് സൈക്കിൾ ഓർക്കസ്ട്രേറ്റ് ചെയ്യുന്നതിന് ഉത്തരവാദിയാണ്. ഇത് ഒരම ഒറ്റ API വഴി എല്ലാ അഭ്യർത്ഥനകളും സ്വീകരിക്കുന്നു, സാൻഡ്‌ബോക്സ് അവസ്ഥ ട്രാക്ക് ചെയ്യുന്നു, കൂടാതെ ഏത് ബാക്ക്‌എൻഡിലേക്കാണ് റൂട്ട് ചെയ്യേണ്ടതെന്ന് തത്സമയം തീരുമാനിക്കുന്നു. ഒരു ടാസ്‌ക്കിന് പുതിയ സാൻഡ്‌ബോക്സ് എപ്പോഴാണ് വേണ്ടതെന്ന് ഇത് നിർണ്ണയിക്കുന്നു. ഒരു ടാസ്‌ക് എപ്പോഴാണ് പൂർത്തിയാകുന്നതെന്നും അതിന്റെ അനുബന്ധ സാൻഡ്‌ബോക്സ് എപ്പോഴാണ് നശിപ്പിക്കേണ്ടതെന്നും ഇത് തീരുമാനിക്കുന്നു. കൺട്രോൾ പ്ലെയ്ൻ സ്റ്റേറ്റ്‌ലെസ്സ് ആയതും കേന്ദ്രീകൃതമായി ഹോസ്റ്റ് ചെയ്യപ്പെടുന്നതുമായതിനാൽ, ഒരേ API കോൾ പ്രാദേശിക മെഷീൻ ഉൾപ്പെടെയുള്ള നിലവിലുള്ള ഏത് അടിസ്ഥാന സൗകര്യങ്ങളിലും പ്രവർത്തിക്കുന്നു.

നോഡ് തലത്തിലുള്ള സേവനങ്ങൾ: SPACE-ൽ, Perplexity-യുടെ സുരക്ഷാ നിലപാട് വേറിട്ടുനിൽക്കുന്നത് നോഡ് തലത്തിലുള്ള സേവനങ്ങൾ ഉള്ളിടത്താണ്. SPACE ഉപയോഗിച്ച്, ക്രെഡൻഷ്യലുകൾ ഒരിക്കലും സാൻഡ്‌ബോക്സിലേക്ക് കടന്നുപോകില്ല. പകരം, അവ ആവശ്യമായ കൃത്യസമയത്ത് സാൻഡ്‌ബോക്സിന് പുറത്തുനിന്ന് പാസ് ചെയ്യപ്പെടുന്നു. ഒരു Google അക്കൗണ്ടിലേക്ക് കണക്റ്റുചെയ്യാൻ ഒരു ഏജന്റിന് താൽക്കാലിക ആക്‌സസ് ആവശ്യമുള്ളപ്പോൾ, സാൻഡ്‌ബോക്സിനുള്ളിൽ ക്രെഡൻഷ്യലുകൾ തുറന്നുകാട്ടാതെ SPACE-ന് സൈൻ-ഇൻ ഫ്ലോ കൈകാര്യം ചെയ്യാൻ കഴിയും. ഔട്ട്‌ബൗണ്ട് നെറ്റ്‌വർക്ക് ട്രാഫിക്കും നോഡ് തലത്തിൽ നിയന്ത്രിക്കപ്പെടുന്നു. വിട്ടുവീഴ്ച ചെയ്യപ്പെട്ട ഒരു ഏജന്റിന് അതിന്റെ അനുവദനീയമായ പരിധിക്കപ്പുറത്തുള്ള ഒന്നിനെയും സമീപിക്കാൻ കഴിയില്ല.

സാൻഡ്‌ബോക്സിനുള്ളിൽ: സാൻഡ്‌ബോക്സിനുള്ളിലുള്ള പാളിയാണ് SPACE-ന്റെ അവസാന പ്രതിരോധ നിര. SPACE ഉപയോഗിച്ച്, ഓരോ ടാസ്‌കും സ്വന്തം ഓപ്പറേറ്റിംഗ് സിസ്റ്റത്തോടുകൂടിയ പൂർണ്ണമായി ഐസൊലേറ്റ് ചെയ്യപ്പെട്ട പരിസ്ഥിതിയായ ഒരു Firecracker മൈക്രോവിഎമ്മിനുള്ളിൽ പ്രവർത്തിക്കുന്നു. അതിനർത്ഥം ഉള്ളിലുള്ള ഒന്നിനും ഹോസ്റ്റിനെയോ സമാന്തരമായി പ്രവർത്തിക്കുന്ന മറ്റ് സാൻഡ്‌ബോക്സിനെയോ ബാധിക്കാൻ കഴിയില്ല എന്നാണ്. Perplexity-യുടെ കൺട്രോൾ പ്ലെയ്നുമായി സംസാരിക്കുന്ന ഒരേയൊരു പ്രക്രിയ സ്പേസ് ഡെമൺ ആണ്. ഇത് ആരംഭിക്കുക, താൽക്കാലികമായി നിർത്തുക, സ്നാപ്പ്‌ഷോട്ട് കമാൻഡുകൾ പോലെയുള്ള പ്രവർത്തന സിഗ്നലുകൾ വഹിക്കുന്നു. ഇതാണ് ആശയവിനിമയ ചാനലിനെ ഓഡിറ്റ് ചെയ്യാവുന്നതും നിയന്ത്രിക്കാവുന്നതുമാക്കുന്നത്.

നിയന്ത്രണങ്ങളുടെ മുഴുവൻ സെറ്റും വാഗ്ദാനം ചെയ്യുന്നു

പൂർണ്ണമായ നിയന്ത്രണങ്ങൾ വാഗ്ദാനം ചെയ്യുന്നതിൽ ദാതാക്കളുടെ ഇടയിൽ SPACE അതുല്യമാണ്. താൽക്കാലികമായി നിർത്തലും പുനരാരംഭിക്കലും, സെഷൻ ഫോർക്കിംഗ്, സെഷൻ തിരിച്ചുള്ള ക്രെഡൻഷ്യൽ ഐസൊലേഷൻ, പ്രോട്ടോക്കോൾ ഫോർവേഡിംഗ്, മൾട്ടി-ബാക്ക്‌എൻഡ് ഓർക്കസ്ട്രേഷൻ എന്നിവ SPACE ഒരൊറ്റ പ്ലാറ്റ്‌ഫോമിൽ സംയോജിപ്പിക്കുന്നു.

SPACE മുഴുവൻ സെഷൻ അവസ്ഥയുടെയും റോളിംഗ് സ്നാപ്പ്‌ഷോട്ടുകൾ എടുക്കുന്നു, ഓരോ മിനിറ്റിലും ഫയലുകൾക്കൊപ്പം തത്സമയ മെമ്മറിയും ക്യാപ്ചർ ചെയ്യുന്നു. ഇതിന് ഒരു ആഴ്ച പിന്നോട്ട് പോകാൻ കഴിയും. ഇത് അടിസ്ഥാനപരമായി ഒരു ബിൽറ്റ്-ഇൻ ടൈം മെഷീൻ ആണ്: ആർക്കും ടാസ്‌ക്കിന്റെ ഇടയിൽ മാറിനടക്കാം, ഒരു ആഴ്ച കഴിഞ്ഞ് തിരിച്ചുവരാം, ഏജന്റ് അത് താൽക്കാലികമായി നിർത്തിയ സ്ഥലത്തുനിന്ന് തന്നെ കൃത്യമായി ആരംഭിക്കുന്നു.

SPACE ഡിഫോൾട്ടായി സാൻഡ്‌ബോക്സിനെ വിശ്വസനീയമല്ലാത്തതായി കണക്കാക്കുകയും നെറ്റ്‌വർക്ക് നിയന്ത്രണങ്ങൾ, ക്രെഡൻഷ്യൽ നിയന്ത്രണങ്ങൾ, ടെനന്റ് സെപ്പറേഷൻ, എൻക്രിപ്റ്റ് ചെയ്ത സ്റ്റോറേജ് എന്നിവ ഉപയോഗിച്ച് അതിനെ ചുറ്റുകയും ചെയ്യുന്നു. ഒരു പാളിയിൽ വിട്ടുവീഴ്ച സംഭവിച്ചാൽ, മറ്റുള്ളവ വ്യക്തിഗത വിവരങ്ങളെ സംരക്ഷിക്കും.

SPACE ഉപയോഗിച്ച്, എന്റർപ്രൈസ് ഉപഭോക്താക്കൾക്ക് അവരുടെ സ്വന്തം എൻക്രിപ്ഷൻ കീകൾ കൊണ്ടുവരാനും കഴിയും. ഒരു ഉപഭോക്താവ് അവരുടെ കീ റദ്ദാക്കുകയാണെങ്കിൽ, പുതിയ സാൻഡ്‌ബോക്സുകൾക്ക് ബൂട്ട് ചെയ്യാനാകില്ല കൂടാതെ നിലവിലുള്ള ഉപഭോക്താവ് എൻക്രിപ്റ്റ് ചെയ്ത ഡാറ്റ ഇനി ഡिक्रിപ്റ്റ് ചെയ്യാൻ കഴിയില്ല.

പ്രത്യേകം സെൻസിറ്റീവ് ഡാറ്റ ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്നവർക്കായി, on-prem ആയും പൂർണ്ണമായും ഓഫ്‌ലൈനായും പ്രവർത്തിക്കുന്ന തരത്തിലാണ് SPACE രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. ഈ തലത്തിലുള്ള നിയന്ത്രണം ഡാറ്റ ഒരിക്കലും സുരക്ഷിതമായ പരിസ്ഥിതിക്ക് പുറത്തുപോകേണ്ടതില്ലെന്ന് ഉറപ്പാക്കുന്നു.

Perplexity-ക്ക് കരുത്തുപകരുന്നു

Perplexity എഞ്ചിനീയർമാർ 10 ആഴ്ചയ്ക്കുള്ളിൽ SPACE ആശയത്തിൽ നിന്ന് ഉൽപ്പന്നത്തിലേക്ക് എത്തിച്ചു. കഴിഞ്ഞ രണ്ട് മാസമായി ഞങ്ങൾ SPACE ആന്തരികമായി ഉപയോഗിച്ചുവരികയാണ്. കഴിഞ്ഞ ആഴ്ചയിൽ, ഇത് ദശലക്ഷക്കണക്കിന് സാൻഡ്‌ബോക്സ് സൃഷ്‌ടികളെയും കോടിക്കണക്കിന് സാൻഡ്‌ബോക്സ് റീകണക്റ്റുകളെയും പിന്തുണച്ചിട്ടുണ്ട്. ഇന്ന് എല്ലാ ഉപയോക്താക്കൾക്കും ഇത് Computer-ൽ ലൈവ് ആണ്.

എവിടെയും പ്രവർത്തിക്കുന്നതിനാണ് SPACE നിർമ്മിച്ചിരിക്കുന്നത്. NVIDIA Vera CPU-ലെ ആദ്യകാല പരിശോധനയിൽ, യഥാർത്ഥ Computer-സ്റ്റൈൽ വർക്ക്ഫ്ലോകൾ ഞങ്ങളുടെ നിലവിലെ പ്രൊഡക്ഷൻ റഫറൻസിനേക്കാൾ ഏകദേശം 1.5x വേഗത്തിൽ പ്രവർത്തിക്കുകയും, ഒരേസമയം പ്രവർത്തിക്കുന്ന സാൻഡ്‌ബോക്സുകൾ 1.9x വരെ വേഗത്തിൽ ആരംഭിക്കുകയും ചെയ്തു. ഏജന്റ് സാൻഡ്‌ബോക്സുകൾക്ക് Vera അസാധാരണമായ മൂല്യം നൽകുമെന്ന് ഈ ആദ്യകാല സിഗ്നൽ തെളിയിക്കുകയും SPACE-ന് പിന്നിലുള്ള ബാക്ക്‌എൻഡ് അജ്ഞേതവാദത്തെ സാധൂകരിക്കുകയും ചെയ്യുന്നു.

സുരക്ഷിതമായ പരിസ്ഥിതികളിൽ നിക്ഷേപിക്കുന്നു

ഫങ്ഷണാലിറ്റി, എഫിഷ്യൻസി, സുരക്ഷ എന്നിവ arasında ട്രേഡ്-ഓഫ് ഉണ്ടാകരുത് എന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. ഏജന്റുകൾ ഞങ്ങൾ ചെയ്യുന്ന അതേ ഡാറ്റയിലുടനീളം പ്രവർത്തിക്കണം, ഞങ്ങൾ ഏത് ടീമംഗത്തിലും അർപ്പിക്കുന്ന അതേ വിശ്വാസത്തോടെ.

ഈ സുരക്ഷിതമായ പരിസ്ഥിതിയുടെ ആദ്യ ആവർത്തനം മാത്രമാണ് SPACE. AI വികസിക്കുന്നത് തുടരുമ്പോൾ, ഞങ്ങളുടെ സുരക്ഷയും ഇൻഫ്രാസ്ട്രക്ചർ സിസ്റ്റങ്ങളും അതുപോലെ തന്നെ തുടരും.

കൂടുതൽ വിവരങ്ങൾക്ക് Making SPACE: Secure and Efficient Runtimes for Long-Running Agents കാണുക.