Computer-ന് പിന്നിലെ സാൻഡ്‌ബോക്സ് പ്ലാറ്റ്‌ഫോമായ SPACE ഓപ്പൺ സോഴ്സ് ചെയ്യുന്നു

ഫെബ്രുവരിയിൽ Computer അവതരിപ്പിച്ചതു മുതൽ, പേഴ്സണൽ ഏജന്റുകളുടെ രംഗത്ത് Perplexity ആദ്യകാല വഴികാട്ടികളിൽ ഒന്നാണ്. ഏജന്റ് ഗവേണൻസ്, സുരക്ഷിതമല്ലാത്ത പെരുമാറ്റങ്ങൾ കണ്ടെത്തൽ, നിയന്ത്രണം വിട്ട ഏജന്റ് പ്രവർത്തനങ്ങൾ തടയൽ എന്നീ കഠിനമായ പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ്. ജൂലൈയിൽ, വാണിജ്യപരമായി ലഭ്യമായ ഞങ്ങളുടെ സാൻഡ്‌ബോക്സ് പ്രൊവൈഡറിനു പകരം, SPACE എന്ന് ഞങ്ങൾ പേരിട്ട, കൂടുതൽ കരുത്തുറ്റതും പ്രതിരോധശേഷിയുള്ളതുമായ ഒരു ഇൻ-ഹൗസ് സൊല്യൂഷൻ ഞങ്ങൾ കൊണ്ടുവന്നു.

നൂതന ഏജന്റിക് സിസ്റ്റങ്ങൾക്ക് SPACE ഉയർന്ന സുരക്ഷ നൽകുന്നു. വാസ്തവത്തിൽ, OpenAI/Hugging Face സംഭവത്തിൽ ഉപയോഗിച്ചതുപോലുള്ള നെറ്റ്‌വർക്ക്-ബൈപാസ് ടെക്നിക്കുകൾക്കെതിരെ SPACE പ്രതിരോധശേഷിയുള്ളതാണെന്ന് അടുത്തിടെ നടത്തിയ തുടർച്ചയായ സുരക്ഷാ പരിശോധനകൾ തെളിയിച്ചു.

കൂടുതൽ സുരക്ഷിതമായ ഏജന്റ് സിസ്റ്റങ്ങൾ നിർമ്മിക്കാനും വ്യവസായത്തിലുടനീളം സംരക്ഷണം കൂടുതൽ ശക്തമാക്കുന്നതിന് സംഭാവന നൽകാനും ഡെവലപ്പർമാർക്ക് ഒരു അടിത്തറ നൽകുന്നതിനായി, ഇന്ന് ഞങ്ങൾ SPACE ഓപ്പൺ സോഴ്‌സ് ചെയ്യുന്നു. ഡെവലപ്പർമാർക്ക് റിപ്പോസിറ്ററി ഇവിടെ ആക്‌സസ് ചെയ്യാം.

ഏജന്റ് ഗവേണൻസ് ഒരു എഞ്ചിനീയറിംഗ് പ്രശ്നമാണ്, അത് പരിഹരിക്കുന്നതിന് ഓപ്പൺ സോഴ്സ് അത്യാവശ്യമാണ്. പരിശോധിക്കാനും പൊരുത്തപ്പെടുത്താനും അടിസ്ഥാനമാക്കി നിർമ്മിക്കാനും കഴിയുന്ന സിസ്റ്റങ്ങൾ ഡെവലപ്പർമാർക്ക് ലഭിക്കുമ്പോൾ, അവർ കൂടുതൽ ദൗർബല്യങ്ങൾ കണ്ടെത്തുകയും മികച്ച ടൂളുകൾ വികസിപ്പിക്കുകയും ചെയ്യുന്നു. SPACE ഓപ്പൺ സോഴ്സ് ചെയ്യുന്നതിലൂടെ, ഐസൊലേഷൻ, സ്റ്റേറ്റ് വീണ്ടെടുക്കൽ, ക്രെഡൻഷ്യൽ, നെറ്റ്‌വർക്ക് നിയന്ത്രണങ്ങൾ എന്നിവ ഉൾച്ചേർത്ത, പ്രൊഡക്ഷനിൽ പരീക്ഷിച്ച ഒരു അടിത്തറ ഏജന്റ് റൺടൈമുകൾക്കായി ഡെവലപ്പർമാർക്ക് ലഭിക്കുന്നു.

മറ്റ് ബിൽഡർമാർക്കായി ഒരു അടിത്തറ സൃഷ്ടിക്കുന്നു

സാൻഡ്‌ബോക്സുകൾ ഏജന്റുകളെ സുരക്ഷിതമായി നിലനിർത്തുന്നു; സെൻസിറ്റീവ് വിവരങ്ങൾ സംരക്ഷിച്ചുകൊണ്ടുതന്നെ, ഈ ടാസ്കുകൾ പൂർത്തിയാക്കാൻ ആവശ്യമായ ടൂളുകളും ഫയലുകളും ആക്സസ് ചെയ്യാൻ അവ ഏജന്റുകളെ അനുവദിക്കുന്നു.

തങ്ങളുടെ ഏജന്റുകൾ കോഡ് പ്രവർത്തിപ്പിക്കുകയും ഫയലുകൾ കൈകാര്യം ചെയ്യുകയും ചെയ്യുന്ന എൻവയോൺമെന്റുകൾക്കായി, SPACE ഓപ്പൺ സോഴ്സ് ചെയ്യുന്നത് ഡെവലപ്പർമാർക്ക് ഒരു തുടക്കം നൽകുന്നു. SPACE സാൻഡ്‌ബോക്സ് പ്ലാറ്റ്‌ഫോം എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് കാണാനും അതിന്റെ ഇംപ്ലിമെന്റേഷനെ അടിസ്ഥാനമാക്കി നിർമ്മിക്കാനും ടീമുകൾക്ക് കഴിയും. അടിസ്ഥാന ഇൻഫ്രാസ്ട്രക്ചർ വീണ്ടും സൃഷ്ടിക്കുന്നതിനു പകരം, തങ്ങളുടെ ആവശ്യങ്ങൾക്കനുസരിച്ച് അത് പൊരുത്തപ്പെടുത്താനും അവർക്ക് കഴിയും.

Computer-ൽ, ഐസൊലേറ്റഡ് കോഡ് എക്സിക്യൂഷൻ, താൽക്കാലികമായി നിർത്തലും പുനരാരംഭിക്കലും, വീണ്ടെടുക്കൽ, സെഷൻ ബ്രാഞ്ചിംഗ് എന്നിവയെ SPACE പിന്തുണയ്ക്കുന്നു. താഴെപ്പറയുന്നവ ചെയ്യാൻ കഴിയുന്ന അസിസ്റ്റന്റുകൾക്ക് ഈ കഴിവുകൾ അടിത്തറയൊരുക്കുന്നു:

• ഡാറ്റ വിശകലനം ചെയ്യുക: ഒരു പ്രത്യേക വർക്ക്‌സ്പേസിൽ സ്പ്രെഡ്ഷീറ്റ് വൃത്തിയാക്കുക, കണക്കുകൂട്ടലുകൾ നടത്തുക, ചാർട്ടുകൾ സൃഷ്ടിക്കുക.
• ജോലി പുനരാരംഭിക്കുക: ആരെങ്കിലും ഒരു ഡ്രാഫ്റ്റ് അവലോകനം ചെയ്യുന്നതിനോ വിട്ടുപോയ വിവരങ്ങൾ നൽകുന്നതിനോ വേണ്ടി താൽക്കാലികമായി നിർത്തുക, തുടർന്ന് ഫയലുകളും പ്രവർത്തന നിലയും സംരക്ഷിച്ചുകൊണ്ടുതന്നെ പുനരാരംഭിക്കുക.
• ബദലുകൾ പരീക്ഷിക്കുക: വർക്ക്‌സ്പേസിന്റെ പ്രത്യേക പകർപ്പുകളിൽ ഒരു ഡാറ്റാസെറ്റ് വൃത്തിയാക്കാനുള്ള രണ്ട് വഴികൾ പരീക്ഷിക്കുക, അല്ലെങ്കിൽ ഒരു പിഴവിനു ശേഷം മുമ്പത്തെ ഒരു ഫയൽ പുനഃസ്ഥാപിക്കുക.

SPACE-ന്റെ ഡോക്യുമെന്റ് ചെയ്ത ഐസൊലേഷൻ, സെഷൻ നിയന്ത്രണങ്ങൾ ഡെവലപ്പർമാർക്ക് എങ്ങനെ ഉപയോഗിക്കാമെന്ന് ഈ ഉദാഹരണങ്ങൾ വ്യക്തമാക്കുന്നു. SPACE തങ്ങളുടെ സ്വന്തം സിസ്റ്റങ്ങളിലേക്ക് സംയോജിപ്പിക്കുന്നതിനു മുമ്പ്, പ്ലാറ്റ്‌ഫോം, സുരക്ഷാ എഞ്ചിനീയർമാർക്ക് ഐസൊലേഷൻ മോഡലും സുരക്ഷാ ഉദാഹരണങ്ങളും അവലോകനം ചെയ്യാനും കഴിയും.

ഓട്ടോണമസ് ജോലികൾക്കായി സുരക്ഷ വർദ്ധിപ്പിക്കുന്നു

പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ഏജന്റുകൾക്ക് കൂടുതൽ സ്വാതന്ത്ര്യം നൽകുമ്പോൾ, അവ അത് എങ്ങനെ ചെയ്യുന്നു എന്നതിന് വ്യക്തമായ പരിധികൾ ആവശ്യമാണ്. നിയമാനുസൃതമായ ടാസ്കുകൾ ചെയ്യുന്ന ഏജന്റുകൾ പോലും, ഇല്ലാത്ത ഫയലുകൾ, പരാജയപ്പെട്ട അഭ്യർത്ഥനകൾ, അനുമതി നിഷേധങ്ങൾ എന്നിവ മറികടക്കാൻ ശ്രമിക്കുമ്പോൾ സുരക്ഷാ അതിരുകൾ ലംഘിച്ചേക്കാമെന്ന് ഞങ്ങൾക്കറിയാം.

സുരക്ഷിതമല്ലാത്ത പെരുമാറ്റത്തിനുള്ള സാധ്യത കുറയ്ക്കാൻ ഞങ്ങൾക്ക് മോഡൽ സുരക്ഷാ സംവിധാനങ്ങൾ ഏർപ്പെടുത്താം. ആ സുരക്ഷാ സംവിധാനങ്ങൾ പരാജയപ്പെട്ടാൽ, ചുറ്റുമുള്ള സിസ്റ്റത്തിൽ സ്വതന്ത്രമായ നിയന്ത്രണങ്ങൾ ചേർക്കുന്നത് നാശനഷ്ടം പരിമിതപ്പെടുത്താൻ സഹായിക്കുന്നു. ഒരു ഏജന്റ് എന്ത് ചെയ്യാൻ തീരുമാനിച്ചാലും, അതിന് എന്തൊക്കെ ആക്സസ് ചെയ്യാമെന്ന് ഈ നിയന്ത്രണങ്ങൾ പരിമിതപ്പെടുത്തുന്നു.

ഏജന്റ് സൃഷ്ടിക്കുന്ന കോഡിനും ഫയലുകൾക്കുമായുള്ള ഒരു പ്രത്യേക വർക്ക്‌സ്പേസിന് ചുറ്റും SPACE ആ നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുന്നു. ഐസൊലേഷൻ, വീണ്ടെടുക്കൽ, കാര്യക്ഷമമായ എക്സിക്യൂഷൻ എന്നിവ സംയോജിപ്പിക്കുന്ന രീതിയിലാണ് ഞങ്ങൾ ഇത് രൂപകൽപ്പന ചെയ്തത്. സുരക്ഷാ അതിരുകൾ മാനിക്കാൻ മോഡലിനെ മാത്രം ആശ്രയിക്കാതെ, ദീർഘമായ സെഷനുകളിൽ ഉപയോഗപ്രദമായ ജോലികൾ ചെയ്യാൻ ഇത് ഏജന്റുകളെ സഹായിക്കുന്നു.

സ്വന്തം ഓപ്പറേറ്റിംഗ് സിസ്റ്റത്തിനുള്ളിൽ പ്രവർത്തിക്കുന്നു

ഓരോ SPACE സാൻഡ്‌ബോക്സും സ്വന്തം ഓപ്പറേറ്റിംഗ് സിസ്റ്റമുള്ള ഒരു ചെറിയ വെർച്വൽ മെഷീനിനുള്ളിലാണ് പ്രവർത്തിക്കുന്നത്; ഇത് ഏജന്റിന്റെ ജോലിക്കും ഹോസ്റ്റ് സിസ്റ്റത്തിനുമിടയിൽ ഒരു ഐസൊലേഷൻ അതിർത്തി സൃഷ്ടിക്കുന്നു. ഈ വർക്ക്‌സ്പേസുകൾ എപ്പോൾ സൃഷ്ടിക്കണം, താൽക്കാലികമായി നിർത്തണം, പുനരാരംഭിക്കണം, അല്ലെങ്കിൽ നീക്കം ചെയ്യണം എന്നത് ഒരു കേന്ദ്ര കൺട്രോൾ പ്ലെയിൻ ഏകോപിപ്പിക്കുന്നു.

SPACE സാൻഡ്‌ബോക്സിനെ വിശ്വസനീയമല്ലാത്തതായി കണക്കാക്കുകയും, നെറ്റ്‌വർക്ക് ആക്സസും പ്ലാറ്റ്‌ഫോം സൂക്ഷിക്കുന്ന ക്രെഡൻഷ്യലുകളും സാൻഡ്‌ബോക്സിന് പുറത്ത് കൈകാര്യം ചെയ്യുകയും ചെയ്യുന്നു. ആ ക്രെഡൻഷ്യലുകൾ തങ്ങളുടെ വർക്കിംഗ് എൻവയോൺമെന്റിൽ സംഭരിക്കാതെ തന്നെ ഏജന്റുകൾക്ക് അംഗീകൃത സേവനങ്ങളിലേക്ക് കണക്റ്റ് ചെയ്യാം.

ഇടയ്ക്കിടെയുള്ള ഫയൽ സ്നാപ്പ്ഷോട്ടുകളും പ്രവർത്തിക്കുന്ന മുഴുവൻ എൻവയോൺമെന്റിന്റെയും ചെക്ക്‌പോയിന്റുകളും തടസ്സങ്ങൾക്കിടയിലും പുരോഗതി സംരക്ഷിക്കുന്നു. ഈ പ്രവർത്തനങ്ങൾ കാര്യക്ഷമമായി നിലനിർത്താൻ, മുഴുവൻ എൻവയോൺമെന്റുകളും ആവർത്തിച്ച് പകർത്തുന്നതിനു പകരം SPACE മാറ്റങ്ങൾ മാത്രം സംഭരിക്കുന്നു. ഒരു സാൻഡ്‌ബോക്സ് സൃഷ്ടിക്കാനോ പുനഃസ്ഥാപിക്കാനോ ബ്രാഞ്ച് ചെയ്യാനോ ആവശ്യമായ ജോലി ഇത് കുറയ്ക്കുന്നു.

പ്രൊഡക്ഷൻ പ്രകടനം മെച്ചപ്പെടുത്തുന്നു

ജൂലൈ മുതൽ, എല്ലാ Computer സെഷനുകൾക്കും കരുത്ത് പകരുന്നത് SPACE ആണ്; പ്രതിദിനം ദശലക്ഷക്കണക്കിന് സാൻഡ്‌ബോക്സുകൾ സൃഷ്ടിക്കുന്നത് ഇത് കൈകാര്യം ചെയ്തിട്ടുണ്ട്. ഒരേ പ്രൊഡക്ഷൻ ട്രാഫിക്കിൽ നടത്തിയ ഒരു താരതമ്യത്തിൽ, ഞങ്ങളുടെ മുൻ പ്രൊവൈഡറെ അപേക്ഷിച്ച് സാൻഡ്‌ബോക്സ് സൃഷ്ടിക്കൽ മൂന്ന് മുതൽ അഞ്ച് മടങ്ങ് വരെ വേഗത്തിലായിരുന്നു.

SPACE-ന്റെ അതിരുകൾ ഭേദിക്കാൻ മനഃപൂർവം ശ്രമിക്കുന്ന ഏജന്റുകൾക്കെതിരെ ഞങ്ങൾ SPACE പരീക്ഷിക്കുകയും ചെയ്തു. ഞങ്ങൾ പ്രസിദ്ധീകരിച്ച സുരക്ഷാ മൂല്യനിർണ്ണയത്തിൽ, 108 ശ്രമങ്ങളിൽ ഒന്നിൽപ്പോലും വെർച്വൽ മെഷീനിൽ നിന്ന് ഹോസ്റ്റിലേക്ക് രക്ഷപ്പെടാനായില്ല, എന്നാൽ ചില ശ്രമങ്ങൾ നെറ്റ്‌വർക്ക് നിയന്ത്രണങ്ങൾ മറികടക്കാനുള്ള വഴികൾ കണ്ടെത്തി. ഞങ്ങൾ ആ ദൗർബല്യങ്ങൾ പരിഹരിച്ചു, തുടർന്നുള്ള പരിശോധനയിൽ കണ്ടെത്തിയ രണ്ട് ആക്രമണ രീതികളും വിജയിച്ചില്ല.

മറ്റ് സാൻഡ്‌ബോക്സ് പ്ലാറ്റ്‌ഫോമുകളിൽ ഞങ്ങൾ കണ്ടെത്തിയ അനുബന്ധ ദൗർബല്യങ്ങൾ അവയുടെ വെണ്ടർമാരെ ഞങ്ങൾ അറിയിക്കുകയും ചെയ്തു; അങ്ങനെ ഈ ജോലി ഞങ്ങളുടെ സ്വന്തം ഇൻഫ്രാസ്ട്രക്ചറിനപ്പുറത്തേക്കും വ്യാപിപ്പിച്ചു.

കൂടുതൽ സുരക്ഷിതമായ ഏജന്റിക് AI-ക്ക് സംഭാവന നൽകുന്നു

AI കൂടുതൽ ജോലികൾ ഏറ്റെടുക്കുമ്പോൾ ആളുകൾ ആശ്രയിക്കുന്ന സിസ്റ്റങ്ങളെ ശക്തിപ്പെടുത്താനുള്ള വിശാലമായ ശ്രമത്തിന്റെ ഭാഗമാണ് SPACE. Secure Intelligence Institute വഴി, ഞങ്ങൾ സുരക്ഷാ ഗവേഷണം നടത്തുകയും വിശാലമായ സമൂഹവുമായി സഹകരിക്കുകയും കണ്ടെത്തലുകളെ പ്രായോഗിക പ്രതിരോധങ്ങളാക്കി മാറ്റുകയും ചെയ്യുന്നു.

സുരക്ഷാ ടൂളുകൾ ഓപ്പൺ സോഴ്സ് ചെയ്യുന്നത്, പ്രതിരോധങ്ങൾ പരീക്ഷിക്കാനും ദൗർബല്യങ്ങൾ കണ്ടെത്താനും കൂടുതൽ സുരക്ഷിതമായ AI സിസ്റ്റങ്ങൾ നിർമ്മിക്കാനും ഡെവലപ്പർമാർക്ക് കൂടുതൽ വഴികൾ നൽകുമെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. ആ ജോലിയുടെ വിവിധ ഭാഗങ്ങൾ കൈകാര്യം ചെയ്യുന്ന ടൂളുകൾ ഞങ്ങൾ പങ്കിട്ടിട്ടുണ്ട്:

• BrowseSafe, വെബ് പേജുകളിൽ മറഞ്ഞിരിക്കുന്ന ദുരുദ്ദേശ്യപരമായ നിർദ്ദേശങ്ങൾ കണ്ടെത്തുന്നതിനുള്ള ഒരു മോഡലും ബെഞ്ച്മാർക്കും.
• Numbat, ജൂലൈയിൽ ഓപ്പൺ സോഴ്സ് ചെയ്ത ഒരു സുരക്ഷാ ടൂൾകിറ്റ്; കമ്പ്യൂട്ടറുകളിലെ അപകടകരമായ ഏജന്റ് പെരുമാറ്റം കണ്ടെത്താനും അന്വേഷിക്കാനും തടയാനും ഇത് സഹായിക്കുന്നു
• Bumblebee, മെയ് മാസത്തിൽ ഓപ്പൺ സോഴ്സ് ചെയ്ത ഒരു സ്കാനർ; അപകടസാധ്യതയുള്ള സോഫ്റ്റ്‌വെയർ പാക്കേജുകൾ, എക്സ്റ്റൻഷനുകൾ, AI ടൂൾ കോൺഫിഗറേഷനുകൾ എന്നിവയുണ്ടോ എന്ന് ഇത് ഡെവലപ്പർ മെഷീനുകളിൽ പരിശോധിക്കുന്നു

ഈ ടൂളുകൾ ലഭ്യമാക്കുന്നതിലൂടെ, മറ്റ് ടീമുകൾക്ക് ഞങ്ങളുടെ ജോലി പരിശോധിക്കാനും തങ്ങളുടെ ആവശ്യങ്ങൾക്കനുസരിച്ച് പൊരുത്തപ്പെടുത്താനും മെച്ചപ്പെടുത്തലുകൾ സംഭാവന ചെയ്യാനും കഴിയുന്നു. SPACE-ലൂടെ, ഏജന്റുകൾ കോഡ് എക്സിക്യൂട്ട് ചെയ്യുകയും ഫയലുകൾ കൈകാര്യം ചെയ്യുകയും ചെയ്യുന്ന എൻവയോൺമെന്റുകളിലേക്ക് ഞങ്ങൾ ആ സമീപനം വ്യാപിപ്പിക്കുകയാണ്.

ഏജന്റ് സിസ്റ്റങ്ങൾക്കായി വിന്യസിക്കുന്നു

Akamai തങ്ങളുടെ ക്ലൗഡ് പ്ലാറ്റ്‌ഫോമിൽ SPACE പരീക്ഷിച്ച് ലോഞ്ച് ചെയ്‌തു; ഇത് ഉപഭോക്താക്കളിലേക്ക് എത്തിക്കാൻ Perplexity-യുമായി ചേർന്ന് പ്രവർത്തിക്കുകയും ചെയ്യുന്നു. തങ്ങളുടെ Managed AI Services പോർട്ട്‌ഫോളിയോയിലേക്ക് SPACE ചേർക്കാൻ Crusoe-യും Perplexity-യുമായി പങ്കാളിത്തത്തിൽ ഏർപ്പെട്ടിട്ടുണ്ട്. CoreWeave, CKS-ൽ വിലയിരുത്തലിനായി SPACE വിന്യസിക്കാൻ ആഗ്രഹിക്കുന്ന ഡെവലപ്പർമാർക്കുള്ള സജ്ജീകരണ മാർഗ്ഗനിർദ്ദേശങ്ങൾ പ്രസിദ്ധീകരിച്ചിട്ടുണ്ട്.

തങ്ങളുടെ സ്വന്തം ഏജന്റ് സിസ്റ്റങ്ങൾക്കായി SPACE വിന്യസിക്കാൻ, ഡെവലപ്പർമാർക്ക് SPACE-ന്റെ സജ്ജീകരണ നിർദ്ദേശങ്ങളും സുരക്ഷാ മാർഗ്ഗനിർദ്ദേശങ്ങളും ഉപയോഗിച്ച് തുടങ്ങാം. പിന്തുണയ്ക്കുന്ന കോൺഫിഗറേഷനുകളും ഉൾപ്പെടുത്തിയിട്ടുള്ള ഘടകങ്ങളും റിപ്പോസിറ്ററിയിലും ഡോക്യുമെന്റേഷനിലും വ്യക്തമാക്കിയിട്ടുണ്ട്.