ഡാറ്റാ സെന്റർ നിങ്ങളുടെ മെഷീനിലേക്ക് മാറുന്നു

ഓരോ ഉപയോക്താവിനും വാട്ടിന് ഏറ്റവും കൂടുതൽ ടോക്കൺ മൂല്യം നൽകുക എന്നതാണ് ഒരു AI സിസ്റ്റത്തിന്റെ ശരിയായ ലക്ഷ്യം. അത് ലളിതമാണെന്ന് തോന്നാം. എന്നാൽ അതത്ര എളുപ്പമല്ല, കാരണം മൂന്ന് കാര്യങ്ങൾ പരസ്പരം എതിരായി പ്രവർത്തിക്കുന്നു.

കൃത്യതയ്ക്ക് ഏറ്റവും കഴിവുള്ള മോഡലുകൾ ആവശ്യമാണ്, അവ പ്രവർത്തിപ്പിക്കാൻ ചെലവേറിയതാണ്. ചില ജോലികൾ നിങ്ങളുടെ മെഷീൻ വിട്ടു പോകരുത് എന്ന് സ്വകാര്യത ആവശ്യപ്പെടുന്നു. ഒരു ചെറിയ മോഡലിന് കൈകാര്യം ചെയ്യാൻ കഴിയുന്ന ഒരു ടാസ്കിനായി ഒരു ഫ്രണ്ടിയർ മോഡലിന്റെ കമ്പ്യൂട്ട് ചെലവഴിക്കരുതെന്ന് ചെലവും ഊർജ്ജവും ആവശ്യപ്പെടുന്നു. മറ്റുള്ളവയെ മാനിക്കാതെ ഒരെണ്ണം മാത്രം പരമാവധി വർദ്ധിപ്പിക്കാൻ നിങ്ങൾക്ക് കഴിയില്ല.

ഈ മൂന്നെണ്ണവും സന്തുലിതമാക്കുക എന്നത് ഒരു ഓർക്കെസ്ട്രേഷൻ പ്രശ്നമാണ്. ഓർക്കെസ്ട്രേഷനാണ് Perplexity എപ്പോഴും ചെയ്തുപോന്നിട്ടുള്ളത്.

Personal Computer-ന്റെ അടുത്ത ഘട്ടം ഇന്ന് ഞങ്ങൾ പ്രഖ്യാപിച്ചു: ആദ്യത്തെ ഹൈബ്രിഡ് ലോക്കൽ-സർവർ ഇൻഫറൻസ് ഓർക്കെസ്ട്രേറ്റർ. ഏത് ജോലിയാണ് നിങ്ങളുടെ ഉപകരണത്തിൽ പ്രവർത്തിക്കേണ്ടതെന്നും ഏത് ജോലിയാണ് ക്ലൗഡിലെ ഏജന്റുകളിലേക്ക് പോകേണ്ടതെന്നും ഇത് വിശകലനം ചെയ്യുകയും, ഒരു ടാസ്കിന്റെ ഓരോ ഭാഗവും ശരിയായ സ്ഥലത്തേക്ക് സ്വയം റൂട്ട് ചെയ്യുകയും ചെയ്യുന്നു.

മോഡലുകൾ മുതൽ കമ്പ്യൂട്ട് വരെ

കൃത്യവും പരാമർശിക്കപ്പെട്ടതുമായ ഉത്തരങ്ങൾ നൽകുന്നതിന് ടൂളുകളെയും ഉറവിടങ്ങളെയും ഓർക്കെസ്ട്രേറ്റ് ചെയ്തുകൊണ്ടാണ് Perplexity ആരംഭിച്ചത്. ഇരുപതിലധികം ഫ്രണ്ടിയർ മോഡലുകളിൽ സജ്ജീകരിച്ചിരിക്കുന്ന നൂറുകണക്കിന് ഏജന്റുകൾക്കായുള്ള ഒരു ഹാർനെസിലേക്ക് കമ്പ്യൂട്ടർ അതിനെ വിപുലീകരിച്ചു, ഓരോ ടാസ്കിനും അനുയോജ്യമായ ഒന്ന് തിരഞ്ഞെടുക്കുന്നു. ഇപ്പോൾ നമുക്ക് അതേ ആശയം കമ്പ്യൂട്ടിലേക്ക് തന്നെ വ്യാപിപ്പിക്കാം: ഏത് മോഡൽ, എവിടെ അത് പ്രവർത്തിക്കുന്നു, എന്തുകൊണ്ട്.

സെൻസിറ്റീവ് ഡാറ്റ ഉൾപ്പെടുന്നതും എന്നാൽ ശക്തമായ AI ആവശ്യമുള്ളതുമായ ജോലികൾക്കാണ് ഹൈബ്രിഡ് ഏജന്റിക് ഇൻഫറൻസ്. സാമ്പത്തിക രേഖകൾ, ആരോഗ്യ വിവരങ്ങൾ, വ്യക്തിഗത ഫയലുകൾ തുടങ്ങിയവ. സെൻസിറ്റീവ് ഡാറ്റ എപ്പോഴാണ് പ്രാദേശികമായി സൂക്ഷിക്കേണ്ടതെന്ന് നിർണ്ണയിക്കാൻ കോംപാക്റ്റ് മോഡൽ നിങ്ങളുടെ ഉപകരണത്തിൽ স্থানীয়മായി പ്രവർത്തിക്കുന്നു.

അതേസമയം, ഒരു ഫ്രണ്ടിയർ മോഡലിന്റെ പൂർണ്ണ ശേഷി ആവശ്യമുള്ള ജോലികൾ സർവറിൽ പ്രവർത്തിക്കുന്നു. യഥാർത്ഥ ടാസ്കുകളിൽ ഭൂരിഭാഗവും ഇവ രണ്ടിന്റെയും മിശ്രിതമാണ്, അതിനാൽ Personal Computer അവയെ വിഭജിക്കുകയും ഭാഗങ്ങൾ ഏകോപിപ്പിക്കുകയും ചെയ്യുന്നു. ലോക്കൽ അല്ലെങ്കിൽ ക്ലൗഡ് മുൻകൂട്ടി തിരഞ്ഞെടുക്കാൻ ആവശ്യപ്പെടുന്ന ടൂളുകളിൽ നിന്ന് വ്യത്യസ്തമായി, ഇത് സ്വന്തമായി, ഓരോ ടാസ്ക് ആയി സംഭവിക്കുന്നു.

ഉപകരണം തന്നെയാണ് ഡാറ്റാ സെന്റർ

വർഷങ്ങളായി, കൂടുതൽ കഴിവുള്ള സിലിക്കൺ അർത്ഥമാക്കുന്നത് വേഗതയേറിയ ആപ്പുകളും ദൈർഘ്യമേറിയ ബാറ്ററി ലൈഫുമാണ്. ചിപ്പിന് യഥാർത്ഥ ഇൻഫറൻസ് പ്രവർത്തിപ്പിക്കാൻ കഴിയുമ്പോൾ അത് മാറുന്നു. പ്രാദേശിക ഹാർഡ്‌വെയർ മികച്ചതാണെങ്കിൽ, ഓർക്കെസ്ട്രേറ്ററിന് നിങ്ങളുടെ മെഷീനിൽ കൂടുതൽ നിലനിർത്താനും, അത് യഥാർത്ഥത്തിൽ ആവശ്യമായ ജോലികൾക്കായി സർവറിനെ കൂടുതൽ മാറ്റിവെക്കാനും കഴിയും.

ഇന്റലിനൊപ്പം ഞങ്ങൾ ഇത് അനാവരണം ചെയ്തു, കൂടാതെ NVIDIA-യുടെ RTX സ്പാർക്ക് ഉൾപ്പെടെയുള്ള മറ്റ് ലോക്കൽ സിലിക്കണുകളിലും ഒരേ മോഡൽ-അഗ്നോസ്റ്റിക് ഹാർനെസ് പ്രവർത്തിക്കുന്നു. പ്രാദേശിക കമ്പ്യൂട്ടിനായുള്ള മത്സരം ആരംഭിച്ചിരിക്കുന്നു. ചിപ്പുകൾ പുരോഗമിക്കുമ്പോൾ, യഥാർത്ഥത്തിൽ തടസ്സമില്ലാത്ത ഓർക്കെസ്ട്രേഷനായി ഏജന്റിക് ഹാർനെസും അപ്ലൈഡ് ഇൻഫറൻസ് എഞ്ചിനീയറിംഗും ഉള്ളത് Perplexity-ക്ക് മാത്രമാണ്.

കമ്പ്യൂട്ട് കുറവിനെക്കുറിച്ച് ആശങ്കപ്പെടുന്ന എല്ലാവർക്കും ഇത് കണക്കുകൂട്ടലുകൾ മാറ്റുന്നു. സെൻസിറ്റീവ് ജോലികളും പതിവ് ജോലികളും ആളുകൾ ഇതിനകം സ്വന്തമാക്കിയിട്ടുള്ള ഉപകരണങ്ങളിലേക്ക് മാറുമ്പോൾ, അത് നൽകുന്നതിനായി നിങ്ങൾ കേന്ദ്രീകൃത ഇൻഫ്രാസ്ട്രക്ചർ നിർമ്മിക്കേണ്ടതില്ല. ഇത് പരമാധികാരം എങ്ങനെയുണ്ടെന്നും മാറ്റുന്നു: ഒരു ഡാറ്റാ സെന്റർ നിർമ്മിക്കാതെ തന്നെ പ്രധാനപ്പെട്ട ഡാറ്റയ്ക്ക് അതിന്റെ സ്വന്തം അധികാരപരിധിയിൽ തുടരാനാകും.

നിയന്ത്രിക്കാത്ത ഒരു ഡാറ്റാ സെന്ററിൽ നിർമ്മിക്കുന്നതിനേക്കാൾ സ്വന്തം ലാപ്‌ടോപ്പിൽ ഒരു ഡാറ്റാ സെന്റർ സ്വന്തമാക്കാൻ ആളുകൾ താൽപ്പര്യപ്പെടുന്നു.

കാര്യക്ഷമതയ്ക്കുള്ള ശരിയായ ആർക്കിടെക്ചർ

ഈ ആർക്കിടെക്ചർ Perplexity-ക്ക് അനുയോജ്യമാകാൻ ഒരു കാരണമുണ്ട്. ഞങ്ങളുടെ ബിസിനസ്സ് എപ്പോഴും കൃത്യമായ AI ആണ്, ഞങ്ങൾ വിൽക്കുന്ന ടോക്കണുകൾ പരമാവധി വർദ്ധിപ്പിക്കുകയല്ല. വാട്ടിന് മൂല്യം ഒപ്റ്റിമൈസ് ചെയ്യുന്നതിനുള്ള ശരിയായ പ്രചോദനമാണിത്: ഉത്തരം ശരിയായിരിക്കുകയും ജോലി പൂർത്തിയാവുകയും ചെയ്യുമ്പോഴാണ് ഞങ്ങൾ വിജയിക്കുന്നത്, അല്ലാതെ അത് കൂടുതൽ കമ്പ്യൂട്ട് ഉപയോഗിക്കുമ്പോഴല്ല.

ഹൈബ്രിഡ് AI എന്നത് വളരെക്കാലമായി ഒരു വ്യവസായ ലക്ഷ്യമാണ്. ജൂലൈയിൽ പുറത്തിറങ്ങുന്ന, ലോക്കൽ ഇൻഫറൻസോടുകൂടിയ Personal Computer, അതിനെ യാഥാർത്ഥ്യമാക്കുന്ന ആദ്യത്തെ ഉൽപ്പന്നമാണ്, കൂടാതെ നിങ്ങളുടെ മെഷീനിലും ക്ലൗഡിലുമായി കമ്പ്യൂട്ടിനെ ബുദ്ധിപരമായി ഓർക്കെസ്ട്രേറ്റ് ചെയ്യേണ്ട മറ്റൊരു കാര്യമായി കണക്കാക്കുന്ന ആദ്യത്തെ ഉൽപ്പന്നവുമാണ്.