डेटा सेंटर आपकी मशीन पर चला जाता है

एक एआई सिस्टम के लिए सही लक्ष्य प्रत्येक उपयोगकर्ता के लिए प्रति वाट अधिकतम टोकन मान प्रदान करना है। यह सरल लग सकता है, लेकिन ऐसा नहीं है, क्योंकि तीन चीजें एक-दूसरे के विपरीत काम करती हैं।

सटीकता के लिए सबसे सक्षम मॉडल की आवश्यकता होती है, जो चलाने में महंगे होते हैं। गोपनीयता की मांग है कि कुछ कार्य आपके मशीन से बाहर न जाएं। लागत और ऊर्जा की मांग है कि आप एक फ्रंटियर मॉडल की कंप्यूट शक्ति को उस कार्य पर खर्च न करें जिसे एक छोटा मॉडल संभाल सकता है। आप दूसरों का सम्मान किए बिना एक को अधिकतम नहीं कर सकते।

इन तीनों को संतुलित करना एक ऑर्केस्ट्रेशन समस्या है। और ऑर्केस्ट्रेशन वह कार्य है जिसे Perplexity हमेशा से करता आया है।

आज हमने Personal Computer के लिए अगला कदम घोषित किया: पहला हाइब्रिड स्थानीय-सर्वर इन्फ्रेंस ऑर्केस्ट्रेटर। यह इस बारे में तर्क करता है कि आपके डिवाइस पर कौन सा कार्य चलना चाहिए और क्लाउड में एजेंटों के पास कौन सा कार्य जाना चाहिए, और यह स्वचालित रूप से कार्य के प्रत्येक भाग को सही स्थान पर रूट करता है।

मॉडल से कंप्यूट तक

Perplexity ने सटीक, उद्धृत उत्तर तैयार करने के लिए उपकरणों और स्रोतों को व्यवस्थित करके शुरुआत की थी। Computer ने इसे सैकड़ों एजेंटों के लिए एक हार्नेस तक विस्तारित किया, जिसे बीस से अधिक फ्रंटियर मॉडलों में तैयार किया गया, और प्रत्येक कार्य के लिए सही का चयन किया गया। अब हम उसी विचार को स्वयं कंप्यूट तक विस्तारित कर सकते हैं: कौन सा मॉडल, यह कहाँ चलता है, और क्यों।

हाइब्रिड एजेंटिक इन्फ्रेंस ऐसे कार्यों के लिए है जिसमें संवेदनशील डेटा शामिल है लेकिन शक्तिशाली एआई की आवश्यकता है। वित्तीय रिकॉर्ड, स्वास्थ्य जानकारी और व्यक्तिगत फाइलें जैसी चीजें। कॉम्पैक्ट मॉडल आपके डिवाइस पर स्थानीय रूप से चलता है ताकि यह निर्धारित किया जा सके कि संवेदनशील डेटा को स्थानीय रूप से कब रखा जाना चाहिए।

इस बीच, जिस कार्य को फ्रंटियर मॉडल की पूर्ण क्षमता की आवश्यकता होती है, वह सर्वर पर चलता है। अधिकांश वास्तविक कार्य एक मिश्रण होते हैं, इसलिए Personal Computer उन्हें विभाजित करता है और भागों का समन्वय करता है। उन उपकरणों के विपरीत जो आपसे पहले ही स्थानीय या क्लाउड चुनने के लिए कहते हैं, यह कार्य दर कार्य अपने आप होता है।

डिवाइस ही डेटा सेंटर है

वर्षों से, अधिक सक्षम सिलिकॉन का मतलब मुख्य रूप से तेज़ ऐप्स और लंबी बैटरी लाइफ था। यह तब बदल जाता है जब चिप वास्तविक इन्फ्रेंस चला सकती है। हार्डवेयर जितना बेहतर होगा, ऑर्केस्ट्रेटर आपके मशीन पर उतना ही अधिक रख सकेगा, और वह सर्वर को उस कार्य के लिए उतना ही अधिक आरक्षित कर सकेगा जिसके लिए वास्तव में इसकी आवश्यकता है।

हमने Intel के साथ इसका अनावरण किया, और वही मॉडल-अज्ञेयवादी हार्नेस अन्य स्थानीय सिलिकॉन, जिसमें NVIDIA का RTX Spark भी शामिल है, पर चलता है। स्थानीय कंप्यूट की दौड़ शुरू हो चुकी है। जैसे-जैसे चिप्स उन्नत होते हैं, केवल Perplexity के पास वास्तव में निर्बाध ऑर्केस्ट्रेशन के लिए एजेंटिक हार्नेस और एप्लाइड इन्फ्रेंस इंजीनियरिंग है।

यह कंप्यूट की कमी को देख रहे सभी लोगों के लिए गणित भी बदल देता है। जब संवेदनशील कार्य और नियमित कार्य उन उपकरणों पर चले जाते हैं जिन्हें लोग पहले से ही रखते हैं, तो आपको इसे सेवा देने के लिए उतनी केंद्रीय बुनियादी ढांचा बनाने की आवश्यकता नहीं होती है। यह संप्रभुता को भी बदल देता है: महत्वपूर्ण डेटा अपने स्वयं के अधिकार क्षेत्र में रह सकता है, बिना किसी देश को इसे बनाए रखने के लिए डेटा सेंटर स्थापित किए।

लोग किसी ऐसे डेटा सेंटर पर निर्माण करने के बजाय अपने लैपटॉप में डेटा सेंटर रखना पसंद करेंगे जिसे वे नियंत्रित नहीं करते हैं।

दक्षता के लिए सही आर्किटेक्चर

इस आर्किटेक्चर के Perplexity के अनुकूल होने का एक कारण है। हमारा व्यवसाय हमेशा सटीक एआई रहा है, न कि हमारे द्वारा बेचे जाने वाले टोकन को अधिकतम करना। प्रति वाट मान को अनुकूलित करने के लिए यह सही प्रोत्साहन है: हम तब जीतते हैं जब उत्तर सही होता है और कार्य पूरा हो जाता है, न कि तब जब यह अधिक कंप्यूट खपत करता है।

हाइब्रिड एआई लंबे समय से एक उद्योग की महत्वाकांक्षा रही है। स्थानीय इन्फ्रेंस के साथ Personal Computer, जो जुलाई में आ रहा है, पहला उत्पाद है जो इसे वास्तविक बनाता है, और कंप्यूट को आपके मशीन और क्लाउड में बुद्धिमानी से व्यवस्थित करने के लिए एक और चीज के रूप में मानने वाला पहला उत्पाद है।