टीम के टोकन खर्च को कैसे ट्रैक और नियंत्रित करें

टोकन खर्च क्या है

टोकन खर्च का मतलब है कि कोई टीम AI के साथ कितने टोकन इस्तेमाल करती है, और उन टोकन की लागत कितनी है। टोकन टेक्स्ट की एक इकाई है, जैसे कोई शब्द, शब्द का हिस्सा या कोई विराम चिह्न, जिसे AI मॉडल पढ़ता या लिखता है। अंग्रेज़ी में 1 टोकन लगभग 4 अक्षरों के बराबर होता है। टोकन सभी मॉडलों या प्रदाताओं में मानकीकृत नहीं होते, इसलिए एक ही टेक्स्ट की गिनती अलग-अलग टूल में अलग-अलग आ सकती है।

उपयोग रिपोर्ट आमतौर पर टोकन को कुछ प्रकारों में बाँटती हैं:

• इनपुट टोकन वह सब कुछ है जो मॉडल किसी अनुरोध के लिए पढ़ता है। इसमें क्वेरी, कोई भी संलग्न टेक्स्ट, और उसी थ्रेड की पिछली बातचीत का वह इतिहास शामिल है जिसे मॉडल दोबारा इस्तेमाल करता है।
• आउटपुट टोकन वह जवाब है जो मॉडल लिखता है। इनकी लागत अक्सर इनपुट टोकन से ज़्यादा होती है। Perplexity के API मूल्य-निर्धारण में, कुछ मॉडल आउटपुट के लिए छह गुना ज़्यादा शुल्क लेते हैं।
• रीज़निंग टोकन वह टेक्स्ट है जिसे मॉडल जवाब देने से पहले किसी समस्या पर काम करने के लिए आंतरिक रूप से बनाता है। ये जवाब में दिखाई नहीं देते, इसलिए अगर दिखाई देने वाला जवाब लंबा है, तो ज़रूरी नहीं कि मॉडल ने कुल मिलाकर ज़्यादा टोकन इस्तेमाल किए हों।

सब्सक्रिप्शन पर AI टूल इस्तेमाल करने वाली टीमों को शायद ही कभी प्रति-टोकन शुल्क दिखता है। फिर भी उन्हें क्या मिलता है, यह टोकन पर ही निर्भर करता है, क्योंकि भारी कार्य क्रेडिट्स जल्दी खत्म कर देते हैं या उपयोग सीमा तक जल्दी पहुँच जाते हैं। जो टीमें किसी AI मॉडल पर अपने टूल बनाती हैं, वे आमतौर पर इसके बजाय उपयोग-आधारित मूल्य-निर्धारण के तहत प्रति टोकन भुगतान करती हैं।

टोकन खर्च को कैसे ट्रैक करें

सब्सक्रिप्शन प्लान पर टोकन खर्च ट्रैक करना

सब्सक्रिप्शन टूल आमतौर पर टोकन की गिनती नहीं दिखाते। इसके बजाय, कई प्लान क्रेडिट्स का इस्तेमाल करते हैं, यानी प्रीपेड इकाइयाँ जो काम होने के साथ-साथ प्लान से घटती जाती हैं। क्रेडिट्स और टोकन एक ही चीज़ नहीं हैं, क्योंकि एक क्रेडिट टेक्स्ट, इमेज या दूसरे काम को कवर कर सकता है। लेकिन जो कार्य ज़्यादा टोकन इस्तेमाल करते हैं, वे आमतौर पर ज़्यादा क्रेडिट्स भी इस्तेमाल करते हैं, इसलिए सब्सक्रिप्शन पर टोकन खर्च को समझने का सबसे अच्छा ज़रिया क्रेडिट्स ही हैं। उपयोगकर्ता अपने क्रेडिट्स के उपयोग को ट्रैक कर सकते हैं, और कुछ प्लान में एक एडमिन डैशबोर्ड भी शामिल होता है जो पूरी टीम के क्रेडिट्स का उपयोग दिखाता है।

उदाहरण के लिए, Perplexity में सामान्य सर्च के लिए क्रेडिट्स इस्तेमाल नहीं होते। इनका इस्तेमाल सिर्फ़ Perplexity Computer करता है, जो बहु-चरणीय कार्य संभालने वाला असिस्टेंट है। Computer इस्तेमाल करने वाले लोग देख सकते हैं कि उन्होंने कितने क्रेडिट्स इस्तेमाल किए हैं और किन कामों पर। हर Computer कार्य अपनी बातचीत के "उपयोग" मेनू में अपने कुल क्रेडिट्स भी दिखाता है।

बड़ा करें

Enterprise प्लान पर, एडमिनिस्ट्रेटर Insights डैशबोर्ड में देख सकते हैं कि कितने लोग Perplexity का इस्तेमाल करते हैं और वे हर हफ़्ते कितनी क्वेरी चलाते हैं (यह 50 या उससे ज़्यादा सीटों वाले संगठनों, या कम से कम एक Enterprise Max सदस्य वाले संगठनों के लिए उपलब्ध है)।

बड़ा करें

API उपयोग रिपोर्ट में टोकन खर्च ट्रैक करना

API प्रदाता की उपयोग रिपोर्ट सीधे टोकन की गिनती दिखाती हैं, जो आमतौर पर टोकन के प्रकार के अनुसार बँटी होती है। उदाहरण के लिए, Perplexity के API Platform कंसोल में उपयोगकर्ता बिलिंग पेज पर इनपुट, आउटपुट और रीज़निंग टोकन खर्च जैसे मेट्रिक्स ट्रैक कर सकते हैं।

टोकन खर्च क्यों बढ़ रहा है

एजेंट हर कार्य के लिए कई चरण चलाते हैं, और हर चरण मॉडल के लिए एक अलग अनुरोध होता है। एक ही कार्य में कुल मिलाकर लाखों, या यहाँ तक कि दसियों लाख टोकन लग सकते हैं।

रीज़निंग मॉडल भी आम होते जा रहे हैं। रीज़निंग मॉडल जवाब देने से पहले अपनी सोच लिखता है, और उसका हर शब्द टोकन में गिना जाता है। इसलिए एक ही अनुरोध पर रीज़निंग मॉडल आमतौर पर सामान्य मॉडल की तुलना में ज़्यादा टोकन इस्तेमाल करता है, भले ही स्क्रीन पर जवाब उतना ही लंबा दिखे।

आख़िर में, जैसे-जैसे ज़्यादा लोग और वर्कफ़्लो AI का इस्तेमाल करते हैं, टोकन का उपयोग बढ़ता जाता है। इस बढ़ोतरी का कुछ हिस्सा टोकनमैक्सिंग (tokenmaxxing) से भी आता है, जिसमें इंजीनियर मुख्य रूप से अपनी निजी टोकन गिनती बढ़ाने और आंतरिक टोकन लीडरबोर्ड पर ऊँची रैंक पाने के लिए एजेंट चलाते हैं।

टोकन खर्च कैसे कम करें

ज़्यादातर ऊँचा टोकन खर्च कुछ ही तरह के कामों से आता है, जो दिखने से कहीं ज़्यादा टोकन इस्तेमाल करते हैं।

लंबी बातचीत और एजेंट कार्य

हर बार जब मॉडल जवाब देता है, तो वह आमतौर पर अब तक की पूरी बातचीत दोबारा पढ़ता है। हर नए अनुरोध में पिछली बातचीत का पूरा इतिहास और उपयोगकर्ता का मौजूदा संदेश शामिल होता है। इसलिए किसी लंबे थ्रेड के आख़िर में पूछा गया छोटा सवाल, नए थ्रेड में पूछे गए उसी सवाल से ज़्यादा टोकन इस्तेमाल करता है। एजेंट कार्य भी इसी तरह काम करते हैं, क्योंकि हर चरण अपने नतीजे उस इतिहास में जोड़ देता है जिसे अगला चरण दोबारा पढ़ता है।

बड़ा करें

इसके लिए क्या करें

• विषय बदलने पर नई बातचीत शुरू करें। इसकी शुरुआत पुराने थ्रेड की उन बातों के दो-तीन पंक्तियों के सारांश से करें जिनकी मॉडल को अब भी ज़रूरत है।
• लंबे एजेंट कार्यों को छोटे कार्यों में बाँटें। हर हिस्से को अलग कार्य के रूप में चलाएँ, और आगे सिर्फ़ वही नतीजे भेजें जिनकी अगले हिस्से को ज़रूरत है।
• जाँचें कि टीम के एजेंट टूल कॉन्टेक्स्ट कॉम्पैक्शन का इस्तेमाल करते हैं या नहीं। कॉम्पैक्शन किसी कार्य के पुराने हिस्सों का अपने-आप सारांश बना देता है, ताकि मॉडल को कम दोबारा पढ़ना पड़े। अगर कोई टूल इसे सेटिंग के रूप में देता है, तो इसे चालू करें।

एक ही दस्तावेज़ों को बार-बार प्रोसेस करना

जब कोई व्यक्ति एक ही लंबी फ़ाइल, जैसे पॉलिसी हैंडबुक या प्रोडक्ट कैटलॉग, कई अलग-अलग क्वेरी में संलग्न करता है, तो मॉडल हर बार पूरी फ़ाइल पढ़ता है। हर बार का पढ़ना इनपुट टोकन में गिना जाता है।

इसके लिए क्या करें

• उपयोगकर्ताओं को सिखाएँ कि वे पूरी फ़ाइल संलग्न करने के बजाय हैंडबुक या कैटलॉग का संबंधित हिस्सा कॉपी करके अनुरोध में डालें।
• टीम जिन दस्तावेज़ों का अक्सर इस्तेमाल करती है, उनका छोटा संस्करण बनाएँ। किसी लंबी पॉलिसी का एक पेज का सारांश सामान्य क्वेरी में पूरे दस्तावेज़ की जगह काम आ सकता है।

दोबारा कोशिशें और लूप

जब कोई जवाब किसी की ज़रूरत के मुताबिक नहीं होता और वह कार्य फिर से चलाता है, तो हर कोशिश में टोकन लगते हैं। यही तब भी होता है जब कोई एजेंट एक ही चरण को दोहराते हुए अटक जाता है।

इसके लिए क्या करें

• पहले अनुरोध में ही कार्य, नतीजा और स्रोत साफ़-साफ़ बताएँ। उदाहरण के लिए: "सिर्फ़ संलग्न सर्वे नतीजों का इस्तेमाल करके, पाँच बुलेट पॉइंट में उन मुख्य कारणों का सारांश दें जिनकी वजह से Q3 में ग्राहकों ने सदस्यता रद्द की।"
• एजेंट कार्य के शुरुआती कुछ चरणों की जाँच करें। अगर एजेंट एक ही चरण या सर्च दोहराता है, तो उसे रोकें और ज़्यादा सीमित अनुरोध के साथ फिर से शुरू करें।

आसान कार्यों पर बड़े मॉडल

ज़्यादा सक्षम मॉडलों की प्रति टोकन लागत आमतौर पर ज़्यादा होती है, इसलिए सारांश या रीफ़ॉर्मैटिंग जैसे सामान्य काम टीम के बजट को ज़रूरत से ज़्यादा तेज़ी से खत्म कर सकते हैं।

इसके लिए क्या करें

• मॉडल रूटिंग का इस्तेमाल करें, जो हर कार्य को ऐसे मॉडल से जोड़ती है जो उसे संभाल सके। छोटा रीराइट या सारांश किसी छोटे, सस्ते मॉडल को भेजा जा सकता है, और सबसे सक्षम मॉडल को बहु-चरणीय रीज़निंग या विश्लेषण के लिए रखा जा सकता है। Perplexity का API अपने प्रीसेट के ज़रिए यही तरीका अपनाता है, जो त्वरित खोज के लिए छोटा मॉडल और गहन विश्लेषण के लिए बड़ा मॉडल तय करते हैं।

नए वर्कफ़्लो के बाद अचानक बढ़ोतरी

कोई नया स्वचालित वर्कफ़्लो, या पूरी टीम के लिए शुरू किया गया कोई टूल, रातोंरात उपयोग बढ़ा सकता है। अचानक बढ़ोतरी अपने-आप में कोई समस्या नहीं है, लेकिन यह जानना फ़ायदेमंद है कि यह किस काम की वजह से हुई।

इसके लिए क्या करें

• नए वर्कफ़्लो को पहले एक छोटे समूह के साथ टेस्ट करें। पूरी टीम के लिए वर्कफ़्लो शुरू करने से पहले एक-दो हफ़्ते तक उनके उपयोग की जाँच करें।
• हर टीम के लिए मासिक बजट तय करें। इसे किसी सामान्य महीने के उपयोग के आधार पर रखें, ताकि कोई भी उछाल साफ़ दिखाई दे।
• ऑटो-रिफ़िल बंद करें। ऑटो-रिफ़िल बंद होने पर, क्रेडिट्स खत्म होते ही काम रुक जाता है, और अपने-आप ज़्यादा क्रेडिट्स नहीं खरीदे जाते।

Perplexity में टोकन खर्च को कैसे ऑप्टिमाइज़ करें

रोज़मर्रा के उपयोग के लिए

Computer क्रेडिट्स का इस्तेमाल करता है, लेकिन यह सिर्फ़ तभी चलता है जब आप इसे चुनते हैं: Computer आइकन चुनकर, ऐसे प्रोजेक्ट में काम करके जिसका डिफ़ॉल्ट मोड Computer है, या Comet Work मोड का इस्तेमाल करके।

बड़ा करें

सामान्य सर्च पर वापस जाने के लिए, Perplexity आइकन चुनकर Ask मोड पर लौटें। क्रेडिट्स का उपयोग देखने के लिए, उपयोगकर्ता Perplexity इंटरफ़ेस में ट्रैकर खोल सकते हैं।

बड़ा करें

जो टीमें प्रोजेक्ट, यानी Perplexity के साझा वर्कस्पेस में काम करती हैं, वे हर प्रोजेक्ट का डिफ़ॉल्ट मोड Search या Computer पर सेट कर सकती हैं। जिस प्रोजेक्ट का इस्तेमाल ज़्यादातर त्वरित शोध के लिए होता है, उसका डिफ़ॉल्ट Search रखा जा सकता है, ताकि कोई गलती से Computer कार्य शुरू न कर दे।

Enterprise एडमिनिस्ट्रेटर के लिए

• जानें कि हर सीट में क्या शामिल है। Enterprise Pro उपयोगकर्ताओं को हर महीने 500 क्रेडिट्स मिलते हैं, और Enterprise Max उपयोगकर्ताओं को 15,000 क्रेडिट्स मिलते हैं। ये हर मासिक चक्र के अंत में समाप्त हो जाते हैं और अगले चक्र में आगे नहीं जोड़े जाते।
• सबसे पहले एक डिफ़ॉल्ट उपयोग सीमा सेट करें। उपयोग सीमा यह तय करती है कि किसी सदस्य का अपना आवंटन खत्म होने के बाद वह साझा पूल से अधिकतम कितने अतिरिक्त क्रेडिट्स ले सकता है।
• अलग-अलग तरह के उपयोगकर्ताओं के लिए नाम वाली सीमाएँ बनाएँ। एडमिन "मानक", "पावर यूज़र" और "कॉन्ट्रैक्टर" जैसी सीमाएँ सेट कर सकते हैं, और उन्हें उपयोगकर्ता समूहों या अलग-अलग सदस्यों को असाइन कर सकते हैं। समूह Perplexity में बनाए जा सकते हैं या कंपनी के आइडेंटिटी प्रोवाइडर से सिंक हो सकते हैं। अगर कोई व्यक्ति एक से ज़्यादा समूहों का सदस्य है, तो सबसे ऊँची सीमा लागू होती है।
• अपवादों के लिए व्यक्तिगत ओवरराइड का इस्तेमाल करें। जब किसी व्यक्ति को अपने समूह से अलग सीमा की ज़रूरत हो, तो व्यक्तिगत ओवरराइड किसी भी समूह या साझा सीमा से ज़्यादा प्राथमिकता रखता है। यह भारी शोध वाले किसी छोटे प्रोजेक्ट के लिए उपयोगी है, जिसमें पूरी टीम की सीमा बढ़ाने की ज़रूरत नहीं पड़ती।
• ऑटो-रिफ़िल पर ऊपरी सीमा लगाएँ। ऑटो-रिफ़िल साझा पूल को अपने-आप टॉप अप करता है। इसमें कॉन्फ़िगर की जा सकने वाली मासिक रीलोड सीमा होती है, ताकि खर्च बिना किसी तय अधिकतम सीमा के न बढ़ सके।
• तय करें कि सदस्य ज़्यादा क्रेडिट्स कैसे माँगें। "सदस्यों को ज़्यादा क्रेडिट्स का अनुरोध करने दें" सेटिंग से, जिन लोगों की सीमा पूरी हो जाती है, वे सीधे रोक दिए जाने के बजाय एडमिन से ज़्यादा क्रेडिट्स का अनुरोध कर सकते हैं।
• हर महीने उपयोग की समीक्षा करें। संगठन क्रेडिट्स पेज हर सदस्य के लिए दिए गए, इस्तेमाल किए गए और शेष क्रेडिट्स दिखाता है, साथ ही समूह सीमाएँ और पूल बैलेंस भी। 50 या उससे ज़्यादा सीटों वाले संगठनों, या कम से कम एक Enterprise Max सदस्य वाले संगठनों के लिए, Insights डैशबोर्ड समय के साथ मासिक सक्रिय उपयोगकर्ता और साप्ताहिक क्वेरी भी दिखाता है। ज़्यादा जानकारी के लिए, ऑडिट लॉग में कार्य निष्पादन, कनेक्टर उपयोग, क्रेडिट खपत और क्रेडिट अनुदान दर्ज होते हैं।

API पर टूल बनाने वाली टीमों के लिए

• हर टूल या टीम को उसकी अपनी API कुंजी दें। Perplexity हर कुंजी की बिलिंग अलग से दिखा सकता है, और अलग-अलग कुंजियों से साफ़ पता चलता है कि कौन-सा टूल उपयोग बढ़ा रहा है।
• बिलिंग पेज पर देखें कि किस तरह के टोकन बढ़ रहे हैं। यह समय के साथ इनपुट, आउटपुट और रीज़निंग टोकन दिखाता है। इनपुट टोकन बढ़ने का आमतौर पर मतलब है कि कोई टूल ज़रूरत से ज़्यादा टेक्स्ट भेज रहा है। रीज़निंग टोकन बढ़ने का मतलब है कि कार्य ऐसे मॉडलों पर चल रहे हैं जो समस्याओं पर विस्तार से सोचते हैं।
• जब किसी टूल को सिर्फ़ सर्च नतीजों की ज़रूरत हो, तो Search API का इस्तेमाल करें। यह मॉडल से जवाब लिखवाए बिना वेब नतीजे लौटाता है, और प्रति अनुरोध शुल्क लेता है, बिना किसी अतिरिक्त टोकन-आधारित शुल्क के।
• एजेंट टूल किसी प्रीसेट से शुरू करें। Perplexity के प्रीसेट कार्य के आकार के अनुसार मॉडल का आकार तय करते हैं और आसान अनुरोधों को सबसे महंगे मॉडलों से दूर रखते हैं

लोकल-फ़र्स्ट काम

कुछ कामों के लिए किसी पेड क्लाउड मॉडल की ज़रूरत ही नहीं होती। Portable Computer Perplexity के एजेंट का एक संस्करण है, जो व्यक्ति के अपने कंप्यूटर पर चलता है और उसी मशीन पर स्टोर किए गए AI मॉडल का इस्तेमाल करता है। क्योंकि मॉडल लोकल रूप से चलता है, इसलिए सामान्य कामों में पेड टोकन खर्च नहीं होते। यह वेब, कनेक्ट किए गए ऐप्स या किसी ज़्यादा शक्तिशाली क्लाउड मॉडल तक तभी पहुँचता है जब किसी कार्य को इसकी ज़रूरत हो, और ऐसा करने से पहले उपयोगकर्ता से पूछता है।

वेब, फ़ाइलों और कनेक्ट किए गए टूल्स में Perplexity Computer बहु-चरणीय काम को कैसे संभालता है, यह जानें।

अक्सर पूछे जाने वाले सवाल

टोकन खर्च और AI लागत में क्या अंतर है?

टोकन खर्च यह मापता है कि कोई टीम कितना AI काम करती है, जिसे टोकन में गिना जाता है। AI लागत में वह सब कुछ शामिल है जो कोई टीम AI इस्तेमाल करने के लिए चुकाती है, जैसे सब्सक्रिप्शन, अतिरिक्त क्रेडिट्स और सेटअप। उस बिल का उपयोग-आधारित हिस्सा टोकन खर्च से तय होता है।

क्या सब्सक्रिप्शन उपयोगकर्ता प्रति टोकन भुगतान करते हैं?

आमतौर पर सीधे तौर पर नहीं। सब्सक्रिप्शन टूल उपयोग को संदेशों, क्वेरी या क्रेडिट्स में ट्रैक करते हैं, और ज़्यादा टोकन इस्तेमाल करने वाले कार्य इन्हें जल्दी खत्म करते हैं। Perplexity पर सामान्य सर्च में क्रेडिट्स बिल्कुल इस्तेमाल नहीं होते; सिर्फ़ Computer कार्यों में होते हैं।

AI एजेंट इतने ज़्यादा टोकन क्यों इस्तेमाल करते हैं?

एजेंट किसी कार्य को कई चरणों में पूरा करता है, और हर चरण एक अलग अनुरोध होता है जो अब तक के काम को दोबारा पढ़ता है। इसलिए लंबा कार्य अपने हर चरण के साथ और ज़्यादा टोकन इस्तेमाल करता है।

टोकन का उपयोग अचानक क्यों बढ़ जाता है?

ज़्यादातर अचानक बढ़ोतरी टीम के काम करने के तरीके में किसी बदलाव के बाद होती है, जैसे कोई नया स्वचालित वर्कफ़्लो, ज़्यादा लोगों के लिए शुरू किया गया कोई टूल, या कोई लंबा एजेंट कार्य। बढ़ोतरी की तारीख की तुलना हाल के लॉन्च से करने पर आमतौर पर कारण पता चल जाता है। नए वर्कफ़्लो को पहले छोटे समूह के साथ टेस्ट करने से अचानक बढ़ोतरी को रोकने में मदद मिलती है।