टीमच्या टोकन खर्चाचा मागोवा कसा घ्यावा आणि तो नियंत्रणात कसा ठेवावा

टोकन खर्च म्हणजे काय

टोकन खर्च म्हणजे एखादी टीम AI वापरताना किती टोकन वापरते आणि त्या टोकनची किंमत किती असते. टोकन म्हणजे AI मॉडेल वाचत किंवा लिहीत असलेले मजकुराचे एक एकक, जसे की एखादा शब्द, शब्दाचा भाग किंवा विरामचिन्ह. इंग्रजीमध्ये 1 टोकन साधारणपणे 4 अक्षरांइतके असते. टोकन सर्व मॉडेल्स किंवा प्रदात्यांमध्ये प्रमाणित नसतात, त्यामुळे एकाच मजकुराची टोकन संख्या वेगवेगळ्या टूल्समध्ये वेगवेगळी येऊ शकते.

वापर अहवालांमध्ये टोकन सहसा काही प्रकारांमध्ये विभागले जातात:

• इनपुट टोकन म्हणजे एखाद्या विनंतीसाठी मॉडेल वाचत असलेली प्रत्येक गोष्ट. यात क्वेरी, जोडलेला कोणताही मजकूर आणि त्याच थ्रेडमधील आधीचा संभाषण इतिहास, जो मॉडेल पुन्हा वापरते, यांचा समावेश होतो.
• आउटपुट टोकन म्हणजे मॉडेलने लिहिलेला प्रतिसाद. त्यांची किंमत अनेकदा इनपुट टोकनपेक्षा जास्त असते. Perplexity च्या API किंमत रचनेत, काही मॉडेल्स आउटपुटसाठी सहापट शुल्क आकारतात.
• कारणमीमांसा टोकन म्हणजे उत्तर देण्यापूर्वी एखादी समस्या सोडवण्यासाठी मॉडेल अंतर्गतरीत्या तयार करत असलेला मजकूर. ते उत्तरात दिसत नाहीत, त्यामुळे दिसणारा प्रतिसाद लांब असला म्हणजे मॉडेलने एकूण जास्त टोकन वापरले, असे नाही.

सबस्क्रिप्शनवर AI टूल्स वापरणाऱ्या टीम्सना क्वचितच प्रति-टोकन शुल्क दिसते. तरीही त्यांना काय मिळते यावर टोकनचा परिणाम होतोच, कारण मोठ्या कामांमुळे क्रेडिट्स लवकर संपतात किंवा वापर मर्यादा लवकर गाठली जाते. AI मॉडेलवर स्वतःची टूल्स तयार करणाऱ्या टीम्स त्याऐवजी सहसा वापरावर आधारित किंमत रचनेअंतर्गत प्रति टोकन पैसे देतात.

टोकन खर्चाचा मागोवा कसा घ्यावा

सबस्क्रिप्शन प्लॅनवर टोकन खर्चाचा मागोवा घेणे

सबस्क्रिप्शन टूल्स सहसा टोकन संख्या दाखवत नाहीत. त्याऐवजी, अनेक प्लॅन्स क्रेडिट्स वापरतात. ही प्रीपेड एकके असतात, जी काम होत जाते तसतशी प्लॅनमधून वजा होत जातात. क्रेडिट्स आणि टोकन एकच नाहीत, कारण एका क्रेडिटमध्ये मजकूर, प्रतिमा किंवा इतर काम समाविष्ट असू शकते. पण जास्त टोकन वापरणारी कामे सहसा जास्त क्रेडिट्सही वापरतात, त्यामुळे सबस्क्रिप्शनवरील टोकन खर्चासाठी क्रेडिट्स हेच सर्वोत्तम मार्गदर्शक ठरतात. वापरकर्ते स्वतःच्या क्रेडिट वापराचा मागोवा घेऊ शकतात आणि काही प्लॅन्समध्ये संपूर्ण टीमचा क्रेडिट वापर दाखवणारा ॲडमिन डॅशबोर्डही असतो.

उदाहरणार्थ, Perplexity मध्ये नियमित शोधांसाठी क्रेडिट्स लागत नाहीत. फक्त Perplexity Computer, म्हणजे अनेक टप्प्यांची कामे हाताळणारा असिस्टंट, क्रेडिट्स वापरतो. Computer वापरणारे लोक त्यांनी किती क्रेडिट्स वापरले आणि ते कशासाठी वापरले हे पाहू शकतात. प्रत्येक Computer कामाचे एकूण क्रेडिट्स त्याच्या संभाषणातील "वापर" मेनूमध्येही दिसतात.

विस्तृत करा

Enterprise प्लॅन्सवर, प्रशासक Insights डॅशबोर्डमध्ये किती लोक Perplexity वापरतात आणि ते दर आठवड्याला किती क्वेरी चालवतात हे पाहू शकतात (50 किंवा अधिक जागा असलेल्या किंवा किमान एक Enterprise Max सदस्य असलेल्या संस्थांसाठी उपलब्ध).

विस्तृत करा

API वापर अहवालांमध्ये टोकन खर्चाचा मागोवा घेणे

API प्रदात्याच्या वापर अहवालांमध्ये टोकन संख्या थेट दिसते, सहसा टोकनच्या प्रकारानुसार विभागलेली. उदाहरणार्थ, Perplexity च्या API Platform कन्सोलमध्ये वापरकर्ते बिलिंग पेजवर इनपुट, आउटपुट आणि कारणमीमांसा टोकन खर्च यांसारख्या मेट्रिक्सचा मागोवा घेऊ शकतात.

टोकन खर्च का वाढत आहे

एजंट प्रत्येक कामासाठी अनेक टप्पे चालवतात आणि प्रत्येक टप्पा म्हणजे मॉडेलला केलेली स्वतंत्र विनंती असते. एकाच कामात लाखो किंवा अगदी दशलक्षावधी टोकन वापरले जाऊ शकतात.

कारणमीमांसा मॉडेल्सही अधिक सामान्य होत आहेत. कारणमीमांसा मॉडेल उत्तर देण्यापूर्वी आपला विचार लिहून काढते आणि त्यातील प्रत्येक शब्द टोकन म्हणून मोजला जातो. त्यामुळे स्क्रीनवरील उत्तर तितकेच लांब दिसत असले, तरी तीच विनंती सामान्य मॉडेलपेक्षा कारणमीमांसा मॉडेलवर सहसा जास्त टोकन वापरते.

शेवटी, जसजसे अधिक लोक आणि वर्कफ्लो सर्वसाधारणपणे AI वापरतात, तसतसा टोकन वापर वाढत जातो. या वाढीचा काही भाग टोकनमॅक्सिंगमुळेही येतो. यात अभियंते मुख्यतः आपली वैयक्तिक टोकन संख्या वाढवण्यासाठी आणि अंतर्गत टोकन लीडरबोर्डवर वरचे स्थान मिळवण्यासाठी एजंट चालवतात.

टोकन खर्च कसा कमी करावा

बहुतांश जास्त टोकन खर्च अशा काही प्रकारच्या कामांमधून होतो, जी दिसतात त्यापेक्षा जास्त टोकन वापरतात.

लांब संभाषणे आणि एजंट कामे

मॉडेल प्रत्येक वेळी उत्तर देताना सहसा आतापर्यंतचे संपूर्ण संभाषण पुन्हा वाचते. प्रत्येक नवीन विनंतीमध्ये आधीचा संपूर्ण संभाषण इतिहास आणि वापरकर्त्याचा सध्याचा संदेश समाविष्ट असतो. त्यामुळे लांब थ्रेडच्या शेवटी विचारलेला छोटा प्रश्न, नवीन थ्रेडमध्ये विचारलेल्या त्याच प्रश्नापेक्षा जास्त टोकन वापरतो. एजंट कामेही अशीच चालतात, कारण प्रत्येक टप्पा आपले निकाल त्या इतिहासात जोडतो, जो पुढचा टप्पा पुन्हा वाचतो.

विस्तृत करा

यावर काय करावे

• विषय बदलल्यावर नवीन संभाषण सुरू करा. जुन्या थ्रेडमधील ज्या गोष्टी मॉडेलला अजूनही लागतील, त्यांचा दोन-तीन ओळींचा सारांश देऊन नवीन संभाषणाची सुरुवात करा.
• लांब एजंट कामे लहान कामांमध्ये विभागा. प्रत्येक भाग स्वतंत्र काम म्हणून चालवा आणि पुढच्या भागाला लागणारे निकालच फक्त पुढे द्या.
• टीमची एजंट टूल्स कॉन्टेक्स्ट कॉम्पॅक्शन वापरतात का ते तपासा. कॉम्पॅक्शन एखाद्या कामाच्या जुन्या भागांचा आपोआप सारांश तयार करते, त्यामुळे मॉडेलला कमी मजकूर पुन्हा वाचावा लागतो. एखादे टूल हा पर्याय सेटिंग म्हणून देत असल्यास, तो चालू करा.

त्याच दस्तऐवजांवर पुन्हा पुन्हा होणारी प्रक्रिया

जेव्हा कोणी धोरण पुस्तिका किंवा उत्पादन कॅटलॉगसारखी तीच लांब फाइल अनेक स्वतंत्र क्वेरींना जोडते, तेव्हा मॉडेल प्रत्येक वेळी संपूर्ण फाइल वाचते. प्रत्येक वाचन इनपुट टोकन म्हणून मोजले जाते.

यावर काय करावे

• संपूर्ण फाइल जोडण्याऐवजी पुस्तिकेतील किंवा कॅटलॉगमधील फक्त संबंधित भाग विनंतीमध्ये कॉपी करण्याचे प्रशिक्षण वापरकर्त्यांना द्या.
• टीम वारंवार वापरत असलेल्या दस्तऐवजांची छोटी आवृत्ती तयार करा. नेहमीच्या क्वेरींमध्ये संपूर्ण दस्तऐवजाऐवजी लांब धोरणाचा एका पानाचा सारांश वापरता येतो.

पुन्हा प्रयत्न आणि लूप

उत्तर अपेक्षेप्रमाणे न मिळाल्यामुळे कोणी काम पुन्हा चालवते, तेव्हा प्रत्येक प्रयत्नात टोकन वापरले जातात. एखादा एजंट तोच टप्पा पुन्हा पुन्हा करत अडकतो, तेव्हाही असेच होते.

यावर काय करावे

• पहिल्याच विनंतीत काम, अपेक्षित निकाल आणि स्रोत स्पष्टपणे सांगा. उदाहरणार्थ: "फक्त जोडलेले सर्वेक्षण निकाल वापरून, Q3 मध्ये ग्राहकांनी सेवा रद्द करण्याची मुख्य कारणे पाच बुलेट पॉइंट्समध्ये सारांशित करा."
• एजंट कामाचे पहिले काही टप्पे तपासा. एजंट तोच टप्पा किंवा शोध पुन्हा पुन्हा करत असल्यास, त्याला थांबवा आणि अधिक नेमकी विनंती देऊन पुन्हा सुरू करा.

साध्या कामांसाठी मोठी मॉडेल्स

अधिक सक्षम मॉडेल्सची प्रति टोकन किंमत सहसा जास्त असते, त्यामुळे सारांश तयार करणे किंवा फॉरमॅट बदलणे यांसारखी नेहमीची कामे टीमचे बजेट गरजेपेक्षा लवकर संपवू शकतात.

यावर काय करावे

• मॉडेल राउटिंग वापरा, जे प्रत्येक काम ते हाताळू शकणाऱ्या मॉडेलकडे पाठवते. छोटे पुनर्लेखन किंवा सारांश लहान, स्वस्त मॉडेलकडे जाऊ शकतो, आणि सर्वात सक्षम मॉडेल अनेक टप्प्यांच्या कारणमीमांसेसाठी किंवा विश्लेषणासाठी राखून ठेवले जाते. Perplexity चे API त्याच्या प्रीसेट्सद्वारे हाच दृष्टिकोन वापरते. हे प्रीसेट्स झटपट माहिती शोधण्यासाठी लहान मॉडेल आणि सखोल विश्लेषणासाठी मोठे मॉडेल नेमतात.

नवीन वर्कफ्लोनंतर होणारी अचानक वाढ

नवीन स्वयंचलित वर्कफ्लो किंवा संपूर्ण टीमसाठी सुरू केलेले टूल एका रात्रीत वापर वाढवू शकते. अचानक वाढ ही स्वतःमध्ये समस्या नाही, पण ती कोणत्या कामामुळे झाली हे जाणून घेणे उपयुक्त ठरते.

यावर काय करावे

• नवीन वर्कफ्लो आधी लहान गटासोबत तपासून पाहा. वर्कफ्लो संपूर्ण टीमसाठी सुरू करण्यापूर्वी एक-दोन आठवडे त्या गटाचा वापर तपासा.
• प्रत्येक टीमसाठी मासिक बजेट ठरवा. ते एखाद्या सामान्य महिन्यातील वापरावर आधारित ठेवा, म्हणजे वाढ झाल्यास ती लगेच लक्षात येईल.
• ऑटो-रिफिल बंद करा. ऑटो-रिफिल बंद असल्यास, आपोआप आणखी क्रेडिट्स विकत घेतले जाण्याऐवजी क्रेडिट्स संपल्यावर काम थांबते.

Perplexity मध्ये टोकन खर्च कसा ऑप्टिमाइझ करावा

दैनंदिन वापरासाठी

Computer क्रेडिट्स वापरतो, पण तुम्ही तो निवडल्यावरच चालतो: Computer आयकॉन निवडून, डीफॉल्टनुसार Computer वापरणाऱ्या प्रोजेक्टमध्ये काम करून किंवा Comet Work मोड वापरून.

विस्तृत करा

नियमित शोधाकडे परत जाण्यासाठी Perplexity आयकॉन निवडून Ask मोडवर परत या. क्रेडिट वापर पाहण्यासाठी, वापरकर्ते Perplexity इंटरफेसमधील ट्रॅकर उघडू शकतात.

विस्तृत करा

प्रोजेक्ट्समध्ये, म्हणजेच Perplexity च्या शेअर्ड वर्कस्पेसेसमध्ये काम करणाऱ्या टीम्स प्रत्येक प्रोजेक्टचा डीफॉल्ट मोड Search किंवा Computer वर सेट करू शकतात. मुख्यतः झटपट संशोधनासाठी वापरल्या जाणाऱ्या प्रोजेक्टचा डीफॉल्ट मोड Search ठेवता येतो, जेणेकरून कोणीही चुकून Computer काम सुरू करणार नाही.

Enterprise प्रशासकांसाठी

• प्रत्येक जागेत काय समाविष्ट आहे ते जाणून घ्या. Enterprise Pro वापरकर्त्यांना दरमहा 500 क्रेडिट्सचे वाटप मिळते, तर Enterprise Max वापरकर्त्यांना 15,000 क्रेडिट्स मिळतात. हे क्रेडिट्स प्रत्येक मासिक चक्राच्या शेवटी कालबाह्य होतात आणि पुढील चक्रात पुढे नेले जात नाहीत.
• आधी डीफॉल्ट वापर मर्यादा सेट करा. एखाद्या सदस्याचे स्वतःचे वाटप संपल्यानंतर तो शेअर्ड पूलमधून जास्तीत जास्त किती अतिरिक्त क्रेडिट्स घेऊ शकतो, हे वापर मर्यादा ठरवते.
• वेगवेगळ्या प्रकारच्या वापरकर्त्यांसाठी नावे दिलेल्या मर्यादा तयार करा. ॲडमिन "मानक", "पॉवर युजर" आणि "कंत्राटदार" यांसारख्या मर्यादा सेट करून त्या वापरकर्ता गटांना किंवा वैयक्तिक सदस्यांना नेमून देऊ शकतात. गट Perplexity मध्येच तयार केलेले असू शकतात किंवा कंपनीच्या आयडेंटिटी प्रोव्हायडरमधून सिंक केलेले असू शकतात. एखादी व्यक्ती एकापेक्षा जास्त गटांमध्ये असल्यास, सर्वात जास्त मर्यादा लागू होते.
• अपवादांसाठी वैयक्तिक ओव्हरराइड वापरा. एखाद्या व्यक्तीला तिच्या गटापेक्षा वेगळी मर्यादा हवी असल्यास, वैयक्तिक ओव्हरराइडला कोणत्याही गट मर्यादेपेक्षा किंवा शेअर्ड मर्यादेपेक्षा प्राधान्य मिळते. संपूर्ण टीमची मर्यादा न वाढवता, भरपूर संशोधन असलेल्या छोट्या प्रोजेक्टसाठी हे उपयुक्त ठरते.
• ऑटो-रिफिलवर कमाल मर्यादा घाला. ऑटो-रिफिल शेअर्ड पूल आपोआप भरून काढते. त्यासोबत कॉन्फिगर करता येणारी मासिक रीलोड मर्यादा असते, त्यामुळे निश्चित कमाल मर्यादेशिवाय खर्च वाढू शकत नाही.
• सदस्य अधिक क्रेडिट्स कसे मागतील ते ठरवा. "सदस्यांना अधिक क्रेडिट्सची विनंती करण्याची अनुमती द्या" ही सेटिंग, मर्यादा गाठलेल्या लोकांना पूर्णपणे थांबवण्याऐवजी ॲडमिनकडे अधिक क्रेडिट्सची विनंती करू देते.
• दर महिन्याला वापराचा आढावा घ्या. संस्था क्रेडिट्स पेजवर प्रत्येक सदस्याला दिलेले, वापरलेले आणि उरलेले क्रेडिट्स, तसेच गट मर्यादा आणि पूलमधील शिल्लक दिसते. 50 किंवा अधिक जागा असलेल्या किंवा किमान एक Enterprise Max सदस्य असलेल्या संस्थांसाठी, Insights डॅशबोर्डमध्ये कालानुसार मासिक सक्रिय वापरकर्ते आणि साप्ताहिक क्वेरीही दिसतात. अधिक तपशिलासाठी, ऑडिट लॉगमध्ये कामांची अंमलबजावणी, कनेक्टर वापर, क्रेडिट वापर आणि क्रेडिट वाटप यांची नोंद होते.

API वर टूल्स तयार करणाऱ्या टीम्ससाठी

• प्रत्येक टूल किंवा टीमला स्वतःची API की द्या. Perplexity प्रत्येक कीचे बिलिंग स्वतंत्रपणे दाखवू शकते, आणि वेगवेगळ्या कीमुळे कोणते टूल वापर वाढवत आहे हे स्पष्ट होते.
• कोणत्या प्रकारचे टोकन वाढत आहेत ते बिलिंग पेजवर तपासा. त्यावर कालानुसार इनपुट, आउटपुट आणि कारणमीमांसा टोकन दिसतात. इनपुट टोकन वाढत असतील, तर सहसा एखादे टूल गरजेपेक्षा जास्त मजकूर पाठवत असते. कारणमीमांसा टोकन वाढत असतील, तर कामे अशा मॉडेल्सवर चालत आहेत जी समस्यांवर सविस्तर विचार करतात.
• एखाद्या टूलला फक्त शोध निकाल हवे असतील, तेव्हा Search API वापरा. ते मॉडेलने उत्तर न लिहिता वेब निकाल परत देते आणि प्रति विनंती शुल्क आकारते, टोकनवर आधारित कोणतेही अतिरिक्त शुल्क नसते.
• एजंट टूल्सची सुरुवात प्रीसेटपासून करा. Perplexity चे प्रीसेट्स कामाच्या आकारानुसार मॉडेलचा आकार निवडतात आणि साध्या विनंत्या सर्वात महागड्या मॉडेल्सपासून दूर ठेवतात

लोकल-फर्स्ट काम

काही कामांसाठी सशुल्क क्लाउड मॉडेलची अजिबात गरज नसते. Portable Computer ही Perplexity च्या एजंटची अशी आवृत्ती आहे, जी व्यक्तीच्या स्वतःच्या संगणकावर, त्याच मशीनवर साठवलेले AI मॉडेल वापरून चालते. मॉडेल स्थानिक पातळीवर चालत असल्यामुळे, नेहमीच्या कामांसाठी सशुल्क टोकन वापरले जात नाहीत. एखाद्या कामाला गरज असेल तेव्हाच ते वेब, कनेक्ट केलेली ॲप्स किंवा अधिक सक्षम क्लाउड मॉडेलशी संपर्क साधते, आणि त्यापूर्वी वापरकर्त्याला विचारते.

वेब, फाइल्स आणि कनेक्ट केलेल्या टूल्समध्ये Perplexity Computer अनेक टप्प्यांचे काम कसे हाताळते ते जाणून घ्या.

वारंवार विचारले जाणारे प्रश्न

टोकन खर्च आणि AI वरील खर्च यांत काय फरक आहे?

टोकन खर्च म्हणजे एखादी टीम किती AI काम करते याचे टोकनमध्ये केलेले मोजमाप. AI वरील खर्चात टीम AI वापरण्यासाठी भरत असलेल्या सर्व गोष्टींचा समावेश होतो, जसे की सबस्क्रिप्शन, अतिरिक्त क्रेडिट्स आणि सेटअप. त्या बिलातील वापरावर आधारित भाग टोकन खर्चावर अवलंबून असतो.

सबस्क्रिप्शन वापरकर्ते प्रति टोकन पैसे देतात का?

सहसा थेट नाही. सबस्क्रिप्शन टूल्स वापराचा मागोवा संदेश, क्वेरी किंवा क्रेडिट्समध्ये घेतात, आणि जास्त टोकन वापरणारी कामे ते लवकर संपवतात. Perplexity वर नियमित शोधांसाठी अजिबात क्रेडिट्स लागत नाहीत; फक्त Computer कामांसाठी लागतात.

AI एजंट इतके टोकन का वापरतात?

एजंट एखादे काम अनेक टप्प्यांमध्ये पूर्ण करतो, आणि प्रत्येक टप्पा ही आतापर्यंतचे काम पुन्हा वाचणारी स्वतंत्र विनंती असते. त्यामुळे लांब काम प्रत्येक टप्प्यासोबत अधिकाधिक टोकन वापरते.

टोकन वापर अचानक का वाढतो?

बहुतांश अचानक वाढ टीमच्या कामाच्या पद्धतीत झालेल्या बदलानंतर होते, जसे की नवीन स्वयंचलित वर्कफ्लो, अधिक लोकांसाठी सुरू केलेले टूल किंवा लांब एजंट काम. वाढीच्या तारखेची अलीकडील लाँचशी तुलना केल्यास सहसा कारण कळते. नवीन वर्कफ्लो आधी लहान गटासोबत तपासून पाहिल्याने अचानक वाढ टाळण्यास मदत होते.