బృందం టోకెన్ వ్యయాన్ని ట్రాక్ చేయడం, నియంత్రించడం ఎలా

బృందాలు డాష్‌బోర్డ్‌లు, నివేదికలలో తమ టోకెన్ వినియోగాన్ని ఎలా చూడవచ్చు, ఏ రకమైన AI పనులు ఎక్కువ టోకెన్‌లను ఉపయోగిస్తాయి, దాన్ని తగ్గించడానికి నియంత్రణలను ఎలా ఉపయోగించాలి.

Perplexity Organization credits and usage page showing available org credits, auto-refill status, and a list of credit grants with dates and amounts

టోకెన్ వ్యయం అంటే ఏమిటి

టోకెన్ వ్యయం అంటే ఒక బృందం AIతో వినియోగించే టోకెన్‌ల సంఖ్య, ఆ టోకెన్‌లకు అయ్యే ఖర్చు. టోకెన్ అనేది AI మోడల్ చదివే లేదా రాసే టెక్స్ట్ యూనిట్, ఉదాహరణకు ఒక పదం, పదంలోని ఒక భాగం లేదా ఒక విరామ చిహ్నం. ఇంగ్లీష్‌లో 1 టోకెన్ దాదాపు 4 అక్షరాలకు సమానం. టోకెన్‌లు వివిధ మోడల్‌లు లేదా ప్రొవైడర్‌ల మధ్య ప్రామాణికంగా ఉండవు, కాబట్టి ఒకే టెక్స్ట్‌కు వేర్వేరు టూల్స్‌లో వేర్వేరు టోకెన్ సంఖ్య రావచ్చు.

వినియోగ నివేదికలు సాధారణంగా టోకెన్‌లను కొన్ని రకాలుగా విభజిస్తాయి:

  • ఇన్‌పుట్ టోకెన్‌లు అంటే ఒక అభ్యర్థన కోసం మోడల్ చదివే ప్రతిదీ. ఇందులో ప్రశ్న, జోడించిన ఏదైనా టెక్స్ట్, అదే థ్రెడ్‌లో ఇంతకు ముందు జరిగిన సంభాషణ నుండి మోడల్ మళ్లీ ఉపయోగించే సంభాషణ చరిత్ర ఉంటాయి.
  • అవుట్‌పుట్ టోకెన్‌లు అంటే మోడల్ రాసే ప్రతిస్పందన. ఇవి తరచుగా ఇన్‌పుట్ టోకెన్‌ల కంటే ఎక్కువ ఖర్చవుతాయి. Perplexity API ధరల విధానం ప్రకారం, కొన్ని మోడల్‌లు అవుట్‌పుట్‌కు ఆరు రెట్లు ఎక్కువ వసూలు చేస్తాయి.
  • రీజనింగ్ టోకెన్‌లు అంటే సమాధానం ఇచ్చే ముందు ఒక సమస్యను పరిష్కరించడానికి మోడల్ అంతర్గతంగా రూపొందించే టెక్స్ట్. ఇవి సమాధానంలో కనిపించవు, కాబట్టి కనిపించే ప్రతిస్పందన పొడవుగా ఉన్నంత మాత్రాన మోడల్ మొత్తంగా ఎక్కువ టోకెన్‌లను ఉపయోగించిందని అర్థం కాదు.

సబ్‌స్క్రిప్షన్‌పై AI టూల్స్‌ను ఉపయోగించే బృందాలకు ఒక్కో టోకెన్ ఛార్జీ అరుదుగా కనిపిస్తుంది. అయినప్పటికీ, వారికి ఏమి లభిస్తుందో టోకెన్‌లే నిర్ణయిస్తాయి, ఎందుకంటే భారీ పనులు క్రెడిట్స్‌ను త్వరగా ఖర్చు చేస్తాయి లేదా వినియోగ పరిమితులను త్వరగా చేరుకుంటాయి. AI మోడల్‌పై సొంత టూల్స్‌ను నిర్మించే బృందాలు సాధారణంగా వినియోగ ఆధారిత ధరల విధానం కింద ఒక్కో టోకెన్‌కు చెల్లిస్తాయి.

టోకెన్ వ్యయాన్ని ఎలా ట్రాక్ చేయాలి

సబ్‌స్క్రిప్షన్ ప్లాన్‌లో టోకెన్ వ్యయాన్ని ట్రాక్ చేయడం

సబ్‌స్క్రిప్షన్ టూల్స్ సాధారణంగా టోకెన్ సంఖ్యలను చూపించవు. బదులుగా, చాలా ప్లాన్‌లు క్రెడిట్స్‌ను ఉపయోగిస్తాయి. ఇవి ముందుగా చెల్లించిన యూనిట్లు, పని జరిగే కొద్దీ ప్లాన్ నుండి తగ్గుతూ వస్తాయి. క్రెడిట్స్ టోకెన్‌లతో సమానం కావు, ఎందుకంటే ఒక క్రెడిట్ టెక్స్ట్, చిత్రాలు లేదా ఇతర పనులను కవర్ చేయగలదు. కానీ ఎక్కువ టోకెన్‌లను ఉపయోగించే పనులు సాధారణంగా ఎక్కువ క్రెడిట్స్‌ను కూడా ఉపయోగిస్తాయి, కాబట్టి సబ్‌స్క్రిప్షన్‌లో టోకెన్ వ్యయాన్ని అంచనా వేయడానికి అవే ఉత్తమ మార్గదర్శి. వినియోగదారులు తమ సొంత క్రెడిట్ వినియోగాన్ని ట్రాక్ చేయవచ్చు, కొన్ని ప్లాన్‌లలో మొత్తం బృందం క్రెడిట్ వినియోగాన్ని చూపించే అడ్మిన్ డాష్‌బోర్డ్ కూడా ఉంటుంది.

ఉదాహరణకు, Perplexityలో సాధారణ శోధనలు క్రెడిట్స్‌ను ఉపయోగించవు. బహుళ-దశల పనులను నిర్వహించే అసిస్టెంట్ అయిన Perplexity Computer మాత్రమే వాటిని ఉపయోగిస్తుంది. Computerను ఉపయోగించేవారు తాము ఎన్ని క్రెడిట్స్ ఉపయోగించారో, వాటిని దేని కోసం ఉపయోగించారో చూడవచ్చు. ప్రతి Computer పని దాని సంభాషణలోని "వినియోగం" మెనూలో ఆ పనికి ఉపయోగించిన మొత్తం క్రెడిట్స్‌ను కూడా చూపిస్తుంది.

Enterprise ప్లాన్‌లలో, ఎంత మంది Perplexityను ఉపయోగిస్తున్నారో, వారు ప్రతి వారం ఎన్ని ప్రశ్నలు అడుగుతున్నారో అడ్మినిస్ట్రేటర్లు Insights డాష్‌బోర్డ్లో చూడవచ్చు (50 లేదా అంతకంటే ఎక్కువ సీట్లు ఉన్న, లేదా కనీసం ఒక Enterprise Max సభ్యుడు ఉన్న సంస్థలకు అందుబాటులో ఉంటుంది).

API వినియోగ నివేదికలలో టోకెన్ వ్యయాన్ని ట్రాక్ చేయడం

API ప్రొవైడర్ వినియోగ నివేదికలు టోకెన్ సంఖ్యలను నేరుగా, సాధారణంగా టోకెన్ రకం వారీగా విభజించి చూపిస్తాయి. ఉదాహరణకు, Perplexity API Platform కన్సోల్‌లో వినియోగదారులు బిల్లింగ్ పేజీలో ఇన్‌పుట్, అవుట్‌పుట్, రీజనింగ్ టోకెన్ వ్యయం వంటి కొలమానాలను ట్రాక్ చేయవచ్చు.

టోకెన్ వ్యయం ఎందుకు పెరుగుతోంది

ఏజెంట్‌లు ఒక్కో పనికి అనేక దశలను అమలు చేస్తాయి, ప్రతి దశ మోడల్‌కు పంపే ఒక ప్రత్యేక అభ్యర్థన. ఒక్క పనే లక్షల లేదా మిలియన్ల టోకెన్‌ల వరకు చేరవచ్చు.

రీజనింగ్ మోడల్‌లు కూడా మరింత సాధారణం అవుతున్నాయి. రీజనింగ్ మోడల్ సమాధానం ఇచ్చే ముందు తన ఆలోచనను రాస్తుంది, అందులోని ప్రతి పదం టోకెన్‌లుగా లెక్కకు వస్తుంది. కాబట్టి స్క్రీన్‌పై కనిపించే సమాధానం అదే పొడవులో ఉన్నప్పటికీ, ఒకే అభ్యర్థనకు ప్రామాణిక మోడల్ కంటే రీజనింగ్ మోడల్ సాధారణంగా ఎక్కువ టోకెన్‌లను ఉపయోగిస్తుంది.

చివరగా, సాధారణంగా ఎక్కువ మంది వ్యక్తులు, వర్క్‌ఫ్లోలు AIని ఉపయోగిస్తున్న కొద్దీ, టోకెన్ వినియోగం పెరుగుతూ పోతుంది. ఈ పెరుగుదలలో కొంత భాగం టోకెన్‌మాక్సింగ్ (tokenmaxxing) వల్ల కూడా వస్తుంది. ఇందులో ఇంజనీర్లు ప్రధానంగా తమ వ్యక్తిగత టోకెన్ సంఖ్యలను పెంచుకోవడానికి, అంతర్గత టోకెన్ లీడర్‌బోర్డ్‌లలో ఉన్నత ర్యాంక్ సాధించడానికి ఏజెంట్‌లను రన్ చేస్తారు.

టోకెన్ వ్యయాన్ని ఎలా తగ్గించాలి

ఎక్కువ టోకెన్ వ్యయం చాలావరకు కొన్ని రకాల పనుల నుండే వస్తుంది, ఇవి పైకి కనిపించే దానికంటే ఎక్కువ టోకెన్‌లను ఉపయోగిస్తాయి.

సుదీర్ఘ సంభాషణలు, ఏజెంట్ పనులు

మోడల్ ప్రతిసారీ సమాధానం ఇచ్చేటప్పుడు, సాధారణంగా అప్పటివరకు జరిగిన మొత్తం సంభాషణను మళ్లీ చదువుతుంది. ప్రతి కొత్త అభ్యర్థనలో మునుపటి సంభాషణ చరిత్ర అంతా, దానితో పాటు ప్రస్తుత వినియోగదారు సందేశం ఉంటాయి. కాబట్టి సుదీర్ఘ థ్రెడ్ చివరలో అడిగే చిన్న ప్రశ్న, కొత్త థ్రెడ్‌లో అడిగే అదే ప్రశ్న కంటే ఎక్కువ టోకెన్‌లను ఉపయోగిస్తుంది. ఏజెంట్ పనులు కూడా ఇదే విధంగా పనిచేస్తాయి, ఎందుకంటే ప్రతి దశ తన ఫలితాలను చరిత్రకు జోడిస్తుంది, తదుపరి దశ ఆ చరిత్రను మళ్లీ చదువుతుంది.

దీని గురించి ఏమి చేయాలి

  • అంశం మారినప్పుడు కొత్త సంభాషణను ప్రారంభించండి. పాత థ్రెడ్ నుండి మోడల్‌కు ఇంకా అవసరమైన విషయాలను రెండు లేదా మూడు లైన్లలో సంగ్రహించి దాన్ని ప్రారంభించండి.
  • సుదీర్ఘ ఏజెంట్ పనులను చిన్న పనులుగా విభజించండి. ప్రతి భాగాన్ని ప్రత్యేక పనిగా రన్ చేయండి, తదుపరి భాగానికి అవసరమైన ఫలితాలను మాత్రమే అందించండి.
  • బృందం ఉపయోగించే ఏజెంట్ టూల్స్ కాంటెక్స్ట్ కంపాక్షన్‌ను ఉపయోగిస్తాయో లేదో తనిఖీ చేయండి. కంపాక్షన్ ఒక పనిలోని పాత భాగాలను ఆటోమేటిక్‌గా సంగ్రహిస్తుంది, దీనివల్ల మోడల్ మళ్లీ చదవాల్సింది తగ్గుతుంది. ఏదైనా టూల్ దీన్ని సెట్టింగ్‌గా అందిస్తే, దాన్ని ఆన్ చేయండి.

అవే డాక్యుమెంట్‌లను మళ్లీ మళ్లీ ప్రాసెస్ చేయడం

ఎవరైనా పాలసీ హ్యాండ్‌బుక్ లేదా ఉత్పత్తి కేటలాగ్ వంటి అదే పొడవైన ఫైల్‌ను అనేక వేర్వేరు ప్రశ్నలకు జోడించినప్పుడు, మోడల్ ప్రతిసారీ మొత్తం ఫైల్‌ను చదువుతుంది. ప్రతిసారీ చదివినది ఇన్‌పుట్ టోకెన్‌లుగా లెక్కకు వస్తుంది.

దీని గురించి ఏమి చేయాలి

  • మొత్తం ఫైల్‌ను జోడించే బదులు, హ్యాండ్‌బుక్ లేదా కేటలాగ్‌లోని సంబంధిత విభాగాన్ని మాత్రమే అభ్యర్థనలోకి కాపీ చేసేలా వినియోగదారులకు శిక్షణ ఇవ్వండి.
  • బృందం తరచుగా ఉపయోగించే డాక్యుమెంట్‌లకు సంక్షిప్త వెర్షన్‌ను రూపొందించండి. సాధారణ ప్రశ్నలలో, పొడవైన పాలసీకి సంబంధించిన ఒక పేజీ సారాంశం పూర్తి డాక్యుమెంట్‌కు బదులుగా ఉపయోగపడుతుంది.

పునఃప్రయత్నాలు, లూప్‌లు

సమాధానం తమకు కావలసినది కాకపోవడంతో ఎవరైనా ఆ పనిని మళ్లీ రన్ చేసినప్పుడు, ప్రతి ప్రయత్నం టోకెన్‌లను ఉపయోగిస్తుంది. ఒక ఏజెంట్ అదే దశను పదే పదే చేస్తూ చిక్కుకుపోయినప్పుడు కూడా ఇదే జరుగుతుంది.

దీని గురించి ఏమి చేయాలి

  • మొదటి అభ్యర్థనలోనే పని, ఫలితం, మూలాలను స్పష్టంగా పేర్కొనండి. ఉదాహరణకు: "జోడించిన సర్వే ఫలితాలను మాత్రమే ఉపయోగించి, Q3లో కస్టమర్‌లు రద్దు చేసుకోవడానికి గల ప్రధాన కారణాలను ఐదు బుల్లెట్ పాయింట్లలో సంగ్రహించండి."
  • ఏజెంట్ పనిలోని మొదటి కొన్ని దశలను తనిఖీ చేయండి. ఏజెంట్ అదే దశను లేదా శోధనను పదే పదే చేస్తుంటే, దాన్ని ఆపి, మరింత పరిమితమైన అభ్యర్థనతో మళ్లీ ప్రారంభించండి.

సాధారణ పనులకు పెద్ద మోడల్‌లు

ఎక్కువ సామర్థ్యం గల మోడల్‌లకు సాధారణంగా ఒక్కో టోకెన్‌కు ఎక్కువ ఖర్చవుతుంది, కాబట్టి సారాంశాలు లేదా రీఫార్మాటింగ్ వంటి సాధారణ పనులు బృందం బడ్జెట్‌ను అవసరమైన దానికంటే వేగంగా ఖర్చు చేయవచ్చు.

దీని గురించి ఏమి చేయాలి

  • మోడల్ రూటింగ్‌ను ఉపయోగించండి, ఇది ప్రతి పనిని దాన్ని నిర్వహించగల మోడల్‌కు కేటాయిస్తుంది. చిన్న రీరైట్ లేదా సారాంశాన్ని చిన్న, చౌకైన మోడల్‌కు పంపవచ్చు, అత్యంత సామర్థ్యం గల మోడల్‌ను బహుళ-దశల రీజనింగ్ లేదా విశ్లేషణ కోసం ఉంచవచ్చు. Perplexity API తన ప్రీసెట్‌లతో ఈ విధానాన్ని అనుసరిస్తుంది, ఇవి త్వరిత లుకప్‌కు చిన్న మోడల్‌ను, సమగ్ర విశ్లేషణకు పెద్ద మోడల్‌ను కేటాయిస్తాయి.

కొత్త వర్క్‌ఫ్లోల తర్వాత ఆకస్మిక పెరుగుదలలు

కొత్త ఆటోమేటెడ్ వర్క్‌ఫ్లో లేదా మొత్తం బృందానికి అందుబాటులోకి తెచ్చిన టూల్ రాత్రికి రాత్రే వినియోగాన్ని పెంచవచ్చు. ఆకస్మిక పెరుగుదల దానికదే సమస్య కాదు, కానీ దానికి ఏ పని కారణమైందో తెలుసుకోవడం మంచిది.

దీని గురించి ఏమి చేయాలి

  • కొత్త వర్క్‌ఫ్లోలను ముందుగా చిన్న సమూహంతో పరీక్షించండి. వర్క్‌ఫ్లోను మొత్తం బృందానికి అందుబాటులోకి తెచ్చే ముందు, ఒకటి లేదా రెండు వారాల పాటు వారి వినియోగాన్ని తనిఖీ చేయండి.
  • ప్రతి బృందానికి నెలవారీ బడ్జెట్‌ను సెట్ చేయండి. సాధారణ నెల వినియోగం ఆధారంగా దాన్ని నిర్ణయించండి, తద్వారా ఏదైనా పెరుగుదల స్పష్టంగా కనిపిస్తుంది.
  • ఆటో-రీఫిల్‌ను ఆఫ్ చేయండి. ఆటో-రీఫిల్ ఆఫ్‌లో ఉంటే, క్రెడిట్స్ అయిపోయినప్పుడు ఆటోమేటిక్‌గా మరిన్ని క్రెడిట్స్ కొనుగోలు చేయబడే బదులు పని ఆగిపోతుంది.

Perplexityలో టోకెన్ వ్యయాన్ని ఎలా ఆప్టిమైజ్ చేయాలి

రోజువారీ ఉపయోగం కోసం

Computer క్రెడిట్స్‌ను ఉపయోగిస్తుంది, కానీ మీరు ఎంచుకున్నప్పుడు మాత్రమే అది రన్ అవుతుంది: Computer ఐకాన్‌ను ఎంచుకోవడం ద్వారా, డిఫాల్ట్‌గా Computerకు సెట్ చేసిన ప్రాజెక్ట్‌లో పని చేయడం ద్వారా లేదా Comet Work మోడ్‌ను ఉపయోగించడం ద్వారా.

సాధారణ శోధనకు తిరిగి వెళ్లడానికి, Perplexity ఐకాన్‌ను ఎంచుకుని Ask మోడ్‌కు మారండి. క్రెడిట్ వినియోగాన్ని చూడటానికి, వినియోగదారులు Perplexity ఇంటర్‌ఫేస్‌లోని ట్రాకర్‌ను తెరవవచ్చు.

Perplexity భాగస్వామ్య వర్క్‌స్పేస్‌లైన ప్రాజెక్ట్‌లలో పని చేసే బృందాలు, ప్రతి ప్రాజెక్ట్ డిఫాల్ట్ మోడ్‌ను శోధన లేదా Computerగా సెట్ చేయవచ్చు. ఎక్కువగా త్వరిత పరిశోధన కోసం ఉపయోగించే ప్రాజెక్ట్‌ను డిఫాల్ట్‌గా శోధనకు సెట్ చేయవచ్చు, తద్వారా ఎవరూ పొరపాటున Computer పనిని ప్రారంభించరు.

Enterprise అడ్మినిస్ట్రేటర్ల కోసం

  • ప్రతి సీటులో ఏమి చేర్చబడిందో తెలుసుకోండి. Enterprise Pro వినియోగదారులు నెలకు 500 క్రెడిట్స్ కేటాయింపును పొందుతారు, Enterprise Max వినియోగదారులు 15,000 క్రెడిట్స్ పొందుతారు. వీటి గడువు ప్రతి నెలవారీ సైకిల్ చివరిలో ముగుస్తుంది, ఇవి తదుపరి సైకిల్‌కు బదిలీ కావు.
  • ముందుగా డిఫాల్ట్ వినియోగ పరిమితిని సెట్ చేయండి. ఒక సభ్యుని సొంత కేటాయింపు అయిపోయిన తర్వాత, భాగస్వామ్య పూల్ నుండి వారు గరిష్ఠంగా ఎన్ని అదనపు క్రెడిట్స్ తీసుకోవచ్చో వినియోగ పరిమితి నిర్ణయిస్తుంది.
  • వేర్వేరు రకాల వినియోగదారుల కోసం పేరు గల పరిమితులను సృష్టించండి. అడ్మిన్‌లు "ప్రామాణికం", "పవర్ యూజర్", "కాంట్రాక్టర్" వంటి పరిమితులను సెటప్ చేసి, వాటిని వినియోగదారు సమూహాలకు లేదా వ్యక్తిగత సభ్యులకు కేటాయించవచ్చు. సమూహాలు Perplexity నుండి రావచ్చు లేదా కంపెనీ ఐడెంటిటీ ప్రొవైడర్ నుండి సింక్ కావచ్చు. ఎవరైనా ఒకటి కంటే ఎక్కువ సమూహాలకు చెందినట్లయితే, అత్యధిక పరిమితి వర్తిస్తుంది.
  • మినహాయింపుల కోసం వ్యక్తిగత ఓవర్‌రైడ్‌లను ఉపయోగించండి. ఒక వ్యక్తికి తన సమూహం కంటే వేరే పరిమితి అవసరమైనప్పుడు, వ్యక్తిగత ఓవర్‌రైడ్ ఏదైనా సమూహ లేదా భాగస్వామ్య పరిమితి కంటే ప్రాధాన్యత పొందుతుంది. మొత్తం బృందానికి పరిమితిని పెంచకుండానే, భారీ పరిశోధన అవసరమయ్యే స్వల్పకాలిక ప్రాజెక్ట్‌కు ఇది ఉపయోగపడుతుంది.
  • ఆటో-రీఫిల్‌పై గరిష్ఠ పరిమితి విధించండి. ఆటో-రీఫిల్ భాగస్వామ్య పూల్‌ను ఆటోమేటిక్‌గా నింపుతుంది. దీనికి కాన్ఫిగర్ చేయగల నెలవారీ రీలోడ్ పరిమితి ఉంటుంది, కాబట్టి నిర్దిష్ట గరిష్ఠ పరిమితి లేకుండా ఖర్చు పెరగదు.
  • సభ్యులు మరిన్ని క్రెడిట్స్ ఎలా అడగాలో నిర్ణయించండి. "సభ్యులు మరిన్ని క్రెడిట్స్ అభ్యర్థించడానికి అనుమతించండి" సెట్టింగ్‌తో, తమ పరిమితిని చేరుకున్నవారు పూర్తిగా ఆగిపోవాల్సిన అవసరం లేకుండా, అడ్మిన్ నుండి మరిన్ని క్రెడిట్స్ అభ్యర్థించవచ్చు.
  • ప్రతి నెలా వినియోగాన్ని సమీక్షించండి. సంస్థ క్రెడిట్స్ పేజీ ప్రతి సభ్యునికి మంజూరు చేసిన, ఉపయోగించిన, మిగిలిన క్రెడిట్స్‌ను సమూహ పరిమితులు, పూల్ బ్యాలెన్స్‌తో పాటు చూపిస్తుంది. 50 లేదా అంతకంటే ఎక్కువ సీట్లు ఉన్న, లేదా కనీసం ఒక Enterprise Max సభ్యుడు ఉన్న సంస్థలకు, Insights డాష్‌బోర్డ్ కాలక్రమేణా నెలవారీ యాక్టివ్ వినియోగదారులను, వారపు ప్రశ్నలను కూడా చూపిస్తుంది. మరిన్ని వివరాల కోసం, ఆడిట్ లాగ్‌లు పని అమలు, కనెక్టర్ వినియోగం, క్రెడిట్ వినియోగం, క్రెడిట్ మంజూరీలను నమోదు చేస్తాయి.

APIపై నిర్మించే బృందాల కోసం

  • ప్రతి టూల్‌కు లేదా బృందానికి దాని సొంత API కీని ఇవ్వండి. Perplexity ప్రతి కీకి బిల్లింగ్‌ను విడిగా చూపించగలదు, వేర్వేరు కీలు ఉంటే ఏ టూల్ వినియోగాన్ని పెంచుతోందో స్పష్టంగా తెలుస్తుంది.
  • ఏ రకమైన టోకెన్ పెరుగుతోందో బిల్లింగ్ పేజీలో తనిఖీ చేయండి. ఇది కాలక్రమేణా ఇన్‌పుట్, అవుట్‌పుట్, రీజనింగ్ టోకెన్‌లను చూపిస్తుంది. ఇన్‌పుట్ టోకెన్‌లు పెరుగుతుంటే, సాధారణంగా ఒక టూల్ అవసరమైన దానికంటే ఎక్కువ టెక్స్ట్‌ను పంపుతోందని అర్థం. రీజనింగ్ టోకెన్‌లు పెరుగుతుంటే, సమస్యల గురించి సుదీర్ఘంగా ఆలోచించే మోడల్‌లపై పనులు రన్ అవుతున్నాయని అర్థం.
  • ఒక టూల్‌కు శోధన ఫలితాలు మాత్రమే అవసరమైనప్పుడు Search APIని ఉపయోగించండి. ఇది మోడల్ సమాధానం రాయకుండానే వెబ్ ఫలితాలను అందిస్తుంది, అదనపు టోకెన్ ఆధారిత ఛార్జీలు లేకుండా ఒక్కో అభ్యర్థనకు ఛార్జ్ చేస్తుంది.
  • ఏజెంట్ టూల్స్‌ను ప్రీసెట్‌తో ప్రారంభించండి. Perplexity ప్రీసెట్‌లు పని పరిమాణానికి తగిన పరిమాణం గల మోడల్‌ను ఎంచుకుంటాయి, సాధారణ అభ్యర్థనలను అత్యంత ఖరీదైన మోడల్‌లకు దూరంగా ఉంచుతాయి.

లోకల్-ఫస్ట్ పని

కొన్ని పనులకు అసలు చెల్లింపు క్లౌడ్ మోడల్ అవసరమే లేదు. Portable Computer అనేది Perplexity ఏజెంట్ యొక్క ఒక వెర్షన్, ఇది ఆ వ్యక్తి సొంత కంప్యూటర్‌లో, ఆ మెషీన్‌లో నిల్వ చేసిన AI మోడల్‌ను ఉపయోగించి రన్ అవుతుంది. మోడల్ లోకల్‌గా రన్ అవుతుంది కాబట్టి, సాధారణ పనులు చెల్లింపు టోకెన్‌లను ఉపయోగించవు. ఒక పనికి అవసరమైనప్పుడు మాత్రమే ఇది వెబ్‌ను, కనెక్ట్ చేసిన యాప్‌లను లేదా మరింత శక్తివంతమైన క్లౌడ్ మోడల్‌ను సంప్రదిస్తుంది, అది కూడా ముందుగా వినియోగదారును అడిగిన తర్వాతే.

వెబ్, ఫైల్స్, కనెక్ట్ చేసిన టూల్స్‌లో Perplexity Computer బహుళ-దశల పనిని ఎలా నిర్వహిస్తుందో అన్వేషించండి.

తరచుగా అడిగే ప్రశ్నలు

టోకెన్ వ్యయానికి, AI ఖర్చులకు మధ్య తేడా ఏమిటి?

టోకెన్ వ్యయం ఒక బృందం ఎంత AI పని చేస్తుందో టోకెన్‌లలో లెక్కించి కొలుస్తుంది. AI ఖర్చులు అంటే సబ్‌స్క్రిప్షన్‌లు, అదనపు క్రెడిట్స్, సెటప్‌తో సహా AIని ఉపయోగించడానికి బృందం చెల్లించే ప్రతిదీ. ఆ బిల్లులోని వినియోగ ఆధారిత భాగాన్ని టోకెన్ వ్యయమే నిర్ణయిస్తుంది.

సబ్‌స్క్రిప్షన్ వినియోగదారులు ఒక్కో టోకెన్‌కు చెల్లిస్తారా?

సాధారణంగా నేరుగా కాదు. సబ్‌స్క్రిప్షన్ టూల్స్ వినియోగాన్ని సందేశాలు, ప్రశ్నలు లేదా క్రెడిట్స్ రూపంలో ట్రాక్ చేస్తాయి, ఎక్కువ టోకెన్‌లను ఉపయోగించే పనులు వాటిని త్వరగా ఖర్చు చేస్తాయి. Perplexityలో సాధారణ శోధనలు అసలు క్రెడిట్స్‌ను ఉపయోగించవు; Computer పనులు మాత్రమే ఉపయోగిస్తాయి.

AI ఏజెంట్‌లు ఇన్ని టోకెన్‌లను ఎందుకు ఉపయోగిస్తాయి?

ఏజెంట్ ఒక పనిని అనేక దశల్లో పూర్తి చేస్తుంది, ప్రతి దశ అప్పటివరకు జరిగిన పనిని మళ్లీ చదివే ఒక ప్రత్యేక అభ్యర్థన. కాబట్టి సుదీర్ఘ పని ముందుకు సాగే ప్రతి దశతో మరిన్ని టోకెన్‌లను ఉపయోగిస్తుంది.

టోకెన్ వినియోగం ఎందుకు ఒక్కసారిగా పెరుగుతుంది?

చాలా ఆకస్మిక పెరుగుదలలు బృందం పని చేసే విధానంలో మార్పు తర్వాత వస్తాయి, ఉదాహరణకు కొత్త ఆటోమేటెడ్ వర్క్‌ఫ్లో, ఎక్కువ మందికి అందుబాటులోకి తెచ్చిన టూల్ లేదా సుదీర్ఘ ఏజెంట్ పని. పెరుగుదల జరిగిన తేదీని ఇటీవలి లాంచ్‌లతో పోల్చితే సాధారణంగా కారణం తెలుస్తుంది. కొత్త వర్క్‌ఫ్లోలను ముందుగా చిన్న సమూహంతో పరీక్షించడం ఆకస్మిక పెరుగుదలలను నివారించడంలో సహాయపడుతుంది.