كيفية تتبع إنفاق الفريق على الرموز والتحكم فيه

ما المقصود بالإنفاق على الرموز

الإنفاق على الرموز هو عدد الرموز (tokens) التي يستهلكها الفريق عند استخدام الذكاء الاصطناعي، وتكلفة تلك الرموز. والرمز وحدة من النص، مثل كلمة أو جزء من كلمة أو علامة ترقيم، يقرؤها نموذج الذكاء الاصطناعي أو يكتبها. وفي اللغة الإنجليزية، يعادل الرمز الواحد 4 أحرف تقريبًا. ولا توجد معايير موحدة للرموز بين النماذج أو المزودين، لذا قد ينتج النص نفسه عددًا مختلفًا من الرموز في أدوات مختلفة.

عادةً ما تقسّم تقارير الاستخدام الرموز إلى بضعة أنواع:

• رموز الإدخال هي كل ما يقرؤه النموذج في الطلب الواحد. ويشمل ذلك الاستعلام، وأي نص مرفق، وسجل المحادثة الذي يعيد النموذج استخدامه من الرسائل السابقة في السلسلة نفسها.
• رموز الإخراج هي الرد الذي يكتبه النموذج، وغالبًا ما تكون تكلفتها أعلى من رموز الإدخال. ففي أسعار واجهة برمجة التطبيقات من Perplexity، تبلغ تكلفة الإخراج في بعض النماذج ستة أضعاف تكلفة الإدخال.
• رموز الاستدلال هي نص يولّده النموذج داخليًا ليعالج المشكلة قبل أن يجيب. ولا تظهر هذه الرموز في الإجابة، لذا فإن طول الرد الظاهر لا يعني بالضرورة أن النموذج استخدم عددًا أكبر من الرموز إجمالًا.

نادرًا ما ترى الفرق التي تستخدم أدوات الذكاء الاصطناعي باشتراك رسومًا لكل رمز. ومع ذلك تظل الرموز تحدد ما تحصل عليه، إذ تستنفد المهام الأثقل الرصيد أو تبلغ حدود الاستخدام بشكل أسرع. أما الفرق التي تبني أدواتها الخاصة على نموذج ذكاء اصطناعي، فتدفع عادةً مقابل كل رمز وفق التسعير القائم على الاستخدام.

كيفية تتبع الإنفاق على الرموز

تتبع الإنفاق على الرموز في خطط الاشتراك

لا تعرض أدوات الاشتراك عادةً عدد الرموز. وبدلًا من ذلك، تعتمد خطط كثيرة على الرصيد، وهو وحدات مدفوعة مسبقًا تستهلكها الخطة مع إنجاز العمل. والرصيد ليس هو الرموز، إذ يمكن لوحدة رصيد واحدة أن تغطي نصًا أو صورًا أو أعمالًا أخرى. لكن المهام التي تستخدم رموزًا أكثر تستهلك عادةً رصيدًا أكبر أيضًا، لذا يُعد الرصيد أفضل مؤشر على الإنفاق على الرموز في الاشتراك. ويمكن للمستخدمين تتبع استهلاكهم من الرصيد، كما تتضمن بعض الخطط لوحة معلومات للمسؤولين تعرض استهلاك الرصيد للفريق بأكمله.

في Perplexity على سبيل المثال، لا تستهلك عمليات البحث العادية أي رصيد، إذ يقتصر استهلاكه على Perplexity Computer، المساعد الذي يتولى المهام متعددة الخطوات. ويمكن لمن يستخدمون Computer معرفة مقدار الرصيد الذي استهلكوه وفيمَ استهلكوه. كما تعرض كل مهمة في Computer إجمالي الرصيد الخاص بها في قائمة «الاستخدام» ضمن محادثتها.

تكبير

في خطط Enterprise، يمكن للمسؤولين معرفة عدد الأشخاص الذين يستخدمون Perplexity وعدد الاستعلامات التي يجرونها كل أسبوع من خلال لوحة معلومات Insights (المتاحة للمؤسسات التي لديها 50 مقعدًا أو أكثر، أو عضو واحد على الأقل في Enterprise Max).

تكبير

تتبع الإنفاق على الرموز في تقارير استخدام واجهة برمجة التطبيقات

تعرض تقارير الاستخدام لدى مزود واجهة برمجة التطبيقات عدد الرموز مباشرةً، مقسّمًا عادةً حسب نوع الرمز. فعلى سبيل المثال، تتيح وحدة تحكم API Platform من Perplexity للمستخدمين تتبع مقاييس مثل الإنفاق على رموز الإدخال والإخراج والاستدلال في صفحة «الفوترة».

لماذا يتزايد الإنفاق على الرموز

ينفّذ الوكلاء خطوات كثيرة في كل مهمة، وكل خطوة طلب مستقل إلى النموذج. وقد يصل ما تستهلكه مهمة واحدة إلى مئات الآلاف من الرموز، بل إلى الملايين.

كما أصبحت نماذج الاستدلال أكثر شيوعًا. فنموذج الاستدلال يكتب تفكيره قبل أن يجيب، وكل كلمة من ذلك تُحتسب رموزًا. لذا يستهلك الطلب نفسه عادةً رموزًا أكثر على نموذج الاستدلال مقارنةً بالنموذج العادي، حتى لو بدت الإجابة على الشاشة بالطول نفسه.

وأخيرًا، مع ازدياد عدد الأشخاص وعمليات سير العمل التي تستخدم الذكاء الاصطناعي عمومًا، يتراكم استهلاك الرموز. ويعود جزء من هذا النمو أيضًا إلى ما يُعرف بـ tokenmaxxing، حيث يشغّل المهندسون الوكلاء أساسًا لرفع أعداد رموزهم الشخصية والتقدم في ترتيب لوحات المتصدرين الداخلية للرموز.

كيفية تقليل الإنفاق على الرموز

ينتج معظم الإنفاق المرتفع على الرموز عن أنواع قليلة من العمل تستهلك رموزًا أكثر مما يبدو.

المحادثات الطويلة ومهام الوكلاء

في كل مرة يرد فيها النموذج، يعيد عادةً قراءة المحادثة كاملةً حتى تلك اللحظة. فكل طلب جديد يتضمن سجل المحادثة السابق بأكمله إلى جانب رسالة المستخدم الحالية. لذا فإن سؤالًا قصيرًا يُطرح في مرحلة متأخرة من سلسلة طويلة يستهلك رموزًا أكثر من السؤال نفسه في سلسلة جديدة. وتعمل مهام الوكلاء بالطريقة نفسها، لأن كل خطوة تضيف نتائجها إلى السجل الذي تعيد الخطوة التالية قراءته.

تكبير

ما الذي يمكن فعله

• ابدأ محادثة جديدة عندما يتغير الموضوع، وافتتحها بملخص من سطرين أو ثلاثة لأي شيء من السلسلة القديمة لا يزال النموذج بحاجة إليه.
• قسّم مهام الوكلاء الطويلة إلى مهام أصغر. شغّل كل جزء كمهمة مستقلة، ولا تمرّر إلا النتائج التي يحتاجها الجزء التالي.
• تحقق مما إذا كانت أدوات الوكلاء التي يستخدمها الفريق تعتمد ضغط السياق. فالضغط يلخّص الأجزاء الأقدم من المهمة تلقائيًا كي يقلّ ما يعيد النموذج قراءته. وإذا كانت الأداة توفره كإعداد، ففعّله.

معالجة المستندات نفسها مرارًا وتكرارًا

عندما يرفق شخص ما الملف الطويل نفسه، مثل دليل سياسات أو كتالوج منتجات، بعدة استعلامات منفصلة، يقرأ النموذج الملف كاملًا في كل مرة. وتُحتسب كل قراءة رموزَ إدخال.

ما الذي يمكن فعله

• درّب المستخدمين على نسخ القسم ذي الصلة من الدليل أو الكتالوج إلى الطلب بدلًا من إرفاق الملف كاملًا.
• أعدّ نسخًا مختصرة من المستندات التي يستخدمها الفريق كثيرًا. فملخص من صفحة واحدة لسياسة طويلة يمكن أن يحل محل المستند الكامل في الاستعلامات الروتينية.

إعادة المحاولة والحلقات المتكررة

عندما لا تلبي الإجابة حاجة الشخص فيعيد تشغيل المهمة، تستهلك كل محاولة رموزًا. ويحدث الأمر نفسه عندما يعلق الوكيل في تكرار الخطوة ذاتها.

ما الذي يمكن فعله

• حدّد المهمة والنتيجة المطلوبة والمصادر بوضوح في الطلب الأول. على سبيل المثال: «لخّص الأسباب الرئيسية لإلغاء العملاء اشتراكاتهم في الربع الثالث، مستخدمًا نتائج الاستبيان المرفقة فقط، في خمس نقاط.»
• راجع الخطوات القليلة الأولى من مهمة الوكيل. فإذا كرر الوكيل الخطوة نفسها أو البحث نفسه، فأوقفه وأعد تشغيله بطلب أضيق نطاقًا.

النماذج الكبيرة في المهام البسيطة

عادةً ما تكون تكلفة الرمز أعلى في النماذج الأكثر قدرةً، لذا قد يستنفد العمل الروتيني، مثل التلخيص أو إعادة التنسيق، ميزانية الفريق أسرع من اللازم.

ما الذي يمكن فعله

• استخدم توجيه النماذج، الذي يطابق كل مهمة مع نموذج قادر على إنجازها. فيمكن توجيه إعادة الصياغة القصيرة أو الملخص إلى نموذج أصغر وأقل تكلفة، مع الإبقاء على النموذج الأعلى قدرةً للاستدلال أو التحليل متعدد الخطوات. وتتبع واجهة برمجة التطبيقات من Perplexity هذا النهج من خلال إعداداتها المسبقة، التي تخصص نموذجًا أصغر للبحث السريع ونموذجًا أكبر للتحليل الشامل.

الارتفاعات المفاجئة بعد اعتماد عمليات سير عمل جديدة

قد يؤدي سير عمل آلي جديد، أو أداة تُطرح للفريق بأكمله، إلى رفع الاستخدام بين ليلة وضحاها. والارتفاع المفاجئ ليس مشكلة في حد ذاته، لكن من المفيد معرفة العمل الذي تسبب فيه.

ما الذي يمكن فعله

• اختبر عمليات سير العمل الجديدة مع مجموعة صغيرة أولًا، وراقب استخدامها لمدة أسبوع أو أسبوعين قبل طرح سير العمل للفريق بأكمله.
• حدّد ميزانية شهرية لكل فريق، واستند فيها إلى استخدام شهر اعتيادي، كي تبرز أي قفزة بوضوح.
• أوقف إعادة التعبئة التلقائية. فعند إيقافها، يتوقف العمل عند نفاد الرصيد، بدلًا من شراء رصيد إضافي تلقائيًا.

كيفية تحسين الإنفاق على الرموز في Perplexity

للاستخدام اليومي

يستهلك Computer الرصيد، لكنه لا يعمل إلا عندما تختاره، سواء بتحديد أيقونة Computer، أو بالعمل في مشروع يكون وضعه الافتراضي Computer، أو باستخدام وضع العمل في Comet.

تكبير

للعودة إلى البحث العادي، حدّد أيقونة Perplexity للتبديل مجددًا إلى وضع «اسأل». ولمعرفة استهلاك الرصيد، يمكن للمستخدمين فتح أداة التتبع داخل واجهة Perplexity.

تكبير

يمكن للفرق التي تعمل في المشاريع، وهي مساحات العمل المشتركة في Perplexity، تعيين الوضع الافتراضي لكل مشروع إلى «البحث» أو Computer. فالمشروع المستخدم غالبًا للأبحاث السريعة يمكن ضبطه افتراضيًا على «البحث»، حتى لا يبدأ أحد مهمة في Computer عن طريق الخطأ.

لمسؤولي Enterprise

• اعرف ما يتضمنه كل مقعد. يحصل مستخدمو Enterprise Pro على مخصص شهري قدره 500 وحدة رصيد، ويحصل مستخدمو Enterprise Max على 15,000 وحدة رصيد. وتنتهي صلاحية هذا الرصيد في نهاية كل دورة شهرية ولا يُرحَّل إلى الدورة التالية.
• عيّن حد استخدام افتراضيًا أولًا. يحدد حد الاستخدام مقدار الرصيد الإضافي الذي يمكن للعضو سحبه من المجمّع المشترك بعد نفاد مخصصه الخاص.
• أنشئ حدودًا مسماة لأنواع مختلفة من المستخدمين. يمكن للمسؤولين إعداد حدود مثل «قياسي» و«مستخدم متقدم» و«متعاقد»، وتعيينها لمجموعات المستخدمين أو لأعضاء بعينهم. ويمكن أن تُنشأ المجموعات في Perplexity أو تُزامَن من موفر الهوية الخاص بالشركة. وإذا كان الشخص ينتمي إلى أكثر من مجموعة، يُطبَّق الحد الأعلى.
• استخدم التجاوزات الشخصية للاستثناءات. فعندما يحتاج شخص ما إلى حد مختلف عن حد مجموعته، تكون للتجاوز الشخصي الأولوية على أي حد للمجموعة أو حد مشترك. وهذا مفيد لمشروع قصير يتطلب بحثًا مكثفًا، دون رفع الحد للفريق بأكمله.
• ضع سقفًا لإعادة التعبئة التلقائية. تعيد هذه الميزة تعبئة المجمّع المشترك تلقائيًا، وتأتي مع حد شهري قابل للتهيئة لإعادة التعبئة، حتى لا يتزايد الإنفاق دون حد أقصى محدد.
• حدّد كيف يطلب الأعضاء المزيد. يتيح إعداد «السماح للأعضاء بطلب المزيد من الرصيد» لمن بلغوا حدهم طلب المزيد من أحد المسؤولين، بدلًا من إيقافهم تمامًا.
• راجع الاستخدام كل شهر. تعرض صفحة «رصيد المؤسسة» الرصيد الممنوح والمستهلك والمتبقي لكل عضو، إلى جانب حدود المجموعات والرصيد المتبقي في المجمّع المشترك. وبالنسبة إلى المؤسسات التي لديها 50 مقعدًا أو أكثر، أو عضو واحد على الأقل في Enterprise Max، تضيف لوحة معلومات Insights المستخدمين النشطين شهريًا والاستعلامات الأسبوعية بمرور الوقت. ولمزيد من التفاصيل، تسجّل سجلات التدقيق تنفيذ المهام، واستخدام الموصلات، واستهلاك الرصيد، ومنح الرصيد.

للفرق التي تبني على واجهة برمجة التطبيقات

• خصّص لكل أداة أو فريق مفتاح API خاصًا به. يمكن لـ Perplexity عرض الفوترة لكل مفتاح على حدة، كما أن المفاتيح المنفصلة توضح أي أداة تقف وراء الاستخدام.
• راجع صفحة الفوترة لمعرفة نوع الرموز الذي يتزايد، فهي تعرض رموز الإدخال والإخراج والاستدلال بمرور الوقت. ويعني ارتفاع رموز الإدخال عادةً أن الأداة ترسل نصًا أكثر مما تحتاج، أما ارتفاع رموز الاستدلال فيعني أن المهام تعمل على نماذج تفكر في المشكلات مطولًا.
• استخدم Search API عندما لا تحتاج الأداة إلا إلى نتائج البحث. فهي تُرجع نتائج الويب دون أن يكتب نموذج إجابة، وتحتسب الرسوم لكل طلب دون أي رسوم إضافية قائمة على الرموز.
• ابدأ أدوات الوكلاء من إعداد مسبق. تطابق الإعدادات المسبقة في Perplexity حجم المهمة مع حجم النموذج، وتُبعد الطلبات البسيطة عن النماذج الأعلى تكلفة

العمل المحلي أولًا

بعض الأعمال لا تحتاج إلى نموذج سحابي مدفوع على الإطلاق. ويُعد Portable Computer إصدارًا من وكيل Perplexity يعمل على جهاز الكمبيوتر الخاص بالشخص، باستخدام نموذج ذكاء اصطناعي مخزّن على ذلك الجهاز. ولأن النموذج يعمل محليًا، فإن العمل الروتيني لا يستهلك رموزًا مدفوعة. ولا يتصل الوكيل بالويب أو التطبيقات المتصلة أو نموذج سحابي أقوى إلا عندما تتطلب المهمة ذلك، ويستأذن المستخدم أولًا.

اكتشف كيف يتعامل Perplexity Computer مع العمل متعدد الخطوات عبر الويب والملفات والأدوات المتصلة.

الأسئلة الشائعة

ما الفرق بين الإنفاق على الرموز وتكاليف الذكاء الاصطناعي؟

يقيس الإنفاق على الرموز حجم عمل الذكاء الاصطناعي الذي ينجزه الفريق، محسوبًا بالرموز. أما تكاليف الذكاء الاصطناعي فتشمل كل ما يدفعه الفريق لاستخدام الذكاء الاصطناعي، بما في ذلك الاشتراكات والرصيد الإضافي والإعداد. ويحرّك الإنفاق على الرموز الجزء القائم على الاستخدام من تلك الفاتورة.

هل يدفع مستخدمو الاشتراكات مقابل كل رمز؟

ليس بشكل مباشر عادةً. تتتبع أدوات الاشتراك الاستخدام بعدد الرسائل أو الاستعلامات أو الرصيد، والمهام التي تستهلك رموزًا أكثر تستنفدها بشكل أسرع. وفي Perplexity، لا تستهلك عمليات البحث العادية أي رصيد على الإطلاق؛ فمهام Computer وحدها هي التي تستهلكه.

لماذا يستهلك وكلاء الذكاء الاصطناعي هذا القدر الكبير من الرموز؟

ينجز الوكيل المهمة عبر خطوات كثيرة، وكل خطوة طلب مستقل يعيد قراءة العمل المنجز حتى تلك اللحظة. لذلك تستهلك المهمة الطويلة رموزًا أكثر مع كل خطوة تخطوها.

لماذا يرتفع استهلاك الرموز فجأة؟

تأتي معظم الارتفاعات المفاجئة في أعقاب تغيير في طريقة عمل الفريق، مثل سير عمل آلي جديد، أو أداة طُرحت لعدد أكبر من الأشخاص، أو مهمة وكيل طويلة. وعادةً ما تكشف مقارنة تاريخ الارتفاع بعمليات الإطلاق الأخيرة عن السبب. ويساعد اختبار عمليات سير العمل الجديدة مع مجموعة صغيرة أولًا على منع هذه الارتفاعات.