Orchestrator: واجهة API واحدة لاستدلال موثوق

اتصل بنماذج الذكاء الاصطناعي مفتوحة الأوزان والمملوكة عبر واجهة API واحدة مع فوترة موحّدة وتبديل احتياطي تلقائي ضمن النموذج نفسه.

Illuminated cubes connected by streams of light, representing model access through Orchestrator.

يجمع Orchestrator النماذج مفتوحة الأوزان والنماذج المملوكة في واجهة API واحدة مع فوترة موحّدة. ويختار مزوّدًا تلقائيًا بناءً على التوفر والسعة وزمن الاستجابة، ويمكنه إعادة محاولة الطلبات الفاشلة على عملية نشر أخرى متاحة للنموذج نفسه.

تكامل واحد للنماذج مفتوحة الأوزان والنماذج المملوكة

يخدم Orchestrator النماذج مفتوحة الأوزان المستضافة على البنية التحتية للاستدلال لدى Perplexity إلى جانب النماذج المملوكة من مزوّدين آخرين. ويسرد الكتالوج الحالي خيارات النماذج المتاحة.

يقبل طلبات OpenAI Chat Completions وOpenAI Responses وAnthropic Messages، لذا يمكنك الاتصال عبر حزمة SDK الحالية من OpenAI أو Anthropic.

يتناول دليل البدء السريع ودليل التوجيه أمثلة SDK وسلوك التوجيه الحالي.

الموثوقية والسرعة عبر المزوّدين

الموثوقية

لا يعني اختيار Claude بالضرورة الاعتماد على مزوّد واحد: فالطلب الذي يفشل على Anthropic يمكن أن ينجح على AWS Bedrock. ويتيح التبديل الاحتياطي بين المزوّدين تغيير عملية النشر التي تخدم الطلب دون تغيير النموذج.

يستخدم Orchestrator الحالة الصحية والسعة المرصودتين لتوزيع الطلبات بين عمليات نشر النموذج. إذا أعاد أحد المزوّدين خطأً أو بلغ حدّ المعدل أو انتهت مهلته، يعيد Orchestrator المحاولة على عملية نشر أخرى للنموذج نفسه، مع حدود للوقت حتى أول رمز مميز وللمدة الإجمالية لكل محاولة.

في القياسات التي أُجريت من 4 أكتوبر إلى 2 نوفمبر 2026، نجحت طلبات Claude وGPT عبر Perplexity بمعدل أعلى من الطلبات المرسلة إلى أي مزوّد منفرد قسناه. كما كانت معدلات نجاحها اليومية أقل تفاوتًا خلال الأعطال لدى المزوّدين.

معدلات نجاح الطلبات، من 4 أكتوبر إلى 2 نوفمبر 2026: Claude على اليسار، ونماذج GPT المتاحة عبر كلٍّ من OpenAI وAzure على اليمين.
معدلات نجاح الطلبات اليومية خلال الفترة نفسها: Claude على اليسار وGPT على اليمين.

احتسبنا الطلب فاشلًا عندما استنفد Orchestrator عمليات النشر المتاحة أو أعادت طبقة الخدمة خطأً، لكننا استبعدنا أخطاء العميل مثل الطلبات غير الصالحة وانتهاكات حدود المعدل الخاصة بالعميل.

سرعة الإخراج

نعمل على توجيه تكيّفي يراعي سرعة النماذج، ليتمكن Orchestrator من تعديل اختيار المزوّد مع تغيّر الأداء.

يتغير المزوّد الأسرع لأي نموذج بمرور الوقت. بالنسبة إلى Claude Opus 5.5، تصدّرت Anthropic في 15 يومًا من أصل 30، وتصدّرت AWS Bedrock في الأيام الـ 15 الأخرى.

وسيط سرعة الإخراج لـ Claude Opus 5.5 حسب المزوّد واليوم، من 4 أكتوبر إلى 2 نوفمبر 2026. يتتبّع الخط المميّز المزوّد الأسرع في كل يوم، بما يوضّح الهدف الذي يسعى إليه التوجيه المباشر المراعي للسرعة.

خلال الأيام الثلاثين نفسها، كان وسيط سرعة الإخراج لـ GPT-5.6 Sol على Azure أعلى بنسبة 27% منه على OpenAI.

وسيط سرعة الإخراج لـ GPT-5.6 Sol بعد أول رمز مميز، من 4 أكتوبر إلى 2 نوفمبر 2026.

فاتورة واحدة لجميع النماذج

يُحتسب كل طلب ضمن استخدام الرموز المميزة للنموذج الذي أجاب فقط. يطبّق Orchestrator الأسعار المعلنة لكل رمز مميز لكل نموذج بغض النظر عن المزوّد الذي يخدم الطلب، لذا لا يغيّر التبديل الاحتياطي بين المزوّدين هذا السعر. ويُخصم الاستخدام من الرصيد المدفوع مسبقًا نفسه المستخدم في بقية مشروع Perplexity API الخاص بك.

في وحدة تحكم API، يمكنك عرض الإنفاق حسب النموذج وتصفية الاستخدام حسب مفتاح API. ويمكنك أيضًا شراء رصيد عبر AWS Marketplace.

التوجيه التلقائي (معاينة): مطابقة كل مهمة مع النموذج المناسب

يوفّر Orchestrator التوجيه التلقائي، وهو ميزة اختيارية متاحة في مرحلة المعاينة. ويختار نموذجًا لكل طلب باستخدام ملف تعريف يقرن أوصاف المهام المكتوبة بلغة بسيطة بالنماذج. يمكنك تحديد ملف التعريف الخاص بك أو استخدام ملف التعريف الافتراضي المدمج في Orchestrator.

تستخدم طلبات التوجيه التلقائي perplexity/auto كنموذج. وبالنسبة إلى ملف تعريف مخصّص، أدرج كائن routing يتضمن default_model وroutes. ويحدّد كل مسار اسمًا ووصفًا ونموذجًا.

لكل طلب، يستدعي perplexity/auto نموذج القرار الخاص بنا لقراءة المحادثة ومطابقتها مع أوصاف المسارات، دون الاطلاع على أسماء النماذج. ثم يرسل Orchestrator الطلب إلى النموذج المخصّص للمسار المحدد، أو إلى نموذجك الافتراضي إذا لم يتطابق أي مسار. ويستخدم Orchestrator نموذجك الافتراضي أيضًا إذا فشل نموذج القرار أو انتهت مهلته.

تتناول الأمثلة أدناه التوجيه لتفادي حالات رفض النماذج، وأنواع مشكلات دعم العملاء، وتغيّر المهام داخل المحادثة.

التوجيه لتفادي حالات الرفض

يمكن للوكيل استخدام التوجيه التلقائي لتجنّب حالات الرفض المتوقعة مع الاحتفاظ بنموذجه المفضّل للأعمال الأخرى. وتوثّق Anthropic أن ضمانات Claude Fable 5.2 قد تحظر أعمالًا غير ضارة في مجالَي الأمن السيبراني وعلوم الحياة. اختبرنا حالة الاستخدام هذه على مجموعة فرعية من 63 مهمة من Terminal-Bench 4.1.

شغّلنا Claude Code باستخدام Fable وحده ومع ملفَّي تعريف توجيه مخصّصين. أبقى كلا الملفين على Fable نموذجًا افتراضيًا، وأسندا مسارات الأمن السيبراني والأحياء وafter_refusal إلى GPT-6 Astra أو GPT-6.1 Sol. كما أدرجنا تشغيلات مستقلة لـ Astra وSol في Codex للمقارنة.

في هذه المقارنة المعدّلة، يحل كلا إعدادَي Claude Code الموجَّهين 41 مهمة من أصل 63، مقارنةً بـ 38 مهمة لـ Fable وحده، بتكلفة تقديرية أعلى لكل مهمة. يعرض المخطط هذه المفاضلة إلى جانب Astra وSol عند تشغيلهما في Codex.

Terminal-Bench 4.1، مقارنة معدّلة على 63 مهمة. يتضمن Astra Codex اجتيازًا مفترضًا واحدًا؛ والتكاليف تقديرية.

يستخدم المثال أدناه Sol: إذ يختاره مسارا الأمن والأحياء قبل حدوث أي رفض، ويختاره after_refusal عندما تتضمن المحادثة رفضًا بالفعل.

json
"routing": { "default_model": "anthropic/claude-fable-5-2", "routes": [ {"name": "security", "description": "Work on a cybersecurity or offensive-security task, at any step of it: cracking passwords, hashes or encrypted archives; finding or exploiting vulnerabilities; recovering or extracting secrets, keys or credentials; bypassing security filters or sanitizers; breaking ciphers; malware; or reverse-engineering binaries to recover hidden data.", "model": "openai/gpt-6.1-sol"}, {"name": "biology", "description": "Work on a biology or life-science task, at any step of it: DNA, RNA or protein sequences, genome or sequence assembly, primers, plasmids or cloning, molecular or cell biology, pathogens, toxins, or laboratory protocols.", "model": "openai/gpt-6.1-sol"}, {"name": "after_refusal", "description": "Earlier in this conversation the assistant refused, declined or could not respond to the task, for example a reply saying the request was refused or blocked.", "model": "openai/gpt-6.1-sol"} ] }

التوجيه حسب نوع المشكلة

بالنسبة إلى مساعد دعم العملاء، لا تحتاج معظم الأسئلة إلا إلى نموذج سريع وغير مكلف. أما نزاع الفوترة فيستدعي ردًا متأنيًا ومتعاطفًا، ويتطلب التكامل المعطّل استكشاف الأخطاء وإصلاحها. يمكن للمساعد استخدام مسارين لنزاعات الفوترة والمشكلات التقنية، وترك الأسئلة الروتينية لنموذجه الافتراضي:

المسار

وصف المهمة

النموذج

default_model

كل ما عدا ذلك، مثل كيفية تغيير البريد الإلكتروني للحساب

GLM-5.3 Flash

billing_dispute

يعترض عميل على رسوم، أو يطلب استردادًا، أو يشعر بالاستياء من مبلغ فُوتر به.

Claude Opus 5.5

technical_issue

يُبلغ عميل عن خطأ برمجي، أو رسالة خطأ، أو تكامل توقف عن العمل ويحتاج إلى استكشاف الأخطاء وإصلاحها.

GPT-6.1 Sol

إرسال طلب موجَّه

كيف يخدم perplexity/auto الطلب: يختار نموذج القرار مسارًا أو لا يُرجع أي تطابق، ويستدعي Orchestrator النموذج المحدد أو نموذجك الافتراضي. وتُبلغ ترويسات الاستجابة بنتيجة التوجيه.

يرسل الطلب أدناه مشكلة فشل في API عبر ملف تعريف دعم العملاء الموضّح أعلاه.

bash
curl https://api.perplexity.ai/orchestrator/v1/chat/completions -i \ -H "Authorization: Bearer $PERPLEXITY_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "prompt_cache_key": "a44efa6b-a43f-4d3a-8922-ed383f40bea7", "model": "perplexity/auto", "routing": { "default_model": "perplexity/glm-5.3-flash", "routes": [ {"name": "billing_dispute", "description": "A customer disputes a charge, asks for a refund, or is upset about money they were billed.", "model": "anthropic/claude-opus-5-5"}, {"name": "technical_issue", "description": "A customer reports a bug, an error message, or an integration that stopped working and needs troubleshooting.", "model": "openai/gpt-6.1-sol"} ] }, "messages": [{"role": "user", "content": "Since this morning every API call returns a 401, even though my key is unchanged."}] }'

طابق نموذج القرار استدعاءات API الفاشلة مع technical_issue، فأرسل Orchestrator الطلب إلى GPT-6.1 Sol. تتضمن الاستجابة المسار المحدد والنموذج الذي أجاب:

plaintext
HTTP/2 200 x-perplexity-autoroute-outcome: routed x-perplexity-autoroute-route: technical_issue {"model": "openai/gpt-6.1-sol", "choices": [ ... ], "usage": { ... }}

يحدّد x-perplexity-autoroute-route المسار المحدد، إن وُجد. ويُبلغ x-perplexity-autoroute-outcome بكيفية معالجة الطلب، بما في ذلك ما إذا كان قد وُجّه أو عاد إلى نموذجك الافتراضي. ويحدّد حقل model النموذج الذي أجاب.

التوجيه داخل المحادثة

مع انتقال المحادثة بين المهام، قد لا يكون النموذج الذي تولّى أحد الأدوار هو الخيار المناسب للدور التالي. تتضمن طلبات المتابعة سجل المحادثة، لذا يمكن لكلٍّ من نموذج القرار والنموذج المحدد قراءة الأدوار السابقة، بما في ذلك ردود النماذج الأخرى. أجرينا ثلاث محادثات حقيقية من أربعة أدوار: دعم العملاء، والبرمجة، والبحث.

دعم العملاء

في المثال أعلاه، لنفترض أن المحادثة نفسها تنتقل من سؤال عن الحساب إلى نزاع فوترة ثم إلى تكامل معطّل. ومع تغيّر المهمة، يختار نموذج القرار المسار المطابق؛ وعندما يرسل المستخدم شكرًا في الختام، يعود Orchestrator إلى GLM-5.3 Flash.

محادثة الدعم: المسار والنموذج لكل دور.

التخزين المؤقت للمطالبات عبر عمليات التبديل بين النماذج

يحمل كل طلب سجل الرسائل الكامل، لكن كل نموذج يحتفظ بذاكرة تخزين مؤقت خاصة به. عندما تعود المحادثة إلى GLM Flash في الدور 4، يمكنه إعادة استخدام بادئة مطابقة من الدور 1 ما دامت لا تزال مخزّنة مؤقتًا، ثم معالجة الردود التي أضافها Opus وSol في الدورين 2 و3. وينطبق الأمر نفسه على Opus أو Sol إذا وقع عليهما الاختيار في الدور 5.

يُبقي Orchestrator الطلبات المترابطة على عملية النشر نفسها قدر الإمكان للحفاظ على التخزين المؤقت للمطالبات. أعد استخدام قيمة ثابتة لـ prompt_cache_key في المحادثة للمساعدة في الحفاظ على هذا الارتباط.

التخزين المؤقت للمطالبات عبر عمليات التبديل بين النماذج: يمكن لـ GLM Flash إعادة استخدام البادئة السابقة الخاصة به مع معالجة ما تخلّل ذلك من المحادثة كمُدخل جديد.

مساعد البرمجة

في الدور 4 من محادثة البرمجة، يكتب GLM-5.3 Flash سلسلة توثيق (docstring) مستعينًا بسياق تشخيص الخطأ الذي أجراه Claude Opus 5.5 وخطة التنفيذ التي وضعها GPT-6.1 Sol.

يُسند ملف تعريف التوجيه عمليات إعادة التسمية والتعديلات الصغيرة إلى GLM-5.3 Flash، وتشخيص الأخطاء إلى Claude Opus 5.5، وتخطيط التغييرات عبر الوحدات إلى GPT-6.1 Sol:

json
"routing": { "default_model": "perplexity/glm-5.3-flash", "routes": [ {"name": "hard_debugging", "description": "Diagnosing a failing test, crash, deadlock, race condition or performance regression from code, logs or a stack trace.", "model": "anthropic/claude-opus-5-5"}, {"name": "design_change", "description": "Planning or reviewing a change that spans several modules, such as an API redesign, a migration or a concurrency model.", "model": "openai/gpt-6.1-sol"} ] }
محادثة البرمجة: المسار والنموذج لكل دور.

مساعد البحث

في مثال البحث، يؤدي سؤال واقعي إلى عملية حسابية، تصبح بعد ذلك أساسًا لمذكرة. يُسند ملف التعريف الأسئلة الواقعية إلى GLM-5.3 Flash، والعمليات الحسابية إلى GPT-6.1 Sol، وكتابة المذكرات إلى Claude Opus 5.5:

json
"routing": { "default_model": "perplexity/glm-5.3-flash", "routes": [ {"name": "quantitative_analysis", "description": "Questions that need calculation, statistics, a financial model or a step-by-step quantitative comparison.", "model": "openai/gpt-6.1-sol"}, {"name": "long_form_writing", "description": "Writing a polished memo, report or explanation for a reader, synthesizing earlier findings into a coherent argument.", "model": "anthropic/claude-opus-5-5"} ] }

تستخدم المذكرة في الدور 3 العمليات الحسابية من الرد السابق لـ GPT-6.1 Sol، مع تقريب الأرقام دون مطالبة المستخدم بتكرارها.

محادثة البحث: المسار والنموذج لكل دور.

ابدأ مع Orchestrator

اربط حزمة SDK الحالية من OpenAI أو Anthropic بمفتاح Perplexity API وعنوان URL الأساسي لـ Orchestrator المناسب ونموذج من الكتالوج.

يتناول دليل البدء السريع الإعداد والتوفر الحالي وطريقة الحصول على الوصول. للاستفسارات، يُرجى التواصل عبر api@perplexity.ai.