نقدّم Orchestrator: واجهة API واحدة للنماذج الرائدة والنماذج مفتوحة الأوزان

يوفّر Perplexity Orchestrator الوصول إلى النماذج الرائدة والنماذج مفتوحة الأوزان مع فوترة موحّدة وتحويل تلقائي عند الفشل عبر واجهة API واحدة.

An orchestra conductor surrounded by sweeping trails of light against a dark background.

تقوم Perplexity في جوهرها على تعدد النماذج، مما يمنح الأشخاص حرية اختيار أحدث النماذج الرائدة والنماذج مفتوحة الأوزان لأعمالهم. ويستفيد هذا النهج متعدد النماذج من نقاط قوة كل نموذج، ويمكن أن يخفّض التكاليف عندما لا تحتاج المهمة إلى النموذج الأقوى. وخلف الكواليس، يمكن لتقنية التنسيق لدينا استخدام عدة نماذج لإنجاز مهمة واحدة.

وتتبع الشركات نهجًا مماثلًا لتحقيق التوازن بين الأداء والتكلفة والمرونة. فكل إصدار جديد لنموذج يمثّل فرصة لخفض التكاليف أو تحسين الجودة. وفي هذا العام وحده، أصدرت مختبرات مثل Anthropic وOpenAI أكثر من اثني عشر نموذجًا جديدًا، كما طُرح أكثر من 100 نموذج مفتوح الأوزان. وبينما يمنح ذلك الفرق خيارات أكثر لكل عبء عمل، فإنه يزيد أيضًا عدد المزوّدين والعقود والفواتير التي عليها إدارتها.

نُطلق اليوم واجهة Perplexity Orchestrator API، لنتيح تقنيتنا غير المرتبطة بنموذج محدد للمطورين والفرق التي تبني تطبيقات الذكاء الاصطناعي. ومن خلال واجهة API واحدة، يمكن للفرق تشغيل المهام البسيطة عالية الحجم على نماذج أقل تكلفة، وتخصيص النماذج الأقوى للأعمال الأكثر تطلبًا.

مع Orchestrator، يمكن للفرق خفض الإنفاق على الذكاء الاصطناعي ومركزته، واعتماد النماذج الجديدة فور إطلاقها، دون التنازل عن الأداء أو وقت التشغيل. ويمكن للفرق اختيار النموذج الذي يتولى كل عبء عمل، بينما تتولى Perplexity التوجيه بين المزوّدين والتحويل التلقائي عند الفشل لضمان استدلال موثوق.

مبنيّ على طبقة النماذج التي تعتمدها Perplexity في بيئة الإنتاج

تشغّل Perplexity نماذج مفتوحة الأوزان ونماذج رائدة في بيئة الإنتاج يوميًا. وتوجّه طبقة النماذج لدينا مئات الملايين من الطلبات عبر أكثر من 85 نموذجًا وأكثر من اثني عشر مزوّدًا.

اختيار النموذج أسهل من الحفاظ على سرعة كل طلب وانخفاض تكلفته عندما يتباطأ المزوّدون أو تنفد سعتهم أو يغيّرون أسعارهم. وقد خفّضنا تكاليف الخدمة لدينا بنقل أعباء العمل إلى النماذج الأنسب لكل مهمة.

يمنح Orchestrator المطوّرين إمكانية الوصول إلى البنية التحتية المشتركة التي يقوم عليها هذا النهج.

يتيح Orchestrator طبقة الاستدلال هذه عبر واجهة API واحدة. ويشمل نماذج من OpenAI وAnthropic وGoogle وxAI، إلى جانب نماذج مفتوحة الأوزان مثل GLM وKimi وDeepSeek. وتُقدَّم النماذج مفتوحة الأوزان من خلال Perplexity أو عبر شركاء الاستدلال.

يدعم Orchestrator تنسيقات OpenAI Chat Completions وOpenAI Responses وAnthropic Messages. ويمكن للفرق مواصلة استخدام حزم تطوير البرمجيات (SDK) المألوفة. وبالنسبة إلى معظم الفرق، يتطلب البدء تحديث مفتاح API وعنوان URL الأساسي، واختيار نموذج متاح.

فوترة موحّدة دون رسوم منصة إضافية

قد يتطلب تشغيل نماذج من عدة مختبرات ومزوّدي استدلال حسابات ومفاتيح API وعقودًا ومراجعات أمنية وفواتير منفصلة. وقد يعني أيضًا التزامات سنوية منفصلة قائمة على مزيج من النماذج قد يتغير في غضون أسابيع.

يجمع Orchestrator النماذج المدعومة لدى مورّد واحد وفي فاتورة واحدة، ما يتيح للفرق تغيير مزيج النماذج التي تستخدمها دون التفاوض على التزام منفصل مع كل مزوّد. ولا توجد رسوم منصة إضافية فوق الرصيد.

يمكن للفرق أيضًا تتبّع الاستخدام وإدارة الإنفاق من خلال وحدة تحكم API:

  • تقارير الاستخدام: الإنفاق موزّعًا حسب النموذج والمشروع ومفتاح API والتاريخ
  • مفاتيح API: مفاتيح API منفصلة لتتبّع الاستخدام حسب المشروع أو الفريق
  • عناصر تحكم المسؤول: قوائم النماذج المسموح بها على مستوى المؤسسة، وقيود المستخدمين، وحدود الإنفاق، وطلبات السعة

طلبات أكثر موثوقية عبر المزوّدين

تمنح النماذج المتاحة عبر مزوّدين متعددين الفرقَ أكثر من طريقة لخدمة الطلب.

يتتبّع Orchestrator حالة كل مزوّد وسعته وزمن استجابته لتوزيع حركة المرور على المزوّدين الأفضل أداءً. وإذا فشل طلب ما، يمكنه إعادة المحاولة على نشر آخر للنموذج نفسه، فيتولى التحويل التلقائي عند الفشل دون أن تضطر الفرق إلى بناء هذا المنطق بنفسها.

بالنسبة إلى الفرق التي تُشغّل ملايين الطلبات يوميًا، فإن أي فارق صغير في معدلات نجاح الطلبات، كالفارق بين 99.0% و99.99%، قد يؤثر في آلاف الاستجابات. ومع Orchestrator، لا تحتاج الفرق إلى بناء شيفرة التحويل التلقائي عند الفشل أو صيانتها بنفسها.

خلال شهر واحد من حركة المرور الإنتاجية على Orchestrator، حققت طلبات Claude وGPT عبر Perplexity معدلات نجاح أعلى من أي مزوّد منفرد خضع للقياس، إلى جانب تفاوت يومي أقل خلال حوادث المزوّدين.

في مرحلة المعاينة: Routes وAuto effort

تتيح Routes للفرق أن تصف بلغة بسيطة الطلبات التي ينبغي لكل نموذج التعامل معها، وأن تعيّن نموذجًا افتراضيًا. ويمكن للفرق البدء من ملف تعريف مدمج: «تكلفة أقل» أو «متوازن» أو «جودة أعلى»، أو إنشاء ملف تعريف مخصّص. وإذا لم تقدّم الفرق وصفًا أو تحدّد هدفًا، يتولّى النموذج الافتراضي معالجة الطلب.

وفي مرحلة المعاينة أيضًا، تعدّل Auto effort مقدار الاستدلال الذي يستخدمه النموذج المدعوم في دوره التالي وفقًا لسياسة يحدّدها المطوّر. ويمكن للوكيل بذل جهد أكبر للتعافي من خطأ في أداة دون تبديل النماذج.

ابدأ مع التنسيق الذكي للنماذج

يمثّل Orchestrator الخطوة الأولى ضمن منصة Perplexity API نحو التنسيق الذكي للنماذج. تعرّف على كيفية بناء Routes وتقييمها، بما في ذلك سبب صعوبة إتقان توجيه النماذج.

للبدء، أنشئ مفتاح API في وحدة تحكم API، ووجّه حزمة SDK الحالية من OpenAI أو Anthropic إلى عنوان URL الأساسي لـ Orchestrator، ثم اختر من كتالوج النماذج.

يشرح دليل البدء السريع كيفية إرسال أول طلب في دقائق. ويمكن للفرق ذات أعباء العمل الكبيرة أو الملتزَم بها مراسلة api@perplexity.ai عبر البريد الإلكتروني لمزيد من المعلومات حول تسعير الأحجام الكبيرة والسعة.

أنشئ مفتاح API اليوم.