隆重推出 Orchestrator:一个 API 即可使用前沿模型和开放权重模型
Perplexity Orchestrator 通过一个 API 提供对前沿模型和开放权重模型的访问,并支持统一计费和故障转移。

Perplexity 的核心是多模型,让人们可以自由选择最新的前沿模型和开放权重模型来完成工作。这种多模型方法能够发挥每个模型的优势,并在任务不需要最强大的模型时降低成本。在幕后,我们的编排技术可以使用多个模型来完成同一项工作。
企业也在采取类似的方法,以平衡性能、成本和灵活性。每一次新模型发布,都是降低成本或提升质量的机会。仅今年一年,Anthropic 和 OpenAI 等实验室就已发布了十余款新模型,另有 100 多款开放权重模型问世。这为团队的每项工作负载带来了更多选择,但也意味着需要管理更多的提供商、合同和发票。
今天,我们推出 Perplexity Orchestrator API,向构建 AI 应用的开发者和团队开放我们与模型无关的技术。通过一个 API,团队可以在成本较低的模型上运行简单的大批量任务,而将更强大的模型留给要求更高的工作。
借助 Orchestrator,团队可以降低并集中管理 AI 支出,在新模型发布时及时采用,同时不影响性能或正常运行时间。团队可以选择由哪个模型处理每项工作负载,而 Perplexity 负责提供商路由和故障转移,确保推理稳定可靠。
基于 Perplexity 的生产级模型层构建
Perplexity 每天都在生产环境中运行开放权重模型和前沿模型。我们的模型层在 85 个以上的模型和十多个提供商之间路由数亿个请求。
选择模型并不难,难的是在提供商速度变慢、容量不足或调整价格时,仍让每个请求都保持快速且经济。我们通过将工作负载迁移到最适合各项任务的模型,降低了自身的服务成本。
Orchestrator 让开发者能够使用支撑这一方法的共享基础设施。
Orchestrator 通过一个 API 提供这一推理层。它涵盖来自 OpenAI、Anthropic、Google 和 xAI 的模型,以及 GLM、Kimi 和 DeepSeek 等开放权重模型。开放权重模型由 Perplexity 或推理合作伙伴提供服务。
Orchestrator 支持 OpenAI Chat Completions、OpenAI Responses 和 Anthropic Messages 格式。团队可以继续使用熟悉的软件开发工具包(SDK)。对大多数团队而言,入门只需更新 API 密钥和基础 URL,并选择一个可用模型。
统一计费,无额外平台费用
运行来自多个实验室和推理提供商的模型,可能需要分别开设账户、管理 API 密钥、签订合同、进行安全审查和处理发票。这还可能意味着要基于一个可能在数周内就发生变化的模型组合,分别做出年度承诺。
Orchestrator 将受支持的模型整合到同一家供应商、同一份账单之下,团队无需与每家提供商单独协商承诺用量,即可灵活调整所用的模型组合。除积分外,不收取任何额外的平台费用。
团队还可以通过 API Console 跟踪用量并管理支出:
- 用量报告:按模型、项目、API 密钥和日期细分的支出
- API 密钥:使用独立的 API 密钥,按项目或团队跟踪用量
- 管理控制:组织级模型允许列表、用户限制、支出上限和容量申请
跨提供商的请求更加可靠
可通过多家提供商获取的模型,为团队提供了不止一种处理请求的方式。
Orchestrator 会跟踪每家提供商的健康状况、容量和延迟,将流量分配给表现最佳的提供商。如果请求失败,它可以在同一模型的另一个部署上重试,从而处理故障转移,团队无需自行构建相关逻辑。
对于每天运行数百万次请求的团队来说,即使请求成功率只有很小的差异(例如 99.0% 与 99.99% 之间的差距),也可能影响数千条响应。借助 Orchestrator,团队无需自行构建或维护故障转移代码。
在 Orchestrator 一个月的生产流量中,通过 Perplexity 发出的 Claude 和 GPT 请求的成功率高于所测量的任何单一提供商,并且在提供商发生故障期间的每日波动也更小。
预览功能:Routes 和 Auto effort
通过路由,团队可以用自然语言描述每个模型应处理哪些请求,并设置默认模型。团队可以从内置的“低成本”“均衡”或“高质量”方案入手,也可以自行构建自定义方案。如果团队未提供描述或未指定目标,则由默认模型处理请求。
同样处于预览阶段的 Auto effort 会根据开发者定义的策略,调整受支持的模型在下一轮中投入的推理量。智能体可以在从工具错误中恢复时投入更多推理,而无需切换模型。
开始使用智能模型编排
Orchestrator 是 Perplexity API 平台迈向智能模型编排的第一步。了解我们如何构建和评估 Routes,包括为什么模型路由很难做好。
要开始使用,请在 API 控制台中创建 API 密钥,将现有的 OpenAI 或 Anthropic SDK 指向 Orchestrator 基础 URL,然后从模型目录中进行选择。
通过快速入门,几分钟内即可发出第一个请求。工作负载较大或有承诺用量的团队可发送电子邮件至 api@perplexity.ai,详细了解批量定价和容量。
立即创建 API 密钥。