Orchestratorのご紹介:フロンティアモデルとオープンウェイトモデルを1つのAPIで

Perplexity Orchestratorは、フロンティアモデルとオープンウェイトモデルへのアクセスを、一元化された請求とフェイルオーバーを備えた1つのAPIで提供します。

An orchestra conductor surrounded by sweeping trails of light against a dark background.

Perplexityはその中核からマルチモデルであり、最新のフロンティアモデルやオープンウェイトモデルを自由に選んで仕事に活用できます。このマルチモデルのアプローチは各モデルの強みを生かし、最も強力なモデルを必要としないタスクではコストを削減できます。舞台裏では、当社のオーケストレーション技術が複数のモデルを使って1つのジョブを完了させることもあります。

企業も、パフォーマンス、コスト、柔軟性のバランスを取るために同様のアプローチを採用しています。新しいモデルがリリースされるたびに、コストを削減したり品質を向上させたりする機会が生まれます。今年だけでも、AnthropicやOpenAIなどのラボが12を超える新モデルをリリースしており、100を超えるオープンウェイトモデルも公開されています。これによりチームはワークロードごとの選択肢が広がる一方で、管理すべきプロバイダー、契約、請求書も増えています。

本日、Perplexity Orchestrator APIをリリースしました。これにより、AIアプリケーションを構築する開発者やチームが、Perplexityのモデル非依存のテクノロジーを利用できるようになります。1つのAPIを通じて、シンプルで大量のタスクは低コストのモデルで実行し、より高い処理能力が求められる作業にはより強力なモデルを割り当てることができます。

Orchestratorを使えば、チームはパフォーマンスや稼働率を犠牲にすることなく、AI関連の支出を削減・一元化し、新しいモデルをリリースと同時に導入できます。チームは各ワークロードを処理するモデルを選択でき、Perplexityがプロバイダーのルーティングとフェイルオーバーを担うことで、信頼性の高い推論を実現します。

Perplexityの本番環境のモデルレイヤーを基盤に構築

Perplexityは、オープンウェイトモデルとフロンティアモデルを毎日本番環境で運用しています。当社のモデルレイヤーは、85以上のモデルと十数社を超えるプロバイダーにわたって、数億件のリクエストをルーティングしています。

モデルを選ぶことは、プロバイダーの速度低下、キャパシティ不足、価格変更が起きたときにもすべてのリクエストを高速かつ手頃なコストに保つことに比べれば簡単です。私たちは、各タスクに最適なモデルにワークロードを移すことで、自社のサービングコストを削減してきました。

Orchestratorは、そのアプローチを支える共有インフラストラクチャへのアクセスを開発者に提供します。

Orchestratorは、その推論レイヤーを1つのAPIで利用できるようにします。OpenAI、Anthropic、Google、xAIのモデルに加え、GLM、Kimi、DeepSeekなどのオープンウェイトモデルにも対応しています。オープンウェイトモデルは、Perplexityまたは推論パートナーを通じて提供されます。

Orchestratorは、OpenAI Chat Completions、OpenAI Responses、Anthropic Messagesの各形式をサポートしています。チームは使い慣れたソフトウェア開発キット(SDK)を引き続き使用できます。ほとんどのチームは、APIキーとベースURLを更新し、利用可能なモデルを選択するだけで使い始められます。

追加のプラットフォーム料金なしで請求を一元化

複数のラボや推論プロバイダーのモデルを運用するには、アカウント、APIキー、契約、セキュリティレビュー、請求書をそれぞれ個別に用意する必要が生じることがあります。また、数週間で変わる可能性のあるモデル構成に基づいて、個別の年間コミットメントを結ばなければならない場合もあります。

Orchestratorは、対応モデルを1つのベンダー、1つの請求にまとめます。そのため、チームはプロバイダーごとに個別の利用契約を交渉することなく、使用するモデルの組み合わせを変更できます。クレジットに加えてプラットフォーム料金が別途かかることはありません。

チームはAPI Consoleから、使用量の追跡や支出の管理も行えます:

  • 使用状況レポート:モデル、プロジェクト、APIキー、日付ごとの支出の内訳
  • APIキー:APIキーを分けて、プロジェクトやチームごとに使用量を追跡
  • 管理者向けコントロール:組織単位のモデル許可リスト、ユーザー制限、支出上限、キャパシティのリクエスト

プロバイダーをまたいで、より信頼性の高いリクエストを実現

複数のプロバイダーから利用できるモデルであれば、チームはリクエストを処理する手段を複数確保できます。

Orchestratorは各プロバイダーの稼働状況、キャパシティ、レイテンシを追跡し、最もパフォーマンスの高いプロバイダーにトラフィックを分散します。リクエストが失敗した場合は、同じモデルの別のデプロイメントで再試行できるため、チームが自らロジックを構築しなくてもフェイルオーバーに対応できます。

1日に数百万件のリクエストを処理するチームにとっては、99.0%と99.99%の差のように、リクエスト成功率のわずかな違いでも数千件のレスポンスに影響する可能性があります。Orchestratorを使えば、チームがフェイルオーバーのコードを自ら構築・保守する必要はありません。

Orchestratorにおける1か月分の本番トラフィックでは、Perplexity経由のClaudeおよびGPTのリクエストは、測定対象のどの個別プロバイダーよりも高い成功率を示し、プロバイダーで障害が発生した際の日ごとの変動も小さくなりました。

プレビュー版:RoutesとAuto effort

ルートを使うと、チームは各モデルがどのリクエストを処理すべきかを平易な言葉で記述し、デフォルトモデルを設定できます。組み込みの「Lower cost」「Balanced」「Higher quality」プロファイルから始めることも、カスタムプロファイルを作成することもできます。チームが説明を記述しない場合や目標を指定しない場合は、デフォルトモデルがリクエストを処理します。

同じくプレビュー版のAuto effortは、開発者が定義したポリシーに従って、対応モデルが次のターンで行う推論の量を調整します。エージェントは、モデルを切り替えることなく、ツールエラーからの回復により多くの労力を割くことができます。

インテリジェントなモデルオーケストレーションを始めましょう

Orchestratorは、インテリジェントなモデルオーケストレーションに向けたPerplexityのAPIプラットフォームにおける最初のステップです。モデルルーティングを正しく行うことがなぜ難しいのかも含め、Routesの構築と評価の方法をご覧ください。

利用を開始するには、APIコンソールでAPIキーを作成し、既存のOpenAIまたはAnthropic SDKの接続先をOrchestratorのベースURLに設定して、モデルカタログからモデルを選択してください。

クイックスタートでは、数分で最初のリクエストを送信する方法を紹介しています。大規模なワークロードや利用量の確約を伴うワークロードをお持ちのチームは、api@perplexity.aiまでメールでお問い合わせいただくと、ボリューム料金やキャパシティについて詳しくご案内します。

今すぐAPIキーを作成しましょう。