Présentation d’Orchestrator : une seule API pour les modèles de pointe et à poids ouverts
Perplexity Orchestrator donne accès à des modèles de pointe et à poids ouverts, avec facturation unifiée et basculement, dans une seule API.

Perplexity est multimodèle par essence, ce qui donne aux gens la liberté de choisir les plus récents modèles de pointe et à poids ouverts pour leur travail. Cette approche multimodèle tire parti des forces de chaque modèle et peut réduire les coûts lorsqu’une tâche ne nécessite pas le modèle le plus puissant. En coulisses, notre technologie d’orchestration peut faire appel à plusieurs modèles pour accomplir une même tâche.
Les entreprises adoptent une approche semblable pour concilier performance, coût et flexibilité. Chaque nouvelle sortie de modèle est l’occasion de réduire les coûts ou d’améliorer la qualité. Cette année seulement, des laboratoires comme Anthropic et OpenAI ont lancé plus d’une douzaine de nouveaux modèles. Plus de 100 modèles à poids ouverts ont aussi vu le jour. Si les équipes disposent ainsi de plus d’options pour chaque charge de travail, elles ont aussi davantage de fournisseurs, de contrats et de factures à gérer.
Nous lançons aujourd’hui l’API Perplexity Orchestrator, qui met notre technologie indépendante des modèles à la disposition des développeurs et des équipes qui créent des applications d’IA. Grâce à une seule API, les équipes peuvent exécuter des tâches simples à volume élevé sur des modèles moins coûteux et réserver les modèles plus puissants aux travaux plus exigeants.
Avec Orchestrator, les équipes peuvent réduire et centraliser leurs dépenses en IA et adopter les nouveaux modèles dès leur sortie, sans compromis sur la performance ni la disponibilité. Les équipes choisissent le modèle qui traite chaque charge de travail, et Perplexity gère le routage entre fournisseurs et le basculement pour garantir une inférence fiable.
Bâti sur la couche de modèles de production de Perplexity
Perplexity exécute chaque jour des modèles à poids ouverts et de pointe en production. Notre couche de modèles achemine des centaines de millions de requêtes vers plus de 85 modèles et plus d’une douzaine de fournisseurs.
Choisir un modèle est plus facile que de garder chaque requête rapide et abordable lorsque les fournisseurs ralentissent, manquent de capacité ou modifient leurs prix. Nous avons réduit nos propres coûts de service en transférant les charges de travail vers les modèles les mieux adaptés à chaque tâche.
Orchestrator donne aux développeurs accès à l’infrastructure partagée sur laquelle repose cette approche.
Orchestrator rend cette couche d’inférence accessible au moyen d’une seule API. Il prend en charge les modèles d’OpenAI, d’Anthropic, de Google et de xAI, ainsi que des modèles à poids ouverts comme GLM, Kimi et DeepSeek. Les modèles à poids ouverts sont servis par Perplexity ou par l’intermédiaire de partenaires d’inférence.
Orchestrator prend en charge les formats OpenAI Chat Completions, OpenAI Responses et Anthropic Messages. Les équipes peuvent continuer d’utiliser des trousses de développement logiciel (SDK) familières. Pour la plupart des équipes, il suffit, pour commencer, de mettre à jour la clé API et l’URL de base, puis de sélectionner un modèle disponible.
Facturation unifiée sans frais de plateforme supplémentaires
Exécuter des modèles de plusieurs laboratoires et fournisseurs d’inférence peut exiger des comptes, des clés API, des contrats, des examens de sécurité et des factures distincts. Cela peut aussi impliquer des engagements annuels distincts fondés sur une combinaison de modèles qui pourrait changer en quelques semaines.
Orchestrator regroupe les modèles pris en charge sous un seul fournisseur et une seule facture, ce qui permet aux équipes de modifier leur combinaison de modèles sans négocier d’engagement distinct avec chaque fournisseur. Aucuns frais de plateforme supplémentaires ne s’ajoutent aux crédits.
Les équipes peuvent aussi suivre leur utilisation et gérer leurs dépenses dans l’API Console :
- Rapports d’utilisation : dépenses ventilées par modèle, projet, clé API et date
- Clés API : des clés API distinctes pour suivre l’utilisation par projet ou par équipe
- Contrôles d’administration : listes d’autorisation de modèles pour l’organisation, restrictions d’utilisateurs, plafonds de dépenses et demandes de capacité
Des requêtes plus fiables, tous fournisseurs confondus
Les modèles offerts par plusieurs fournisseurs donnent aux équipes plus d’une façon de traiter une requête.
Orchestrator surveille l’état, la capacité et la latence de chaque fournisseur afin de répartir le trafic entre les plus performants. Si une requête échoue, Orchestrator peut la relancer sur un autre déploiement du même modèle, assurant ainsi le basculement sans que les équipes aient à en développer elles-mêmes la logique.
Pour les équipes qui traitent des millions de requêtes par jour, même un faible écart de taux de réussite, soit entre 99,0 % et 99,99 %, peut toucher des milliers de réponses. Avec Orchestrator, les équipes n’ont pas à développer ni à maintenir elles-mêmes le code de basculement.
Sur un mois de trafic de production dans Orchestrator, les requêtes Claude et GPT acheminées par Perplexity ont affiché des taux de réussite plus élevés que n’importe quel fournisseur individuel mesuré, ainsi qu’une variation quotidienne moindre lors des incidents chez les fournisseurs.
En aperçu : Routes et Auto effort
Routes permet aux équipes de décrire en langage courant les requêtes que chaque modèle doit traiter et de définir un modèle par défaut. Les équipes peuvent partir d’un profil intégré « Coût réduit », « Équilibré » ou « Qualité supérieure », ou en créer un personnalisé. Si les équipes ne fournissent pas de description ou ne précisent pas d’objectif, le modèle par défaut traite la requête.
Également en aperçu, Auto effort ajuste la quantité de raisonnement qu’un modèle pris en charge utilise à son prochain tour, selon une politique définie par le développeur. Un agent peut ainsi consacrer plus d’effort à se remettre d’une erreur d’outil sans changer de modèle.
Lancez-vous avec l’orchestration intelligente des modèles
Orchestrator constitue la première étape de l’orchestration intelligente de modèles au sein de la plateforme API de Perplexity. Découvrez comment nous avons conçu et évalué Routes, notamment pourquoi le routage de modèles est difficile à réussir.
Pour commencer, créez une clé API dans la console API, pointez un SDK OpenAI ou Anthropic existant vers l’URL de base d’Orchestrator, puis faites votre choix dans le catalogue de modèles.
Le guide de démarrage rapide vous permet d’envoyer une première requête en quelques minutes. Les équipes ayant des charges de travail importantes ou faisant l’objet d’un engagement peuvent écrire à api@perplexity.ai pour en savoir plus sur la tarification au volume et la capacité.
Créez une clé API dès aujourd’hui.