Présentation d’Orchestrator : une seule API pour les modèles de pointe et à poids ouverts
Perplexity Orchestrator donne accès à des modèles de pointe et à poids ouverts, avec facturation unifiée et basculement, via une seule API.

Perplexity est fondamentalement multimodèle et laisse chacun libre de choisir les derniers modèles de pointe et à poids ouverts pour son travail. Cette approche multimodèle tire parti des points forts de chaque modèle et peut réduire les coûts lorsqu’une tâche ne nécessite pas le modèle le plus puissant. En coulisses, notre technologie d’orchestration peut faire appel à plusieurs modèles pour mener à bien une seule tâche.
Les entreprises adoptent une approche similaire pour concilier performances, coûts et flexibilité. Chaque nouvelle version de modèle est l’occasion de réduire les coûts ou d’améliorer la qualité. Rien que cette année, des laboratoires comme Anthropic et OpenAI ont publié plus d’une dizaine de nouveaux modèles, et plus de 100 modèles à poids ouverts ont également vu le jour. Si cela offre aux équipes davantage d’options pour chaque charge de travail, cela leur impose aussi davantage de fournisseurs, de contrats et de factures à gérer.
Nous lançons aujourd’hui l’API Perplexity Orchestrator, qui met notre technologie indépendante des modèles à la disposition des développeurs et des équipes qui créent des applications d’IA. Grâce à une seule API, les équipes peuvent exécuter des tâches simples et à grand volume sur des modèles moins coûteux, et réserver les modèles plus puissants aux travaux plus exigeants.
Avec Orchestrator, les équipes peuvent réduire et centraliser leurs dépenses en IA et adopter les nouveaux modèles dès leur sortie, sans compromis sur les performances ni sur la disponibilité. Les équipes choisissent le modèle qui traite chaque charge de travail, et Perplexity gère le routage entre fournisseurs et le basculement afin de garantir une inférence fiable.
Basé sur la couche de modèles de production de Perplexity
Perplexity exécute chaque jour en production des modèles à poids ouverts et des modèles de pointe. Notre couche de modèles route des centaines de millions de requêtes vers plus de 85 modèles et plus d’une douzaine de fournisseurs.
Choisir un modèle est plus simple que de garantir que chaque requête reste rapide et abordable lorsque les fournisseurs ralentissent, manquent de capacité ou modifient leurs tarifs. Nous avons réduit nos propres coûts de service en transférant les charges de travail vers les modèles les mieux adaptés à chaque tâche.
Orchestrator donne aux développeurs accès à l’infrastructure partagée qui sous-tend cette approche.
Orchestrator rend cette couche d’inférence accessible via une seule API. Il couvre les modèles d’OpenAI, d’Anthropic, de Google et de xAI, ainsi que des modèles à poids ouverts tels que GLM, Kimi et DeepSeek. Les modèles à poids ouverts sont servis par Perplexity ou par l’intermédiaire de partenaires d’inférence.
Orchestrator prend en charge les formats OpenAI Chat Completions, OpenAI Responses et Anthropic Messages. Les équipes peuvent continuer à utiliser des kits de développement logiciel (SDK) familiers. Pour la plupart des équipes, il suffit pour démarrer de mettre à jour la clé API et l’URL de base, puis de sélectionner un modèle disponible.
Facturation unifiée sans frais de plateforme supplémentaires
Exécuter des modèles provenant de plusieurs laboratoires et fournisseurs d’inférence peut nécessiter des comptes, des clés API, des contrats, des évaluations de sécurité et des factures distincts. Cela peut aussi impliquer des engagements annuels séparés, fondés sur une combinaison de modèles susceptible de changer en quelques semaines.
Orchestrator réunit les modèles pris en charge chez un seul fournisseur et sur une seule facture, ce qui permet aux équipes de faire évoluer leur combinaison de modèles sans négocier d’engagement distinct avec chaque fournisseur. Aucuns frais de plateforme ne s’ajoutent aux crédits.
Les équipes peuvent également suivre l’utilisation et gérer les dépenses dans l’API Console :
- Rapports d’utilisation : dépenses ventilées par modèle, projet, clé API et date
- Clés API : des clés API distinctes pour suivre l’utilisation par projet ou par équipe
- Contrôles d’administration : listes d’autorisation de modèles à l’échelle de l’organisation, restrictions des utilisateurs, plafonds de dépenses et demandes de capacité
Des requêtes plus fiables sur l’ensemble des fournisseurs
Les modèles disponibles auprès de plusieurs fournisseurs offrent aux équipes plus d’une façon de traiter une requête.
Orchestrator surveille l’état, la capacité et la latence de chaque fournisseur afin de répartir le trafic entre les plus performants. Si une requête échoue, il peut la relancer sur un autre déploiement du même modèle et assurer ainsi le basculement, sans que les équipes aient à développer elles-mêmes cette logique.
Pour les équipes qui traitent des millions de requêtes par jour, même un faible écart de taux de réussite, par exemple entre 99,0 % et 99,99 %, peut affecter des milliers de réponses. Avec Orchestrator, les équipes n’ont pas à développer ni à maintenir elles-mêmes de code de basculement.
Sur un mois de trafic de production sur Orchestrator, les requêtes Claude et GPT passant par Perplexity ont affiché des taux de réussite supérieurs à ceux de chacun des fournisseurs mesurés, ainsi qu’une variation quotidienne moindre lors des incidents chez les fournisseurs.
En préversion : Routes et Auto effort
Routes permet aux équipes de décrire en langage courant les requêtes que chaque modèle doit traiter, et de définir un modèle par défaut. Les équipes peuvent partir d’un profil intégré (Coût réduit, Équilibré ou Qualité supérieure) ou créer un profil personnalisé. Si les équipes ne fournissent pas de description ou ne précisent pas d’objectif, c’est le modèle par défaut qui traite la requête.
Également en préversion, Auto effort ajuste la quantité de raisonnement qu’un modèle compatible utilise lors de son tour suivant, selon une politique définie par le développeur. Un agent peut ainsi consacrer plus d’effort à la reprise après une erreur d’outil, sans changer de modèle.
Démarrez avec l’orchestration intelligente des modèles
Orchestrator est la première étape de la plateforme d’API de Perplexity vers une orchestration intelligente des modèles. Découvrez comment nous avons conçu et évalué Routes, et pourquoi le routage de modèles est si difficile à maîtriser.
Pour commencer, créez une clé API dans la console API, faites pointer un SDK OpenAI ou Anthropic existant vers l’URL de base d’Orchestrator, puis faites votre choix dans le catalogue de modèles.
Le guide de démarrage rapide vous permet d’envoyer une première requête en quelques minutes. Les équipes dont les charges de travail sont importantes ou font l’objet d’un engagement peuvent écrire à api@perplexity.ai pour en savoir plus sur la tarification au volume et la capacité.
Créez une clé API dès aujourd’hui.