Presentem Orchestrator: una sola API per a models d'avantguarda i de pesos oberts
Perplexity Orchestrator ofereix accés a models d'avantguarda i de pesos oberts amb facturació unificada i commutació per error en una sola API.

Perplexity és multimodel per naturalesa i dona a les persones la llibertat de triar els models de frontera i de pesos oberts més recents per a la seva feina. Aquest enfocament multimodel aprofita els punts forts de cada model i pot reduir costos quan una tasca no necessita el model més potent. Entre bastidors, la nostra tecnologia d’orquestració pot utilitzar diversos models per completar una sola feina.
Les empreses adopten un enfocament similar per equilibrar el rendiment, el cost i la flexibilitat. Cada llançament d'un model nou representa una oportunitat per reduir costos o millorar la qualitat. Només aquest any, laboratoris com Anthropic i OpenAI han llançat més d'una dotzena de models nous. També s'han publicat més de 100 models de pesos oberts. Tot i que això dona als equips més opcions per a cada càrrega de treball, també els obliga a gestionar més proveïdors, contractes i factures.
Avui llancem l'API de Perplexity Orchestrator, que posa la nostra tecnologia independent del model a disposició dels desenvolupadors i equips que creen aplicacions d'IA. Amb una sola API, els equips poden executar tasques senzilles i d'alt volum en models de menor cost i reservar els models més potents per a la feina més exigent.
Amb Orchestrator, els equips poden reduir i centralitzar la despesa en IA i adoptar models nous tan bon punt es publiquen, sense renunciar al rendiment ni a la disponibilitat. Els equips poden triar quin model gestiona cada càrrega de treball, i Perplexity s'encarrega de l'encaminament entre proveïdors i de la commutació per error per garantir una inferència fiable.
Basat en la capa de models de producció de Perplexity
Perplexity executa models de pesos oberts i de frontera en producció cada dia. La nostra capa de models encamina centenars de milions de sol·licituds entre més de 85 models i més d’una dotzena de proveïdors.
Triar un model és més fàcil que aconseguir que cada sol·licitud sigui ràpida i assequible quan els proveïdors s’alenteixen, es queden sense capacitat o canvien els preus. Hem reduït els nostres propis costos de servei traslladant les càrregues de treball als models més adequats per a cada tasca.
Orchestrator dona als desenvolupadors accés a la infraestructura compartida en què es basa aquest enfocament.
Orchestrator posa aquesta capa d'inferència a disposició a través d'una sola API. Inclou models d'OpenAI, Anthropic, Google i xAI, a més de models de pesos oberts com GLM, Kimi i DeepSeek. Els models de pesos oberts els serveix Perplexity o bé socis d'inferència.
Orchestrator és compatible amb els formats OpenAI Chat Completions, OpenAI Responses i Anthropic Messages. Els equips poden continuar utilitzant els kits de desenvolupament de programari (SDK) que ja coneixen. Per a la majoria d’equips, començar implica actualitzar la clau d’API i la URL base, i seleccionar un model disponible.
Facturació unificada sense cap tarifa de plataforma addicional
Executar models de diversos laboratoris i proveïdors d’inferència pot requerir comptes, claus d’API, contractes, revisions de seguretat i factures separats. També pot implicar compromisos anuals separats basats en una combinació de models que podria canviar en qüestió de setmanes.
Orchestrator reuneix els models compatibles sota un sol proveïdor i una sola factura, de manera que els equips poden canviar la combinació de models sense haver de negociar un compromís per separat amb cada proveïdor. No hi ha cap tarifa de plataforma addicional a banda dels crèdits.
Els equips també poden fer el seguiment de l’ús i gestionar la despesa a través de l’API Console:
- Informes d'ús: despesa desglossada per model, projecte, clau d'API i data
- Claus d’API: claus d’API separades per fer el seguiment de l’ús per projecte o equip
- Controls d’administració: llistes de models permesos de l’organització, restriccions d’usuaris, límits de despesa i sol·licituds de capacitat
Sol·licituds més fiables entre proveïdors
Els models disponibles a través de diversos proveïdors ofereixen als equips més d'una manera de servir una sol·licitud.
Orchestrator supervisa l'estat, la capacitat i la latència de cada proveïdor per distribuir el trànsit entre els que ofereixen un millor rendiment. Si una sol·licitud falla, es pot tornar a provar en un altre desplegament del mateix model, de manera que gestiona la commutació per error sense que els equips hagin de crear la lògica pel seu compte.
Per als equips que executen milions de sol·licituds al dia, fins i tot una petita diferència en les taxes d'èxit de les sol·licituds, com la que hi ha entre el 99,0 % i el 99,99 %, pot afectar milers de respostes. Amb Orchestrator, els equips no han de crear ni mantenir pel seu compte el codi de commutació per error.
En un mes de trànsit de producció a Orchestrator, les sol·licituds de Claude i GPT a través de Perplexity van tenir taxes d'èxit més altes que qualsevol dels proveïdors individuals mesurats, així com menys variació diària durant les incidències dels proveïdors.
En versió preliminar: Routes i Auto effort
Routes permet als equips descriure en llenguatge planer quines sol·licituds ha de gestionar cada model i establir un model predeterminat. Els equips poden partir d’un perfil integrat de cost més baix, equilibrat o de qualitat més alta, o bé crear-ne un de personalitzat. Si els equips no proporcionen una descripció ni especifiquen un objectiu, la sol·licitud la serveix el model predeterminat.
També en versió preliminar, Auto effort ajusta quant raonament utilitza un model compatible en el torn següent segons una política que defineix el desenvolupador. Un agent pot dedicar més esforç a recuperar-se d’un error d’una eina sense canviar de model.
Comença a utilitzar l'orquestració intel·ligent de models
Orchestrator és el primer pas dins de la plataforma d’API de Perplexity cap a l’orquestració intel·ligent de models. Descobreix com vam crear i avaluar Routes, inclòs per què és difícil encertar l’encaminament de models.
Per començar, crea una clau d'API a l'API Console, apunta un SDK existent d'OpenAI o d'Anthropic a l'URL base d'Orchestrator i tria un model del catàleg de models.
La guia d'inici ràpid explica com fer una primera sol·licitud en pocs minuts. Els equips amb càrregues de treball grans o amb compromís de volum poden escriure a api@perplexity.ai per obtenir més informació sobre els preus per volum i la capacitat.
Crea una clau d'API avui mateix.