Apresentamos o Orchestrator: uma única API para modelos de fronteira e de pesos abertos
O Perplexity Orchestrator oferece acesso a modelos de fronteira e de pesos abertos com faturamento unificado e failover em uma única API.

A Perplexity é multimodelo em sua essência, dando às pessoas a liberdade de escolher os mais recentes modelos de fronteira e de pesos abertos para seu trabalho. Essa abordagem multimodelo aproveita os pontos fortes de cada modelo e pode reduzir custos quando uma tarefa não precisa do modelo mais poderoso. Nos bastidores, nossa tecnologia de orquestração pode usar vários modelos para concluir um único trabalho.
As empresas estão adotando uma abordagem semelhante para equilibrar desempenho, custo e flexibilidade. Cada lançamento de um novo modelo é uma oportunidade de reduzir custos ou melhorar a qualidade. Só neste ano, laboratórios como a Anthropic e a OpenAI lançaram mais de uma dúzia de novos modelos. Mais de 100 modelos de pesos abertos também foram lançados. Embora isso dê às equipes mais opções para cada carga de trabalho, também aumenta o número de provedores, contratos e faturas para gerenciar.
Hoje estamos lançando a API do Perplexity Orchestrator, que disponibiliza nossa tecnologia independente de modelo para desenvolvedores e equipes que criam aplicações de IA. Por meio de uma única API, as equipes podem executar tarefas simples e de alto volume em modelos de menor custo e reservar modelos mais poderosos para trabalhos mais exigentes.
Com o Orchestrator, as equipes podem reduzir e centralizar os gastos com IA e adotar novos modelos assim que forem lançados, sem abrir mão de desempenho ou disponibilidade. As equipes podem escolher qual modelo processa cada carga de trabalho, e a Perplexity cuida do roteamento entre provedores e do failover para garantir uma inferência confiável.
Desenvolvido com base na camada de modelos de produção da Perplexity
A Perplexity executa modelos de pesos abertos e de fronteira em produção todos os dias. Nossa camada de modelos roteia centenas de milhões de solicitações entre mais de 85 modelos e mais de uma dúzia de provedores.
Escolher um modelo é mais fácil do que manter cada solicitação rápida e acessível quando os provedores ficam lentos, ficam sem capacidade ou mudam os preços. Reduzimos nossos próprios custos de serviço ao migrar cargas de trabalho para os modelos mais adequados a cada tarefa.
O Orchestrator dá aos desenvolvedores acesso à infraestrutura compartilhada por trás dessa abordagem.
O Orchestrator disponibiliza essa camada de inferência por meio de uma única API. Ele abrange modelos da OpenAI, da Anthropic, do Google e da xAI, além de modelos de pesos abertos como GLM, Kimi e DeepSeek. Os modelos de pesos abertos são servidos pela Perplexity ou por meio de parceiros de inferência.
O Orchestrator é compatível com os formatos OpenAI Chat Completions, OpenAI Responses e Anthropic Messages. As equipes podem continuar usando kits de desenvolvimento de software (SDKs) conhecidos. Para a maioria das equipes, começar envolve atualizar a chave de API e a URL base e selecionar um modelo disponível.
Faturamento unificado sem taxa adicional de plataforma
Executar modelos de vários laboratórios e provedores de inferência pode exigir contas, chaves de API, contratos, análises de segurança e faturas separados. Também pode significar compromissos anuais separados com base em uma combinação de modelos que pode mudar em poucas semanas.
O Orchestrator reúne os modelos compatíveis em um só fornecedor e uma só fatura, para que as equipes possam mudar sua combinação de modelos sem negociar um compromisso separado com cada provedor. Não há taxa adicional de plataforma além dos créditos.
As equipes também podem acompanhar o uso e gerenciar os gastos pelo API Console:
- Relatórios de uso: gastos detalhados por modelo, projeto, chave de API e data
- Chaves de API: chaves de API separadas para acompanhar o uso por projeto ou equipe
- Controles de administração: listas de modelos permitidos da organização, restrições de usuários, limites de gastos e solicitações de capacidade
Requisições mais confiáveis entre provedores
Modelos disponíveis por meio de vários provedores oferecem às equipes mais de uma forma de atender a uma requisição.
O Orchestrator monitora a integridade, a capacidade e a latência de cada provedor para distribuir o tráfego entre os de melhor desempenho. Se uma requisição falhar, ele pode tentar novamente em outra implantação do mesmo modelo, cuidando do failover sem que as equipes precisem desenvolver essa lógica por conta própria.
Para equipes que processam milhões de requisições por dia, até uma pequena diferença nas taxas de sucesso das requisições, como a variação entre 99,0% e 99,99%, pode afetar milhares de respostas. Com o Orchestrator, as equipes não precisam criar nem manter código de failover por conta própria.
Em um mês de tráfego de produção no Orchestrator, as requisições ao Claude e ao GPT feitas pela Perplexity tiveram taxas de sucesso mais altas do que qualquer provedor individual avaliado, além de menor variação diária durante incidentes dos provedores.
Em prévia: Routes e Auto effort
Com o Routes, as equipes descrevem em linguagem simples quais solicitações cada modelo deve atender e definem um modelo padrão. As equipes podem começar com um perfil integrado de Menor custo, Equilibrado ou Maior qualidade, ou criar um personalizado. Se as equipes não fornecerem uma descrição nem especificarem um objetivo, o modelo padrão atenderá a solicitação.
Também em prévia, o Auto effort ajusta quanto raciocínio um modelo compatível usa no próximo turno, de acordo com uma política definida pelo desenvolvedor. Um agente pode empregar mais esforço para se recuperar de um erro de ferramenta sem trocar de modelo.
Comece a usar a orquestração inteligente de modelos
O Orchestrator é o primeiro passo da plataforma de API da Perplexity rumo à orquestração inteligente de modelos. Saiba como criamos e avaliamos o Routes, incluindo por que é difícil acertar no roteamento de modelos.
Para começar, crie uma chave de API no API Console, aponte um SDK da OpenAI ou da Anthropic já existente para a URL base do Orchestrator e faça sua escolha no catálogo de modelos.
O guia de início rápido mostra como fazer uma primeira requisição em minutos. Equipes com cargas de trabalho grandes ou com compromisso de consumo podem enviar um e-mail para api@perplexity.ai para obter mais informações sobre preços por volume e capacidade.
Crie uma chave de API hoje mesmo.