Vi presenterar Orchestrator: ett API för frontier-modeller och modeller med öppna vikter
Perplexity Orchestrator ger tillgång till frontier-modeller och modeller med öppna vikter, med samlad fakturering och failover i ett enda API.

Perplexity bygger i grunden på flera modeller och ger människor friheten att välja de senaste frontier-modellerna och modellerna med öppna vikter för sitt arbete. Den här flermodellsstrategin utnyttjar varje modells styrkor och kan sänka kostnaderna när en uppgift inte kräver den mest kraftfulla modellen. Bakom kulisserna kan vår orkestreringsteknik använda flera modeller för att slutföra ett enda uppdrag.
Företag använder ett liknande tillvägagångssätt för att balansera prestanda, kostnad och flexibilitet. Varje ny modellversion innebär en möjlighet att sänka kostnaderna eller förbättra kvaliteten. Bara i år har labb som Anthropic och OpenAI släppt mer än ett dussin nya modeller. Fler än 100 modeller med öppna vikter har också släppts. Det ger team fler alternativ för varje arbetsbelastning, men också fler leverantörer, avtal och fakturor att hantera.
I dag lanserar vi Perplexity Orchestrator API, som gör vår modellagnostiska teknik tillgänglig för utvecklare och team som bygger AI-applikationer. Via ett enda API kan team köra enkla uppgifter med hög volym på billigare modeller och reservera kraftfullare modeller för mer krävande arbete.
Med Orchestrator kan team sänka och centralisera sina AI-kostnader och börja använda nya modeller så snart de lanseras, utan att kompromissa med prestanda eller drifttid. Team kan välja vilken modell som hanterar varje arbetsbelastning, medan Perplexity sköter routning mellan leverantörer och failover för att säkerställa tillförlitlig inferens.
Byggt på Perplexitys modellager i produktion
Perplexity kör modeller med öppna vikter och frontier-modeller i produktion varje dag. Vårt modellager routar hundratals miljoner förfrågningar till fler än 85 modeller och fler än ett dussin leverantörer.
Att välja en modell är enklare än att hålla varje förfrågan snabb och prisvärd när leverantörer blir långsammare, får ont om kapacitet eller ändrar priser. Vi har sänkt våra egna driftkostnader genom att flytta arbetslaster till de modeller som passar bäst för varje uppgift.
Orchestrator ger utvecklare tillgång till den delade infrastrukturen bakom det arbetssättet.
Orchestrator gör det inferenslagret tillgängligt via ett enda API. Det omfattar modeller från OpenAI, Anthropic, Google och xAI, samt modeller med öppna vikter som GLM, Kimi och DeepSeek. Modeller med öppna vikter körs av Perplexity eller via inferenspartner.
Orchestrator stöder formaten OpenAI Chat Completions, OpenAI Responses och Anthropic Messages. Team kan fortsätta använda välbekanta utvecklingspaket (SDK:er). För de flesta team räcker det att uppdatera API-nyckeln och bas-URL:en och välja en tillgänglig modell för att komma igång.
Samlad fakturering utan extra plattformsavgift
Att köra modeller från flera labb och inferensleverantörer kan kräva separata konton, API-nycklar, avtal, säkerhetsgranskningar och fakturor. Det kan också innebära separata årliga åtaganden baserade på en modellmix som kan förändras inom några veckor.
Orchestrator samlar de modeller som stöds under en enda leverantör och en enda faktura, så att team kan ändra sin modellmix utan att förhandla fram ett separat åtagande med varje modellleverantör. Det tillkommer ingen extra plattformsavgift utöver krediterna.
Team kan också spåra användning och hantera utgifter via API Console:
- Användningsrapporter: Kostnader uppdelade per modell, projekt, API-nyckel och datum
- API-nycklar: Separata API-nycklar för att spåra användning per projekt eller team
- Administratörskontroller: Listor över tillåtna modeller för organisationen, användarbegränsningar, utgiftstak och kapacitetsförfrågningar
Mer tillförlitliga förfrågningar över flera leverantörer
Modeller som är tillgängliga via flera leverantörer ger team mer än ett sätt att hantera en förfrågan.
Orchestrator övervakar varje leverantörs status, kapacitet och latens för att fördela trafiken mellan de leverantörer som presterar bäst. Om en förfrågan misslyckas kan den göras om på en annan driftsättning av samma modell, så att failover hanteras utan att team behöver bygga logiken själva.
För team som kör miljontals förfrågningar per dag kan även en liten skillnad i andelen lyckade förfrågningar, som mellan 99,0 % och 99,99 %, påverka tusentals svar. Med Orchestrator behöver team inte bygga eller underhålla failover-kod själva.
Under en månads produktionstrafik på Orchestrator hade förfrågningar till Claude och GPT via Perplexity högre andel lyckade förfrågningar än någon enskild leverantör som mättes, samt mindre daglig variation under incidenter hos leverantörerna.
Förhandsversion: Routes och Auto effort
Med Routes kan team beskriva på vanligt språk vilka förfrågningar varje modell ska hantera och ange en standardmodell. Team kan utgå från en inbyggd profil – Lower cost, Balanced eller Higher quality – eller skapa en egen. Om team inte anger någon beskrivning eller något mål hanterar standardmodellen förfrågan.
Auto effort, som också finns som förhandsversion, justerar hur mycket resonemang en modell som stöds använder i sin nästa omgång enligt en policy som utvecklaren definierar. En agent kan lägga mer insats på att återhämta sig från ett verktygsfel utan att byta modell.
Kom igång med intelligent modellorkestrering
Orchestrator är det första steget inom Perplexitys API-plattform för intelligent modellorkestrering. Läs om hur vi byggde och utvärderade Routes, bland annat om varför modellroutning är svårt att få rätt.
Kom igång genom att skapa en API-nyckel i API-konsolen, peka en befintlig OpenAI- eller Anthropic-SDK mot Orchestrators bas-URL och välj modell i modellkatalogen.
Snabbstartsguiden tar dig igenom en första förfrågan på några minuter. Team med stora eller avtalsbundna arbetsbelastningar kan mejla api@perplexity.ai för mer information om volympriser och kapacitet.
Skapa en API-nyckel i dag.