Vi præsenterer Orchestrator: Én API til frontier- og open-weight-modeller
Perplexity Orchestrator giver adgang til frontier- og open-weight-modeller med samlet fakturering og failover i én API.

Perplexity er multimodel i sin kerne og giver folk friheden til at vælge de nyeste frontiermodeller og modeller med åbne vægte til deres arbejde. Denne multimodel-tilgang udnytter hver models styrker og kan sænke omkostningerne, når en opgave ikke kræver den mest kraftfulde model. Bag kulisserne kan vores orkestreringsteknologi bruge flere modeller til at udføre en enkelt opgave.
Virksomheder griber det an på lignende måde for at balancere ydeevne, omkostninger og fleksibilitet. Hver ny modeludgivelse giver mulighed for at sænke omkostningerne eller forbedre kvaliteten. Alene i år har laboratorier som Anthropic og OpenAI udgivet mere end et dusin nye modeller. Derudover er der kommet over 100 open-weight-modeller. Det giver teams flere muligheder for hver arbejdsbelastning, men også flere udbydere, kontrakter og fakturaer at administrere.
I dag lancerer vi Perplexity Orchestrator API, som gør vores modeluafhængige teknologi tilgængelig for udviklere og teams, der bygger AI-applikationer. Via én API kan teams køre enkle opgaver i store mængder på billigere modeller og reservere mere kraftfulde modeller til mere krævende arbejde.
Med Orchestrator kan teams sænke og centralisere deres AI-udgifter og tage nye modeller i brug, så snart de lanceres, uden at gå på kompromis med ydeevne eller oppetid. Teams kan vælge, hvilken model der håndterer hver arbejdsbelastning, mens Perplexity står for routing mellem udbydere og failover for at sikre pålidelig inferens.
Bygget på Perplexitys produktionsmodellag
Perplexity kører modeller med åbne vægte og frontiermodeller i produktion hver dag. Vores modellag router hundredvis af millioner af anmodninger på tværs af mere end 85 modeller og over et dusin udbydere.
Det er lettere at vælge en model end at holde hver anmodning hurtig og prisvenlig, når udbydere bliver langsommere, mangler kapacitet eller ændrer priser. Vi har sænket vores egne driftsomkostninger ved at flytte arbejdsbelastninger til de modeller, der passer bedst til hver opgave.
Orchestrator giver udviklere adgang til den fælles infrastruktur bag den tilgang.
Orchestrator gør dette inferenslag tilgængeligt via én API. Den omfatter modeller fra OpenAI, Anthropic, Google og xAI samt open-weight-modeller som GLM, Kimi og DeepSeek. Open-weight-modeller leveres af Perplexity eller via inferenspartnere.
Orchestrator understøtter formaterne OpenAI Chat Completions, OpenAI Responses og Anthropic Messages. Teams kan fortsætte med at bruge velkendte softwareudviklingskits (SDK'er). For de fleste teams handler det at komme i gang om at opdatere API-nøglen og basis-URL'en og vælge en tilgængelig model.
Samlet fakturering uden ekstra platformgebyr
Når man kører modeller fra flere laboratorier og inferensudbydere, kan det kræve separate konti, API-nøgler, kontrakter, sikkerhedsgennemgange og fakturaer. Det kan også betyde separate årlige forpligtelser baseret på en modelsammensætning, der kan ændre sig i løbet af få uger.
Orchestrator samler understøttede modeller hos én leverandør og på én regning, så teams kan ændre deres modelmiks uden at forhandle en separat aftale med hver udbyder. Der er intet ekstra platformgebyr ud over kreditterne.
Teams kan også spore forbrug og styre udgifter via API Console:
- Forbrugsrapportering: Udgifter opdelt efter model, projekt, API-nøgle og dato
- API-nøgler: Separate API-nøgler til at spore forbrug efter projekt eller team
- Administratorkontroller: Tilladelseslister for modeller på organisationsniveau, brugerbegrænsninger, udgiftslofter og kapacitetsanmodninger
Mere pålidelige anmodninger på tværs af udbydere
Modeller, der er tilgængelige via flere udbydere, giver teams mere end én måde at betjene en anmodning på.
Orchestrator overvåger hver udbyders tilstand, kapacitet og latenstid for at fordele trafikken mellem dem, der yder bedst. Hvis en anmodning mislykkes, kan den prøves igen på en anden udrulning af samme model, så failover håndteres, uden at teams selv skal bygge logikken.
For teams, der kører millioner af anmodninger om dagen, kan selv en lille forskel i succesraten for anmodninger – en forskel mellem 99,0 % og 99,99 % – påvirke tusindvis af svar. Med Orchestrator behøver teams ikke selv at bygge eller vedligeholde failover-kode.
I løbet af en måneds produktionstrafik på Orchestrator havde Claude- og GPT-anmodninger via Perplexity højere succesrater end nogen af de målte enkeltudbydere og mindre daglig variation under hændelser hos udbyderne.
Som prøveversion: Routes og Auto effort
Med Routes kan teams beskrive i almindeligt sprog, hvilke anmodninger hver model skal håndtere, og angive en standardmodel. Teams kan tage udgangspunkt i en indbygget profil – Lower cost, Balanced eller Higher quality – eller bygge deres egen. Hvis teams ikke angiver en beskrivelse eller et mål, betjener standardmodellen anmodningen.
Auto effort, der også findes som prøveversion, justerer, hvor meget ræsonnering en understøttet model bruger i sin næste tur, i henhold til en politik, som udvikleren definerer. En agent kan bruge mere indsats på at komme sig efter en værktøjsfejl uden at skifte model.
Kom i gang med intelligent modelorkestrering
Orchestrator er det første skridt inden for Perplexitys API-platform for intelligent modelorkestrering. Læs, hvordan vi byggede og evaluerede Routes, herunder hvorfor modelrouting er svært at få rigtigt.
Kom i gang ved at oprette en API-nøgle i API Console, pege et eksisterende OpenAI- eller Anthropic-SDK mod Orchestrators basis-URL og vælge fra modelkataloget.
Lynstartsguiden viser, hvordan du sender din første anmodning på få minutter. Teams med store eller faste arbejdsbelastninger kan skrive til api@perplexity.ai for at få mere at vide om mængdepriser og kapacitet.
Opret en API-nøgle i dag.