Kynnum Orchestrator: Eitt API fyrir fremstu líkön og líkön með opnum vogum
Perplexity Orchestrator veitir aðgang að fremstu líkönum og líkönum með opnum vogum, með sameinaðri reikningsfærslu og sjálfvirkri yfirfærslu við bilanir, í gegnum eitt API.

Perplexity byggir í grunninn á mörgum líkönum og gefur fólki frelsi til að velja nýjustu framsæknu líkönin og líkön með opnum vogum fyrir verkefni sín. Þessi fjöllíkananálgun nýtir styrkleika hvers líkans og getur lækkað kostnað þegar verkefni þarf ekki öflugasta líkanið. Á bak við tjöldin getur samhæfingartækni okkar notað mörg líkön til að ljúka einu verki.
Fyrirtæki fara svipaða leið til að ná jafnvægi milli afkasta, kostnaðar og sveigjanleika. Hver ný líkanaútgáfa felur í sér tækifæri til að lækka kostnað eða bæta gæði. Á þessu ári einu hafa rannsóknarstofur á borð við Anthropic og OpenAI gefið út meira en tug nýrra líkana. Auk þess hafa yfir 100 líkön með opnum vogum komið út. Þótt þetta gefi teymum fleiri valkosti fyrir hverja vinnslu fá þau líka fleiri þjónustuveitendur, samninga og reikninga til að halda utan um.
Í dag kynnum við Perplexity Orchestrator API, sem gerir líkanaóháða tækni okkar aðgengilega forriturum og teymum sem smíða gervigreindarforrit. Með einu API geta teymi keyrt einföld verkefni í miklu magni á ódýrari líkönum og tekið öflugri líkön frá fyrir kröfuharðari vinnu.
Með Orchestrator geta teymi lækkað og miðstýrt útgjöldum til gervigreindar og tekið upp ný líkön um leið og þau koma út, án þess að það komi niður á afköstum eða uppitíma. Teymi geta valið hvaða líkan sinnir hverri vinnslu og Perplexity sér um beiningu til þjónustuveitenda og sjálfvirka yfirfærslu við bilanir til að tryggja áreiðanlega ályktunarvinnslu.
Byggt á líkanalaginu sem Perplexity notar í raunkeyrslu
Perplexity keyrir líkön með opnum vogum og framsækin líkön í rekstri á hverjum degi. Líkanalagið okkar beinir hundruðum milljóna beiðna til yfir 85 líkana og meira en tylftar þjónustuveitna.
Það er auðveldara að velja líkan en að halda hverri beiðni hraðri og hagkvæmri þegar þjónustuveitur hægja á sér, skortir afkastagetu eða breyta verði. Við höfum lækkað okkar eigin rekstrarkostnað með því að færa vinnuálag yfir á þau líkön sem henta best hverju verkefni.
Orchestrator veitir forriturum aðgang að sameiginlegu innviðunum að baki þeirri nálgun.
Orchestrator gerir þetta ályktunarlag aðgengilegt í gegnum eitt API. Það nær yfir líkön frá OpenAI, Anthropic, Google og xAI, auk líkana með opnum vogum á borð við GLM, Kimi og DeepSeek. Líkön með opnum vogum eru keyrð hjá Perplexity eða í gegnum samstarfsaðila á sviði ályktunarvinnslu.
Orchestrator styður sniðin OpenAI Chat Completions, OpenAI Responses og Anthropic Messages. Teymi geta haldið áfram að nota kunnugleg hugbúnaðarþróunarsett (SDK). Hjá flestum teymum felst það að byrja í því að uppfæra API-lykilinn og grunnslóðina og velja tiltækt líkan.
Sameinuð reikningsfærsla án aukagjalds fyrir verkvang
Notkun líkana frá mörgum rannsóknarstofum og ályktunarþjónustum getur kallað á aðskilda aðganga, API-lykla, samninga, öryggisúttektir og reikninga. Hún getur líka þýtt aðskildar árlegar skuldbindingar sem byggjast á samsetningu líkana sem gæti breyst innan nokkurra vikna.
Orchestrator sameinar studd líkön hjá einum söluaðila og á einum reikningi, svo teymi geta breytt samsetningu líkana sinna án þess að semja um sérstaka skuldbindingu við hvern þjónustuveitanda. Ekkert aukagjald fyrir verkvanginn bætist ofan á einingarnar.
Teymi geta einnig fylgst með notkun og stýrt útgjöldum í gegnum API Console:
- Notkunarskýrslur: Útgjöld sundurliðuð eftir líkani, verkefni, API-lykli og dagsetningu
- API-lyklar: Aðskildir API-lyklar til að fylgjast með notkun eftir verkefni eða teymi
- Stjórnendastýringar: Leyfislistar líkana fyrir fyrirtækið, takmarkanir á notendum, útgjaldaþök og beiðnir um afkastagetu
Áreiðanlegri beiðnir þvert á þjónustuveitendur
Líkön sem eru fáanleg hjá mörgum þjónustuveitendum gefa teymum fleiri en eina leið til að afgreiða beiðni.
Orchestrator fylgist með ástandi, afkastagetu og svartíma hvers þjónustuveitanda til að dreifa umferð á þá sem standa sig best. Ef beiðni mistekst getur kerfið reynt aftur á annarri uppsetningu sama líkans og þannig séð um sjálfvirka yfirfærslu við bilanir án þess að teymin þurfi sjálf að smíða þá virkni.
Hjá teymum sem keyra milljónir beiðna á dag getur jafnvel lítill munur á árangurshlutfalli beiðna, til dæmis munurinn á 99,0% og 99,99%, haft áhrif á þúsundir svara. Með Orchestrator þurfa teymi ekki sjálf að smíða eða viðhalda kóða fyrir sjálfvirka yfirfærslu við bilanir.
Á einum mánuði af raunumferð um Orchestrator voru beiðnir til Claude og GPT í gegnum Perplexity með hærra árangurshlutfall en nokkur einstakur þjónustuveitandi sem mældur var, auk þess sem dagssveiflur voru minni þegar atvik komu upp hjá þjónustuveitendum.
Í forútgáfu: Routes og Auto effort
Með Routes geta teymi lýst á venjulegu máli hvaða beiðnir hvert líkan á að sjá um og valið sjálfgefið líkan. Teymi geta byrjað á innbyggðu sniði, Lower cost, Balanced eða Higher quality, eða smíðað sitt eigið sérsniðna snið. Ef teymi gefa ekki upp lýsingu eða tilgreina markmið afgreiðir sjálfgefna líkanið beiðnina.
Auto effort, sem einnig er í forútgáfu, stillir hversu mikla rökhugsun líkan sem styður eiginleikann notar í næstu umferð samkvæmt reglu sem forritarinn skilgreinir. Gervigreindarfulltrúi getur lagt meiri vinnu í að jafna sig eftir villu í verkfæri án þess að skipta um líkan.
Byrjaðu að nota snjalla samhæfingu líkana
Orchestrator er fyrsta skrefið innan API-vettvangs Perplexity í átt að snjallri samhæfingu líkana. Kynntu þér hvernig við smíðuðum og mátum Routes, þar á meðal hvers vegna erfitt er að ná beiningu líkana réttri.
Til að byrja skaltu búa til API-lykil í API Console, beina núverandi OpenAI- eða Anthropic-SDK að grunnvefslóð Orchestrator og velja úr líkanaskránni.
Í flýtileiðbeiningunum er farið yfir fyrstu beiðnina á örfáum mínútum. Teymi með umfangsmikla eða skuldbundna notkun geta sent tölvupóst á api@perplexity.ai til að fá frekari upplýsingar um magnverð og afkastagetu.
Búðu til API-lykil í dag.