Orchestrator-мен танысыңыз: алдыңғы қатарлы және ашық салмақты модельдерге арналған бір API
Perplexity Orchestrator бір API арқылы бірыңғай есеп айырысу және резервке ауысу мүмкіндігімен алдыңғы қатарлы және ашық салмақты модельдерге қол жеткізуді қамтамасыз етеді.

Perplexity өзегінде көп модельді жүйе болып табылады және адамдарға өз жұмысы үшін ең соңғы озық және ашық салмақты модельдерді таңдау еркіндігін береді. Бұл көп модельді тәсіл әр модельдің күшті жақтарын пайдаланады және тапсырмаға ең қуатты модель қажет болмаған кезде шығындарды азайта алады. Сахна артында біздің оркестрлеу технологиямыз бір жұмысты орындау үшін бірнеше модельді пайдалана алады.
Компаниялар да өнімділік, құн және икемділік арасындағы теңгерімді сақтау үшін осындай тәсілді қолданып жүр. Әрбір жаңа модельдің шығуы шығынды азайтуға немесе сапаны арттыруға мүмкіндік береді. Тек биылдың өзінде Anthropic және OpenAI сияқты зертханалар оннан астам жаңа модель шығарды. Сондай-ақ 100-ден астам ашық салмақты модель жарық көрді. Бұл командаларға әр жүктеме үшін көбірек таңдау берсе де, олар басқаруы тиіс провайдерлер, келісімшарттар мен шот-фактуралар санын да арттырады.
Бүгін біз Perplexity Orchestrator API қызметін іске қосамыз. Ол модельге тәуелсіз технологиямызды ЖИ қосымшаларын жасайтын әзірлеушілер мен командаларға қолжетімді етеді. Бір API арқылы командалар қарапайым әрі көлемі үлкен тапсырмаларды арзанырақ модельдерде орындап, қуаттырақ модельдерді күрделірек жұмыстарға қалдыра алады.
Orchestrator арқылы командалар өнімділік пен үздіксіз жұмысқа нұқсан келтірмей, ЖИ шығындарын азайтып, оларды бір орталықта басқара алады және жаңа модельдерді шыққан бойда қолдана алады. Командалар әр жүктемені қай модель өңдейтінін таңдай алады, ал Perplexity сенімді инференсті қамтамасыз ету үшін провайдерлер арасындағы маршруттау мен резервке ауысуды өзі басқарады.
Perplexity өндірістік модель қабаты негізінде құрылған
Perplexity күн сайын ашық салмақты және озық модельдерді өндірістік ортада іске қосады. Біздің модельдер деңгейіміз жүздеген миллион сұрауды 85-тен астам модель мен оннан астам провайдер арасында маршруттайды.
Провайдерлер баяулағанда, сыйымдылығы жетіспегенде немесе бағаларын өзгерткенде әр сұрауды жылдам әрі қолжетімді бағада ұстаудан гөрі модель таңдау оңайырақ. Біз жұмыс жүктемелерін әр тапсырмаға ең қолайлы модельдерге ауыстыру арқылы өз қызмет көрсету шығындарымызды азайттық.
Orchestrator әзірлеушілерге осы тәсілдің негізінде жатқан ортақ инфрақұрылымға қол жеткізуге мүмкіндік береді.
Orchestrator осы инференс қабатын бір API арқылы қолжетімді етеді. Ол OpenAI, Anthropic, Google және xAI модельдерін, сондай-ақ GLM, Kimi және DeepSeek сияқты ашық салмақты модельдерді қамтиды. Ашық салмақты модельдерді Perplexity немесе инференс серіктестері ұсынады.
Orchestrator OpenAI Chat Completions, OpenAI Responses және Anthropic Messages пішімдерін қолдайды. Командалар таныс бағдарламалық жасақтама әзірлеу жинақтарын (SDK) пайдалануды жалғастыра алады. Көптеген командалар үшін жұмысты бастау API кілті мен негізгі URL мекенжайын жаңартуды және қолжетімді модельді таңдауды қамтиды.
Қосымша платформа ақысы жоқ бірыңғай есеп айырысу
Бірнеше зертхана мен инференс провайдерлерінің модельдерін іске қосу бөлек аккаунттарды, API кілттерін, келісімшарттарды, қауіпсіздік тексерулерін және шот-фактураларды қажет етуі мүмкін. Бұл сондай-ақ бірнеше апта ішінде өзгеруі мүмкін модельдер жиынтығына негізделген жеке жылдық міндеттемелерді білдіруі мүмкін.
Orchestrator қолдау көрсетілетін модельдерді бір жеткізуші мен бір шотқа біріктіреді, сондықтан командалар әр провайдермен жеке міндеттеме туралы келіссөз жүргізбей-ақ пайдаланатын модельдер жиынын өзгерте алады. Кредиттерге қоса ешқандай қосымша платформа ақысы алынбайды.
Командалар сондай-ақ API Console арқылы пайдалануды бақылап, шығындарды басқара алады:
- Пайдалану есептері: модель, жоба, API кілті және күн бойынша бөлінген шығындар
- API кілттері: Пайдалануды жоба немесе команда бойынша бақылауға арналған бөлек API кілттері
- Әкімші басқару құралдары: Ұйымдық модельдердің рұқсат тізімдері, пайдаланушы шектеулері, шығын шектері және сыйымдылық сұраулары
Түрлі провайдерлер арқылы сенімдірек сұраулар
Бірнеше провайдер арқылы қолжетімді модельдер командаларға сұрауды өңдеудің бірнеше жолын ұсынады.
Orchestrator трафикті ең жақсы жұмыс істейтін провайдерлер арасында бөлу үшін әр провайдердің жай-күйін, қуаттылығын және кідірісін бақылайды. Егер сұрау сәтсіз аяқталса, Orchestrator оны сол модельдің басқа орналастыруында қайталай алады. Осылайша резервке ауысу жүзеге асады және командаларға бұл логиканы өздері әзірлеудің қажеті жоқ.
Күніне миллиондаған сұрау жіберетін командалар үшін сұраулардың сәтті орындалу көрсеткішіндегі шамалы айырмашылықтың өзі, мысалы, 99,0% пен 99,99% арасындағы айырма, мыңдаған жауапқа әсер етуі мүмкін. Orchestrator арқылы командаларға резервке ауысу кодын өздері жазудың немесе қолдап отырудың қажеті жоқ.
Orchestrator жүйесіндегі бір айлық өндірістік трафикте Perplexity арқылы өткен Claude және GPT сұрауларының сәтті орындалу көрсеткіші өлшенген кез келген жеке провайдерге қарағанда жоғары болды, ал провайдерлердегі инциденттер кезінде күнделікті ауытқулар азырақ болды.
Алдын ала нұсқада: Routes және Auto effort
Routes көмегімен командалар әр модель қай сұрауларды өңдеуі керектігін қарапайым тілмен сипаттап, әдепкі модельді орната алады. Командалар кірістірілген «Төмен құн», «Теңгерімді» немесе «Жоғары сапа» профилінен бастай алады. Немесе өздерінің арнайы профилін құра алады. Егер командалар сипаттама бермесе немесе мақсатты көрсетпесе, сұрауға әдепкі модель қызмет көрсетеді.
Сондай-ақ алдын ала нұсқада қолжетімді Auto effort әзірлеуші анықтаған саясатқа сәйкес қолдау көрсетілетін модельдің келесі кезекте пайымдауға қанша күш жұмсайтынын реттейді. Агент модельдерді ауыстырмай-ақ құрал қатесінен кейін қалпына келу үшін көбірек күш жұмсай алады.
Модельдерді интеллектуалды оркестрлеуді бастаңыз
Orchestrator — Perplexity-нің API платформасындағы зияткерлік модель оркестрлеуге бағытталған алғашқы қадам. Routes мүмкіндігін қалай жасағанымыз және бағалағанымыз туралы біліңіз, соның ішінде модельдерді маршруттауды дұрыс жүзеге асыру неліктен қиын екені туралы.
Бастау үшін API Console бөлімінде API кілтін жасаңыз, қолданыстағы OpenAI немесе Anthropic SDK құралын Orchestrator базалық URL мекенжайына бағыттаңыз және модельдер каталогынан таңдаңыз.
Жылдам бастау нұсқаулығы алғашқы сұрауды бірнеше минутта жіберуге көмектеседі. Ауқымды немесе алдын ала келісілген көлемдегі жүктемесі бар командалар көлемдік баға мен қуаттылық туралы қосымша ақпарат алу үшін api@perplexity.ai мекенжайына хат жаза алады.
Бүгін API кілтін жасаңыз.