Memperkenalkan Orchestrator: Satu API untuk model frontier dan open-weight
Perplexity Orchestrator menyediakan akses ke model frontier dan open-weight dengan penagihan terpadu dan failover dalam satu API.

Perplexity pada dasarnya bersifat multimodel, memberi orang kebebasan untuk memilih model frontier dan bobot terbuka terbaru untuk pekerjaan mereka. Pendekatan multimodel ini memanfaatkan keunggulan setiap model dan dapat menurunkan biaya ketika suatu tugas tidak memerlukan model paling canggih. Di balik layar, teknologi orkestrasi kami dapat menggunakan beberapa model untuk menyelesaikan satu pekerjaan.
Perusahaan menerapkan pendekatan serupa untuk menyeimbangkan performa, biaya, dan fleksibilitas. Setiap rilis model baru menghadirkan peluang untuk menekan biaya atau meningkatkan kualitas. Tahun ini saja, lab seperti Anthropic dan OpenAI telah merilis lebih dari selusin model baru. Lebih dari 100 model open-weight juga telah dirilis. Meskipun hal ini memberi tim lebih banyak pilihan untuk setiap beban kerja, hal ini juga membuat mereka harus mengelola lebih banyak penyedia, kontrak, dan tagihan.
Hari ini kami meluncurkan API Perplexity Orchestrator, yang menghadirkan teknologi model-agnostik kami bagi pengembang dan tim yang membangun aplikasi AI. Melalui satu API, tim dapat menjalankan tugas sederhana bervolume tinggi pada model berbiaya lebih rendah dan menyisihkan model yang lebih canggih untuk pekerjaan yang lebih menuntut.
Dengan Orchestrator, tim dapat menekan dan memusatkan pengeluaran AI serta mengadopsi model baru begitu dirilis, tanpa mengorbankan performa atau waktu aktif. Tim dapat memilih model yang menangani setiap beban kerja, sementara Perplexity menangani perutean penyedia dan failover untuk memastikan inferensi yang andal.
Dibangun di atas lapisan model produksi Perplexity
Perplexity menjalankan model bobot terbuka dan model frontier dalam produksi setiap hari. Lapisan model kami merutekan ratusan juta permintaan ke lebih dari 85 model dan lebih dari selusin penyedia.
Memilih model lebih mudah daripada menjaga setiap permintaan tetap cepat dan terjangkau ketika penyedia melambat, kekurangan kapasitas, atau mengubah harga. Kami telah menurunkan biaya penyajian kami sendiri dengan memindahkan beban kerja ke model yang paling sesuai untuk setiap tugas.
Orchestrator memberi pengembang akses ke infrastruktur bersama di balik pendekatan tersebut.
Orchestrator menghadirkan lapisan inferensi tersebut melalui satu API. Orchestrator mencakup model dari OpenAI, Anthropic, Google, dan xAI, serta model open-weight seperti GLM, Kimi, dan DeepSeek. Model open-weight dilayani oleh Perplexity atau melalui mitra inferensi.
Orchestrator mendukung format OpenAI Chat Completions, OpenAI Responses, dan Anthropic Messages. Tim dapat terus menggunakan software development kit (SDK) yang sudah familier. Bagi sebagian besar tim, memulai hanya melibatkan pembaruan kunci API dan URL dasar, serta pemilihan model yang tersedia.
Penagihan terpadu tanpa biaya platform tambahan
Menjalankan model dari beberapa lab dan penyedia inferensi dapat memerlukan akun, kunci API, kontrak, tinjauan keamanan, dan faktur yang terpisah. Hal ini juga dapat berarti komitmen tahunan terpisah berdasarkan campuran model yang bisa berubah dalam hitungan minggu.
Orchestrator menyatukan model-model yang didukung di bawah satu vendor dan satu tagihan, sehingga tim dapat mengubah kombinasi model tanpa harus menegosiasikan komitmen terpisah dengan setiap penyedia. Tidak ada biaya platform tambahan di luar kredit.
Tim juga dapat melacak penggunaan dan mengelola pengeluaran melalui API Console:
- Laporan penggunaan: Pengeluaran yang dirinci berdasarkan model, proyek, kunci API, dan tanggal
- Kunci API: Pisahkan kunci API untuk melacak penggunaan per proyek atau tim
- Kontrol admin: Daftar model yang diizinkan untuk organisasi, pembatasan pengguna, batas pengeluaran, dan permintaan kapasitas
Permintaan yang lebih andal di berbagai penyedia
Model yang tersedia melalui beberapa penyedia memberi tim lebih dari satu cara untuk melayani permintaan.
Orchestrator memantau kesehatan, kapasitas, dan latensi setiap penyedia untuk mendistribusikan lalu lintas ke penyedia dengan performa terbaik. Jika permintaan gagal, Orchestrator dapat mencoba ulang pada deployment lain dari model yang sama, sehingga failover tertangani tanpa tim perlu membangun logikanya sendiri.
Bagi tim yang menjalankan jutaan permintaan per hari, perbedaan kecil sekalipun dalam tingkat keberhasilan permintaan, yakni selisih antara 99,0% dan 99,99%, dapat memengaruhi ribuan respons. Dengan Orchestrator, tim tidak perlu membangun atau memelihara kode failover sendiri.
Dalam lalu lintas produksi selama satu bulan di Orchestrator, permintaan Claude dan GPT melalui Perplexity memiliki tingkat keberhasilan yang lebih tinggi daripada penyedia individual mana pun yang diukur, disertai variasi harian yang lebih kecil selama insiden penyedia.
Dalam pratinjau: Routes dan Auto effort
Routes memungkinkan tim menjelaskan dalam bahasa sederhana permintaan mana yang harus ditangani oleh setiap model, serta menetapkan model default. Tim dapat memulai dari profil bawaan Lower cost, Balanced, atau Higher quality. Atau, tim dapat membuat profil kustom. Jika tim tidak memberikan deskripsi atau tidak menentukan tujuan, permintaan akan ditangani oleh model default.
Juga dalam pratinjau, Auto effort menyesuaikan seberapa banyak penalaran yang digunakan model yang didukung pada giliran berikutnya sesuai dengan kebijakan yang ditentukan pengembang. Agen dapat mengerahkan upaya lebih besar untuk pulih dari galat alat tanpa berganti model.
Mulai gunakan orkestrasi model yang cerdas
Orchestrator adalah langkah pertama dalam platform API Perplexity untuk orkestrasi model yang cerdas. Pelajari cara kami membangun dan mengevaluasi Routes, termasuk alasan perutean model sulit dilakukan dengan tepat.
Untuk memulai, buat kunci API di API Console, arahkan SDK OpenAI atau Anthropic yang sudah ada ke URL dasar Orchestrator, lalu pilih dari katalog model.
Panduan memulai cepat membahas cara mengirim permintaan pertama dalam hitungan menit. Tim dengan beban kerja besar atau dengan komitmen penggunaan dapat mengirim email ke api@perplexity.ai untuk informasi lebih lanjut tentang harga volume dan kapasitas.
Buat kunci API hari ini.