Presentiamo Orchestrator: un'unica API per modelli di frontiera e open-weight
Perplexity Orchestrator offre accesso a modelli di frontiera e open-weight con fatturazione unificata e failover in un'unica API.

Perplexity è multimodello per natura e offre alle persone la libertà di scegliere i più recenti modelli di frontiera e a pesi aperti per il proprio lavoro. Questo approccio multimodello sfrutta i punti di forza di ciascun modello e può ridurre i costi quando un’attività non richiede il modello più potente. Dietro le quinte, la nostra tecnologia di orchestrazione può usare più modelli per completare un singolo lavoro.
Anche le aziende stanno adottando un approccio simile per bilanciare prestazioni, costi e flessibilità. Ogni nuovo modello rilasciato rappresenta un'opportunità per ridurre i costi o migliorare la qualità. Solo quest'anno, laboratori come Anthropic e OpenAI hanno rilasciato più di una dozzina di nuovi modelli. Sono stati inoltre rilasciati più di 100 modelli open-weight. Se da un lato questo offre ai team più opzioni per ogni carico di lavoro, dall'altro comporta anche più provider, contratti e fatture da gestire.
Oggi lanciamo l'API Perplexity Orchestrator, rendendo la nostra tecnologia indipendente dai modelli disponibile per sviluppatori e team che creano applicazioni di IA. Tramite un'unica API, i team possono eseguire attività semplici e ad alto volume su modelli a costo inferiore e riservare i modelli più potenti ai lavori più impegnativi.
Con Orchestrator, i team possono ridurre e centralizzare la spesa per l'IA e adottare i nuovi modelli non appena vengono rilasciati, senza compromessi su prestazioni o disponibilità. I team possono scegliere quale modello gestisce ciascun carico di lavoro, mentre Perplexity si occupa del routing tra provider e del failover per garantire un'inferenza affidabile.
Basato sul livello di modelli di produzione di Perplexity
Perplexity esegue ogni giorno in produzione modelli a pesi aperti e di frontiera. Il nostro livello dei modelli instrada centinaia di milioni di richieste su oltre 85 modelli e più di una dozzina di provider.
Scegliere un modello è più facile che mantenere ogni richiesta veloce ed economica quando i provider rallentano, esauriscono la capacità o cambiano i prezzi. Abbiamo ridotto i nostri costi di servizio spostando i carichi di lavoro sui modelli più adatti a ciascuna attività.
Orchestrator offre agli sviluppatori l’accesso all’infrastruttura condivisa alla base di questo approccio.
Orchestrator rende disponibile questo livello di inferenza tramite un'unica API. Include modelli di OpenAI, Anthropic, Google e xAI, oltre a modelli open-weight come GLM, Kimi e DeepSeek. I modelli open-weight sono serviti da Perplexity o tramite partner di inferenza.
Orchestrator supporta i formati OpenAI Chat Completions, OpenAI Responses e Anthropic Messages. I team possono continuare a usare i kit di sviluppo software (SDK) a cui sono abituati. Per la maggior parte dei team, per iniziare basta aggiornare la chiave API e l’URL di base e selezionare un modello disponibile.
Fatturazione unificata senza costi di piattaforma aggiuntivi
Eseguire modelli di diversi laboratori e provider di inferenza può richiedere account, chiavi API, contratti, revisioni di sicurezza e fatture separati. Può anche comportare impegni annuali separati basati su un mix di modelli che potrebbe cambiare nel giro di poche settimane.
Orchestrator riunisce i modelli supportati sotto un unico fornitore e un'unica fattura, così i team possono cambiare il proprio mix di modelli senza negoziare un impegno separato con ciascun provider. Non ci sono costi di piattaforma aggiuntivi oltre ai crediti.
I team possono anche monitorare l’utilizzo e gestire la spesa tramite l’API Console:
- Report di utilizzo: spesa suddivisa per modello, progetto, chiave API e data
- Chiavi API: chiavi API separate per monitorare l’utilizzo per progetto o team
- Controlli amministrativi: elenchi di modelli consentiti per l’organizzazione, restrizioni per gli utenti, limiti di spesa e richieste di capacità
Richieste più affidabili tra i diversi provider
I modelli disponibili tramite più provider offrono ai team più di un modo per servire una richiesta.
Orchestrator monitora lo stato, la capacità e la latenza di ciascun provider per distribuire il traffico tra quelli con le prestazioni migliori. Se una richiesta non va a buon fine, può essere ritentata su un altro deployment dello stesso modello, gestendo il failover senza che i team debbano sviluppare la logica da sé.
Per i team che eseguono milioni di richieste al giorno, anche una piccola differenza nei tassi di successo delle richieste, come uno scarto tra il 99,0% e il 99,99%, può incidere su migliaia di risposte. Con Orchestrator, i team non devono sviluppare né mantenere autonomamente il codice di failover.
In un mese di traffico di produzione su Orchestrator, le richieste a Claude e GPT tramite Perplexity hanno registrato tassi di successo più elevati rispetto a qualsiasi singolo provider misurato, oltre a una minore variabilità giornaliera durante gli incidenti dei provider.
In anteprima: Routes e Auto effort
Routes consente ai team di descrivere in linguaggio semplice quali richieste deve gestire ciascun modello e di impostare un modello predefinito. I team possono partire da un profilo integrato a costo inferiore, bilanciato o di qualità superiore, oppure crearne uno personalizzato. Se i team non forniscono una descrizione o non specificano un obiettivo, la richiesta viene gestita dal modello predefinito.
Sempre in anteprima, Auto effort regola la quantità di ragionamento che un modello supportato usa nel turno successivo, in base a un criterio definito dallo sviluppatore. Un agente può dedicare più impegno a riprendersi da un errore di uno strumento senza cambiare modello.
Inizia a usare l'orchestrazione intelligente dei modelli
Orchestrator è il primo passo, all’interno della piattaforma API di Perplexity, verso un’orchestrazione intelligente dei modelli. Scopri come abbiamo creato e valutato Routes, incluso il motivo per cui è difficile realizzare correttamente l’instradamento dei modelli.
Per iniziare, crea una chiave API nell'API Console, configura un SDK OpenAI o Anthropic esistente in modo che punti all'URL di base di Orchestrator e scegli dal catalogo dei modelli.
La guida introduttiva spiega come inviare una prima richiesta in pochi minuti. I team con carichi di lavoro elevati o con impegni di spesa possono scrivere a api@perplexity.ai per maggiori informazioni sui prezzi per volume e sulla capacità.
Crea una chiave API oggi stesso.