Scopri il nuovo Sonar: modello fulmineo per la ricerca Perplexity

A partire da oggi, tutti gli utenti di Perplexity Pro potranno provare l'ultima versione di Sonar, il modello interno di Perplexity ottimizzato per la qualità delle risposte e l'esperienza utente. Basato su Llama 3.3 70B, Sonar è stato ulteriormente addestrato per migliorare la veridicità e la leggibilità delle risposte per la modalità di ricerca predefinita di Perplexity.

Attraverso approfonditi test A/B online, abbiamo riscontrato che Sonar supera significativamente i modelli della sua categoria, come GPT-4o mini e Claude 3.5 Haiku, eguagliando o superando al contempo le prestazioni di modelli di frontiera come GPT-4o e Claude 3.5 Sonnet in termini di soddisfazione dell'utente. Supportato dall'infrastruttura di inferenza di Cerebras, Sonar opera a una velocità fulminea di 1200 token al secondo, consentendo una generazione delle risposte quasi istantanea.

Abbiamo condotto estesi test A/B online su Sonar per misurare la soddisfazione degli utenti, una metrica chiave fortemente correlata all'utilizzo del prodotto e alla fidelizzazione. Questa metrica rileva quanto gli utenti siano soddisfatti e coinvolti quando pongono domande su Perplexity.

Le nostre valutazioni mostrano che Sonar supera notevolmente sia GPT-4o mini che Claude 3.5 Haiku. Abbiamo inoltre confrontato Sonar con modelli di frontiera più costosi e abbiamo riscontrato che supera Claude 3.5 Sonnet, avvicinandosi molto alle prestazioni di GPT-4o a una frazione del prezzo e con una velocità superiore di oltre 10 volte.

Supportato dall'infrastruttura di inferenza di Cerebras, Sonar fornisce risposte a velocità fulminee, raggiungendo un throughput di decodifica quasi 10 volte più veloce rispetto a modelli comparabili come Gemini 2.0 Flash. Ciò consente una generazione delle risposte quasi istantanea, rendendo Sonar ideale per il reperimento rapido di informazioni o per casi d'uso che richiedono risposte dettagliate alle domande.

Abbiamo ottimizzato Sonar lungo due dimensioni critiche fortemente correlate alla soddisfazione dell'utente: la veridicità e la leggibilità delle risposte.

Veridicità delle risposte: misura la capacità di un modello di rispondere alle domande utilizzando fatti fondati sui risultati di ricerca e la sua capacità di risolvere informazioni contrastanti o mancanti

Leggibilità: misura la capacità di un modello di fornire una risposta concisa e dettagliata con l'uso appropriato della formattazione markdown per organizzare il testo

I nostri risultati dimostrano che Sonar migliora significativamente questi aspetti rispetto al modello base, Llama 3.3 70B Instruct, e supera persino altri modelli di frontiera in queste aree chiave†.

Inoltre, Sonar supera i modelli della sua categoria come GPT-4o mini e Claude 3.5 Haiku anche nei benchmark accademici che misurano la capacità di seguire le istruzioni dell'utente e la conoscenza del mondo.

IFEval: misura quanto bene un modello aderisce alle istruzioni fornite dall'utente

MMLU: valuta la conoscenza del mondo in diversi domini

Cosa significano nella pratica una maggiore veridicità e leggibilità? Confronta queste ricerche, condotte sia su Sonar che su altri modelli, per vedere la differenza.

Sonar eccelle nel fornire risposte rapide e accurate, rendendolo un ottimo modello per l'uso quotidiano. Gli utenti di Perplexity Pro possono rendere Sonar il loro modello predefinito nelle impostazioni. Può anche essere utilizzato tramite l'offerta API di Sonar*.

†Queste valutazioni sono classificate su una scala da 0 a 100, dove un valore più alto è migliore

*Il modello Sonar servito tramite API non è ancora eseguito sull'infrastruttura di inferenza di Cerebras, ma sarà disponibile a breve

Gli utenti di Perplexity preferiscono Sonar

Velocità fulminea per risposte istantanee

Sonar eccelle nel fornire risposte fattuali e di alta qualità

Come Sonar risponde alle domande

Usa Sonar oggi

Note a piè di pagina