Maak kennis met Sonar: een razendsnel model, geoptimaliseerd voor Perplexity-zoekopdrachten

Een razendsnel model, geoptimaliseerd voor Perplexity-zoekopdrachten

Vanaf vandaag kunnen alle Perplexity Pro-gebruikers de nieuwste versie van Sonar uitproberen, het eigen model van Perplexity dat is geoptimaliseerd voor antwoordkwaliteit en gebruikerservaring. Sonar, gebouwd op basis van Llama 3.3 70B, is verder getraind om de feitelijkheid en leesbaarheid van antwoorden voor de standaardzoekmodus van Perplexity te verbeteren.

Door middel van uitgebreide online A/B-tests hebben we vastgesteld dat Sonar aanzienlijk beter presteert dan modellen in zijn klasse, zoals GPT-4o mini en Claude 3.5 Haiku, terwijl het qua gebruikerstevredenheid nauw aansluit bij of beter presteert dan grensverleggende modellen zoals GPT-4o en Claude 3.5 Sonnet. Aangedreven door de inferentie-infrastructuur van Cerebras, draait Sonar op een razendsnelle snelheid van 1200 tokens per seconde, wat bijna directe antwoordgeneratie mogelijk maakt.

Perplexity-gebruikers verkiezen Sonar

We hebben uitgebreide online A/B-tests van Sonar uitgevoerd om de gebruikerstevredenheid te meten — een belangrijke statistiek die sterk correleert met productgebruik en retentie. Deze statistiek meet hoe tevreden en betrokken gebruikers zijn bij het stellen van vragen op Perplexity.

Onze evaluaties tonen aan dat Sonar zowel GPT-4o mini als Claude 3.5 Haiku met een aanzienlijke marge overtreft. We hebben Sonar ook vergeleken met duurdere grensverleggende modellen en ontdekten dat het beter presteert dan Claude 3.5 Sonnet, terwijl het qua prestaties dicht in de buurt komt van GPT-4o tegen een fractie van de prijs en met een snelheid die meer dan 10 keer hoger ligt.

Razendsnelle snelheid maakt directe antwoorden mogelijk

Aangedreven door de inferentie-infrastructuur van Cerebras, levert Sonar antwoorden op razendsnelle snelheden, waarbij een decoderingsdoorvoer wordt behaald die bijna 10 keer sneller is dan vergelijkbare modellen zoals Gemini 2.0 Flash. Dit maakt bijna directe antwoordgeneratie mogelijk, waardoor Sonar ideaal is voor het snel ophalen van informatie of gedetailleerde vraag-antwoordscenario's.

Sonar blinkt uit in het geven van feitelijke en hoogwaardige antwoorden

We hebben Sonar geoptimaliseerd op basis van twee kritieke dimensies die sterk correleren met gebruikerstevredenheid: de feitelijkheid en de leesbaarheid van antwoorden.

Feitelijkheid van antwoorden: Meet hoe goed een model vragen kan beantwoorden met feiten die zijn gebaseerd op zoekresultaten, evenals het vermogen om tegenstrijdige of ontbrekende informatie op te lossen.

Leesbaarheid: Meet het vermogen van een model om een beknopt en gedetailleerd antwoord te geven met het juiste gebruik van markdown-opmaak voor het structureren van tekst.

Onze resultaten tonen aan dat Sonar deze aspecten aanzienlijk verbetert in vergelijking met het basismodel, Llama 3.3 70B Instruct, en zelfs andere grensverleggende modellen op deze belangrijke punten overtreft†.

Bovendien overtreft Sonar ook modellen in zijn klasse zoals GPT-4o mini en Claude 3.5 Haiku op academische benchmarks die het volgen van gebruikersinstructies en wereldkennis meten.

IFEval: Meet hoe goed een model instructies van gebruikers opvolgt.

MMLU: Evalueert wereldkennis over uiteenlopende domeinen.

Hoe Sonar vragen beantwoordt

Hoe zien verhoogde feitelijkheid en leesbaarheid er in de praktijk uit? Vergelijk deze zoekopdrachten, die op zowel Sonar als andere modellen zijn uitgevoerd, om het verschil te zien.

Gebruik Sonar vandaag nog

Sonar blinkt uit in het bieden van snelle en nauwkeurige antwoorden, waardoor het een uitstekend model is voor dagelijks gebruik. Perplexity Pro-gebruikers kunnen Sonar hun standaardmodel maken in hun instellingen. Het kan ook worden gebruikt via het Sonar API-aanbod*.

Voetnoten

†Deze evaluaties worden beoordeeld op een schaal van 0 tot 100, waarbij een hogere score beter is.

*Het Sonar-model dat via de API wordt aangeboden, draait nog niet op de inferentie-infrastructuur van Cerebras, maar dit komt binnenkort beschikbaar.