Møt nye Sonar: En lynrask modell optimalisert for Perplexity-søk

Fra og med i dag kan alle Perplexity Pro-brukere prøve den nyeste versjonen av Sonar, Perplexitys egenutviklede modell som er optimalisert for svarkvalitet og brukeropplevelse. Bygget på Llama 3.3 70B, har Sonar blitt ytterligere trenet for å forbedre svarets faktagrunnlag og lesbarhet for Perplexitys standardsøkemodus.

Gjennom omfattende online A/B-testing har vi funnet ut at Sonar betydelig overgår modeller i sin klasse, som GPT-4o mini og Claude 3.5 Haiku, samtidig som den matcher eller overgår ytelsen til toppmodeller som GPT-4o og Claude 3.5 Sonnet når det gjelder brukertilfredshet. Drevet av Cerebras inferensinfrastruktur kjører Sonar i en lynrask hastighet på 1200 token per sekund – noe som muliggjør nesten umiddelbar svaropprettelse.

Vi utførte omfattende online A/B-testing av Sonar for å måle brukertilfredshet – en nøkkelmetrikk som er sterkt korrelert med produktbruk og gjenbruk. Denne metrikken viser hvor fornøyde og engasjerte brukere er når de stiller spørsmål på Perplexity.

Våre evalueringer viser at Sonar overgår både GPT-4o mini og Claude 3.5 Haiku med god margin. Vi sammenlignede også Sonar med dyrere toppmodeller og fant at den overgår Claude 3.5 Sonnet, samtidig som den nærmer seg ytelsen til GPT-4o til en brøkdel av prisen og med over 10x hastigheten.

Drevet av Cerebras inferensinfrastruktur leverer Sonar svar i lynrask hastighet, og oppnår en dekodingsgjennomstrømming som er nesten 10x raskere enn sammenlignbare modeller som Gemini 2.0 Flash. Dette muliggjør nesten umiddelbar svaropprettelse, noe som gjør Sonar ideell for rask informasjonshenting eller detaljerte spørsmål og svar.

Vi optimaliserte Sonar på tvers av to kritiske dimensjoner som henger sterkt sammen med brukertilfredshet – svarets faktagrunnlag og lesbarhet.

Svarets faktagrunnlag: Måler hvor godt en modell kan svare på spørsmål ved hjelp av fakta forankret i søkeresultater, og dens evne til å løse motstridende eller manglende informasjon

Lesbarhet: Måler en modells evne til å gi et konsist og detaljert svar med riktig bruk av markdown-formatering for å organisere tekst

Våre resultater viser at Sonar forbedrer disse aspektene betydelig sammenlignet med basismodellen, Llama 3.3 70B Instruct, og til og med overgår andre toppmodeller på disse nøkkelområdene†.

I tillegg overgår Sonar også modeller i sin klasse som GPT-4o mini og Claude 3.5 Haiku på akademiske benchmarks som måler brukerens evne til å følge instruksjoner og verdensforståelse.

IFEval: Måler hvor godt en modell følger brukerleverte instruksjoner

MMLU: Evaluerer verdensforståelse på tvers av ulike domener

Hvordan ser økt faktagrunnlag og lesbarhet ut i praksis? Sammenlign disse søkene som ble utført på både Sonar og andre modeller for å se forskjellen.

Sonar utmerker seg med å levere raske og nøyaktige svar, noe som gjør den til en flott modell for hverdagsbruk. Perplexity Pro-brukere kan gjøre Sonar til sin standardmodell i innstillingene. Den kan også brukes via Sonar API-tilbudet*.

†Disse evalueringene er gradert på en skala fra 0 til 100, der høyere er bedre

*Sonar-modellen som betjenes gjennom API-et, kjører ennå ikke på Cerebras inferensinfrastruktur, men den kommer snart

Perplexity-brukere foretrekker Sonar

Lynrask hastighet muliggjør umiddelbare svar

Sonar utmerker seg med å levere faktuelle og høykvalitetssvar

Hvordan Sonar svarer på spørsmål

Bruk Sonar i dag

Fotnoter