Mød ny Sonar: En lynhurtig model optimeret til Perplexity

Fra i dag vil alle Perplexity Pro-brugere kunne prøve den seneste version af Sonar, Perplexitys egen model, der er optimeret til svarkvalitet og brugeroplevelse. Bygget ovenpå Llama 3.3 70B er Sonar blevet yderligere trænnet til at forbedre svarfaktuelitet og læsbarhed for Perplexitys standard-søgetilstand.

Gennem omhyggelig online A/B-testning har vi fundet ud af, at Sonar klarer sig væsentligt bedre end modeller i sin klasse, såsom GPT-4o mini og Claude 3.5 Haiku, samtidig med at den matcher eller overgår ydeevnen for frontlinjemodeller som GPT-4o og Claude 3.5 Sonnet med hensyn til brugertilfredshed. Drevet af Cerebras-infrastruktur til inferens kører Sonar med en lynhurtig hastighed på 1200 tokens pr. sekund – hvilket muliggør næsten øjeblikkelig swardannelse.

Vi udførte omfattende online A/B-test af Sonar for at måle brugertilfredshed – en vigtig metrik, der er stærkt korreleret med produktbrug og fastholdelse. Denne metrik viser, hvor tilfredse og engagerede brugere er, når de stiller spørgsmål på Perplexity.

Vores evalueringer viser, at Sonar overgår både GPT-4o mini og Claude 3.5 Haiku med en betydelig margin. Vi sammenlignede også Sonar med dyrere frontlinjemodeller og fandt, at den overgår Claude 3.5 Sonnet, samtidig med at den nærmer sig ydeevnen for GPT-4o til en brøkdel af prisen og med mere end 10x hastigheden.

Drevet af Cerebras-infrastruktur til inferens leverer Sonar svar med lynhurtige hastigheder og opnår en dekodningsgennemstrømning, der er næsten 10x hurtigere end sammenlignelige modeller som Gemini 2.0 Flash. Dette muliggør næsten øjeblikkelig swardannelse, hvilket gør Sonar ideel til hurtig informationssøgning eller detaljerede spørgsmål-svar-scenarier.

Vi optimerede Sonar på tværs af to kritiske dimensioner, der er stærkt korreleret med brugertilfredshed – svarfaktuelitet og læsbarhed.

Svarfaktuelitet: Måler, hvor godt en model kan besvare spørgsmål ved hjælp af fakta, der er forankret i søgeresultater, og dens evne til at løse modstridende eller manglende oplysninger

Læsbarhed: Måler en models evne til at levere et præcist og detaljeret svar med passende brug af markdown-formatering til organisering af tekst

Vores resultater viser, at Sonar væsentligt forbedrer disse aspekter sammenlignet med basismodellen, Llama 3.3 70B Instruct, og endda overgår andre frontlinjemodeller på disse nøgleområder†.

Derudover overgår Sonar også modeller i sin klasse som GPT-4o mini og Claude 3.5 Haiku på akademiske benchmarks, der måler brugeres instruktionsfølgning og viden om verden.

IFEval: Måler, hvor godt en model overholder bruger-leverede instruktioner

MMLU: Evaluerer verdensviden på tværs af forskellige domæner

Hvordan ser øget faktuelitet og læsbarhed ud i praksis? Sammenlign disse søgninger, som blev udført på både Sonar og andre modeller for at se forskellen.

Sonar udmærker sig ved at levere hurtige og nøjagtige svar, hvilket gør den til en fantastisk model til hverdagsbrug. Perplexity Pro-brugere kan gøre Sonar til deres standardmodel i deres indstillinger. Den kan også bruges via Sonar API-udbuddet*.

†Disse evalueringer bedømmes på en skala fra 0 til 100, hvor højere er bedre

*Sonar-modellen, der serveres gennem API'en, kører endnu ikke på Cerebras-infrastruktur til inferens, men den kommer snart

Perplexity-brugere foretrækker Sonar

Lynhurtig hastighed muliggør øjeblikkelige svar

Sonar udmærker sig ved at levere faktuelle svar af høj kvalitet

Sådan besvarer Sonar spørgsmål

Brug Sonar i dag

Fodnoter