Möt nya Sonar: En blixtsnabb modell för Perplexity-sökning

Från och med idag kan alla Perplexity Pro-användare testa den senaste versionen av Sonar, Perplexity egenutvecklade modell som är optimerad för svarsskvalitet och användarupplevelse. Sonar är byggd ovanpå Llama 3.3 70B och har tränats ytterligare för att förbättra faktakorrektheten och läsbarheten för Perplexity standardiserade sökläge.

Genom omfattande A/B-tester online har vi funnit att Sonar presterar avsevärt bättre än modeller i sin klass, såsom GPT-4o mini och Claude 3.5 Haiku, samtidigt som den matchar eller överträffar prestandan hos ledande modeller som GPT-4o och Claude 3.5 Sonnet när det gäller användarnöjdhet. Med stöd av Cerebras slutledningsinfrastruktur körs Sonar i en blixtsnabb hastighet på 1200 tokens per sekund – vilket möjliggör nästan omedelbar generering av svar.

Vi utförde omfattande A/B-tester online av Sonar för att mäta användarnöjdhet – ett nyckeltal som är starkt korrelerat med produktanvändning och retention. Detta mått fångar upp hur nöjda och engagerade användarna är när de ställer frågor på Perplexity.

Våra utvärderingar visar att Sonar överträffar både GPT-4o mini och Claude 3.5 Haiku med bred marginal. Vi jämförde också Sonar med dyrare ledande modeller och fann att den presterar bättre än Claude 3.5 Sonnet, samtidigt som den närmar sig prestandan hos GPT-4o till en bråkdel av priset och med mer än 10 gånger så hög hastighet.

Med stöd av Cerebras slutledningsinfrastruktur levererar Sonar svar i blixtsnabb hastighet och uppnår ett avkodningsflöde som är nästan 10 gånger snabbare än jämförbara modeller som Gemini 2.0 Flash. Detta möjliggör nästan omedelbar generering av svar, vilket gör Sonar idealisk för snabb informationshämtning eller detaljerade frågeställningar.

Vi har optimerat Sonar utifrån två kritiska dimensioner som är starkt korrelerade med användarnöjdhet – faktakorrekthet och läsbarhet för svar.

Faktakorrekthet: Mäter hur väl en modell kan besvara frågor med hjälp av fakta som är förankrade i sökresultat, samt dess förmåga att reda ut motstridig eller saknad information.

Läsbarhet: Mäter en modells förmåga att tillhandahålla ett kortfattat och detaljerat svar med lämplig användning av markdown-formatering för att organisera text.

Våra resultat visar att Sonar förbättrar dessa aspekter avsevärt jämfört med basmodellen, Llama 3.3 70B Instruct, och till och med överträffar andra ledande modeller på dessa nyckelområden†.

Dessutom överträffar Sonar modeller i samma klass som GPT-4o mini och Claude 3.5 Haiku på akademiska mätvärden som mäter användarens instruktionsföljsamhet och världskunskap.

IFEval: Mäter hur väl en modell följer användartillhandahållna instruktioner.

MMLU: Utvärderar världskunskap inom olika områden.

Hur ser ökad faktakorrekthet och läsbarhet ut i praktiken? Jämför dessa sökningar, som utfördes på både Sonar och andra modeller, för att se skillnaden.

Sonar utmärker sig genom att erbjuda snabba och korrekta svar, vilket gör den till en utmärkt modell för vardagsbruk. Perplexity Pro-användare kan göra Sonar till sin standardmodell i sina inställningar. Den kan också användas via Sonar API-erbjudandet*.

†Dessa utvärderingar graderas på en skala från 0 till 100, där högre är bättre.

*Sonar-modellen som tillhandahålls via API körs ännu inte på Cerebras slutledningsinfrastruktur, men den kommer snart.

Perplexity-användare föredrar Sonar

Blixtsnabb hastighet möjliggör omedelbara svar

Sonar utmärker sig på att tillhandahålla faktiska och högkvalitativa svar

Hur Sonar besvarar frågor

Använd Sonar idag

Fotnoter