Descobriu el nou Sonar: un model ultraràpid per a Perplexity

A partir d'avui, tots els usuaris de Perplexity Pro podran provar l'última versió de Sonar, el model propi de Perplexity optimitzat per a la qualitat de les respostes i l'experiència d'usuari. Creat a partir de Llama 3.3 70B, Sonar s'ha entrenat encara més per millorar la factualitat i la llegibilitat de les respostes per al mode de cerca predeterminat de Perplexity.

Mitjançant proves A/B en línia exhaustives, hem descobert que Sonar supera significativament els models de la seva categoria, com ara GPT-4o mini i Claude 3.5 Haiku, alhora que iguala o supera de prop el rendiment de models de frontera com GPT-4o i Claude 3.5 Sonnet pel que fa a la satisfacció de l'usuari. Impulsat per la infraestructura d'inferència de Cerebras, Sonar funciona a una velocitat fulgurant de 1200 tòkens per segon, la qual cosa permet una generació de respostes gairebé instantània.

Hem dut a terme proves A/B en línia exhaustives de Sonar per mesurar la satisfacció de l'usuari, una mètrica clau que està fortament correlacionada amb l'ús del producte i la retenció. Aquesta mètrica captura com de satisfets i compromesos estan els usuaris quan fan preguntes a Perplexity.

Les nostres avaluacions mostren que Sonar supera tant el GPT-4o mini com el Claude 3.5 Haiku per un marge considerable. També hem comparat Sonar amb models de frontera més cars i hem trobat que supera el Claude 3.5 Sonnet, alhora que s'aproxima molt al rendiment del GPT-4o per una fracció del preu i a més de 10 vegades la velocitat.

Impulsat per la infraestructura d'inferència de Cerebras, Sonar ofereix respostes a velocitats fulgurants, aconseguint un rendiment de descodificació gairebé 10 vegades més ràpid que models comparables com Gemini 2.0 Flash. Això permet una generació de respostes gairebé instantània, fet que fa que Sonar sigui ideal per a la recuperació ràpida d'informació o casos d'ús de resolució detallada de preguntes.

Hem optimitzat Sonar en dues dimensions crítiques que estan fortament correlacionades amb la satisfacció de l'usuari: la factualitat de les respostes i la llegibilitat.

Factualitat de les respostes: mesura com de bé pot respondre un model a les preguntes utilitzant fets basats en els resultats de la cerca i la seva capacitat per resoldre informació contradictòria o absent.

Llegibilitat: mesura la capacitat d'un model per proporcionar una resposta concisa i detallada amb l'ús adequat del format markdown per organitzar el text.

Els nostres resultats demostren que Sonar millora significativament aquests aspectes en comparació amb el model base, Llama 3.3 70B Instruct, i fins i tot supera altres models de frontera en aquestes àrees clau†.

A més, Sonar també supera els models de la seva categoria com GPT-4o mini i Claude 3.5 Haiku en referències acadèmiques que mesuren el seguiment d'instruccions per part de l'usuari i el coneixement del món.

IFEval: mesura com de bé s'adhereix un model a les instruccions proporcionades per l'usuari.

MMLU: avalua el coneixement del món en diversos dominis.

Com es tradueixen l'augment de la factualitat i la llegibilitat a la pràctica? Compareu aquestes cerques, dutes a terme tant a Sonar com en altres models, per veure la diferència.

Sonar destaca per oferir respostes ràpides i precises, la qual cosa el converteix en un gran model per a l'ús diari. Els usuaris de Perplexity Pro poden fer que Sonar sigui el seu model predeterminat a la configuració. També es pot utilitzar a través de l'oferta de l'API de Sonar*.

† Aquestes avaluacions es qualifiquen en una escala del 0 al 100, on un valor més alt és millor.

*El model Sonar proporcionat a través de l'API encara no s'executa a la infraestructura d'inferència de Cerebras, però estarà disponible ben aviat.

Els usuaris de Perplexity prefereixen Sonar

La velocitat fulgurant permet respostes instantànies

Sonar destaca per oferir respostes basades en fets i d'alta qualitat

Com respon Sonar a les preguntes

Utilitzeu Sonar avui mateix

Notes a peu de pàgina