Faceți cunoștință cu noul Sonar: Un model rapid pentru Perplexity

Începând de astăzi, toți utilizatorii Perplexity Pro vor putea încerca cea mai recentă versiune a Sonar, modelul propriu al Perplexity care este optimizat pentru calitatea răspunsurilor și experiența utilizatorului. Construit pe baza Llama 3.3 70B, Sonar a fost antrenat suplimentar pentru a spori acuratețea și gradul de citire a răspunsurilor pentru modul de căutare implicit al Perplexity.

Prin teste A/B online complexe, am descoperit că Sonar depășește semnificativ modelele din clasa sa, cum ar fi GPT-4o mini și Claude 3.5 Haiku, egalând în același timp sau depășind performanța modelelor de frontieră precum GPT-4o și Claude 3.5 Sonnet în ceea ce privește satisfacția utilizatorilor. Susținut de infrastructura de inferență Cerebras, Sonar rulează la o viteză uluitor de mare de 1200 de tokeni pe secundă – permițând o generare aproape instantanee a răspunsurilor.

Am efectuat teste A/B online extinse pentru Sonar pentru a măsura satisfacția utilizatorilor – o valoare cheie care este puternic corelată cu utilizarea produsului și retenția. Această valoare surprinde cât de mulțumiți și implicați sunt utilizatorii atunci când pun întrebări pe Perplexity.

Evaluările noastre arată că Sonar depășește atât GPT-4o mini, cât și Claude 3.5 Haiku cu o marjă substanțială. De asemenea, am comparat Sonar cu modele de frontieră mai scumpe și am constatat că depășește Claude 3.5 Sonnet, apropiindu-se în același timp de performanța GPT-4o la o fracțiune din preț și la o viteză de peste 10 ori mai mare.

Susținut de infrastructura de inferență Cerebras, Sonar oferă răspunsuri la viteze uluitor de mari, obținând un debit de decodare de aproape 10 ori mai rapid decât modelele comparabile precum Gemini 2.0 Flash. Acest lucru permite o generare aproape instantanee a răspunsurilor, făcând ca Sonar să fie ideal pentru preluarea rapidă a informațiilor sau pentru cazurile de utilizare cu răspunsuri detaliate la întrebări.

Am optimizat Sonar pe două dimensiuni critice care se corelează puternic cu satisfacția utilizatorilor: acuratețea factuală a răspunsurilor și claritatea în lectură.

Acuratețea factuală: Măsoară cât de bine poate un model să răspundă la întrebări folosind fapte bazate pe rezultatele căutării și capacitatea sa de a rezolva informații conflictuale sau lipsă

Claritatea în lectură: Măsoară capacitatea unui model de a oferi un răspuns concis și detaliat, cu utilizarea corespunzătoare a formatării markdown pentru organizarea textului

Rezultatele noastre demonstrează că Sonar îmbunătățește semnificativ aceste aspecte în comparație cu modelul de bază, Llama 3.3 70B Instruct, și chiar depășește alte modele de frontieră în aceste domenii cheie†.

În plus, Sonar depășește, de asemenea, modelele din aceeași clasă, cum ar fi GPT-4o mini și Claude 3.5 Haiku, în cadrul benchmark-urilor academice care măsoară respectarea instrucțiunilor de către utilizatori și cunoștințele generale.

IFEval: Măsoară cât de bine respectă un model instrucțiunile furnizate de utilizator

MMLU: Evaluează cunoștințele generale în diverse domenii

Cum arată în practică o acuratețe factuală și o claritate crescute? Comparați aceste căutări, care au fost efectuate atât pe Sonar, cât și pe alte modele, pentru a vedea diferența.

Sonar excelează în furnizarea de răspunsuri rapide și precise, fiind un model excelent pentru utilizarea de zi cu zi. Utilizatorii Perplexity Pro pot face din Sonar modelul lor implicit în setări. Acesta poate fi utilizat și prin intermediul ofertei API Sonar*.

†Aceste evaluări sunt notate pe o scară de la 0 la 100, unde o valoare mai mare este mai bună

*Modelul Sonar servit prin intermediul API-ului nu rulează încă pe infrastructura de inferență Cerebras, dar va fi lansat în curând

Utilizatorii Perplexity preferă Sonar

Viteza uluitor de mare permite răspunsuri instantanee

Sonar excelează în furnizarea de răspunsuri factuale și de înaltă calitate

Cum răspunde Sonar la întrebări

Folosiți Sonar astăzi

Note de subsol