Coñece o novo Sonar: un modelo ultrarrápido para Perplexity

Desde hoxe, todos os usuarios de Perplexity Pro poderán probar a última versión de Sonar, o modelo interno de Perplexity optimizado para ofrecer respostas de gran calidade e unha excelente experiencia de usuario. Desenvolvido sobre Llama 3.3 70B, Sonar foi adestrado aínda máis para mellorar a veracidade das respostas e a lexibilidade para o modo de busca predeterminado de Perplexity.

A través de probas A/B en liña exhaustivas, comprobamos que Sonar supera significativamente aos modelos da súa categoría, como GPT-4o mini e Claude 3.5 Haiku, á vez que iguala ou supera o rendemento de modelos de vangarda como GPT-4o e Claude 3.5 Sonnet en canto á satisfacción do usuario. Impulsado pola infraestrutura de inferencia de Cerebras, Sonar funciona a unha velocidade vertixinosa de 1200 tokens por segundo, o que permite xerar respostas case ao instante.

Realizamos extensas probas A/B en liña de Sonar para medir a satisfacción do usuario, unha métrica clave que está fortemente relacionada co uso do produto e a retención. Esta métrica recolle o satisfeitos e comprometidos que están os usuarios ao facer preguntas en Perplexity.

As nosas avaliacións mostran que Sonar supera por unha marxe substancial tanto a GPT-4o mini como a Claude 3.5 Haiku. Tamén comparamos Sonar con modelos de vangarda máis caros e descubrimos que supera a Claude 3.5 Sonnet, á vez que se achega moito ao rendemento de GPT-4o a unha fracción do prezo e con máis de 10 veces a velocidade.

Impulsado pola infraestrutura de inferencia de Cerebras, Sonar ofrece respostas a velocidades vertixinosas, acadando un rendemento de descodificación case 10 veces máis rápido que modelos comparables como Gemini 2.0 Flash. Isto permite unha xeración de respostas case instantánea, o que fai que Sonar sexa ideal para casos de uso de recuperación rápida de información ou respostas detalladas a preguntas.

Optimizamos Sonar en dúas dimensións críticas que están fortemente relacionadas coa satisfacción do usuario: a veracidade das respostas e a lexibilidade.

Veracidade das respostas: Mide a capacidade dun modelo para responder preguntas utilizando feitos fundamentados nos resultados de busca, así como a súa capacidade para resolver información contraditoria ou ausente

Lexibilidade: Mide a capacidade dun modelo para ofrecer unha resposta concisa e detallada utilizando correctamente o formato Markdown para organizar o texto

Os nosos resultados demostran que Sonar mellora significativamente estes aspectos en comparación co modelo base, Llama 3.3 70B Instruct, e incluso supera a outros modelos de vangarda nestas áreas clave†.

Ademais, Sonar tamén supera a modelos da súa clase como GPT-4o mini e Claude 3.5 Haiku en benchmarks académicos que miden o seguimento de instrucións dos usuarios e o coñecemento global.

IFEval: Mide o ben que un modelo cumpre coas instrucións proporcionadas polo usuario

MMLU: Avalía o coñecemento global en diversos dominios

Como son na práctica unha maior veracidade e lexibilidade? Compara estas buscas, realizadas tanto en Sonar como noutros modelos, para ver a diferenza.

Sonar destaca por ofrecer respostas rápidas e precisas, o que o converte nun gran modelo para o uso diario. Os usuarios de Perplexity Pro poden configurar Sonar como o seu modelo predeterminado na súa configuración. Tamén se pode utilizar a través da oferta da API de Sonar*.

†Estas avaliacións cualifícanse nunha escala do 0 ao 100, onde un valor máis alto é mellor

*O modelo Sonar ofrecido a través da API aínda non se executa na infraestrutura de inferencia de Cerebras, pero estará dispoñible en breve

Os usuarios de Perplexity prefiren Sonar

A velocidade vertixinosa permite respostas instantáneas

Sonar destaca por ofrecer respostas baseadas en feitos e de alta calidade

Como responde Sonar ás preguntas

Usa Sonar hoxe

Notas ao pé