Conheça o novo Sonar: um modelo veloz para o Perplexity

A partir de hoje, todos os usuários do Perplexity Pro poderão experimentar a versão mais recente do Sonar, o modelo interno do Perplexity otimizado para a qualidade das respostas e a experiência do usuário. Desenvolvido com base no Llama 3.3 70B, o Sonar foi treinado para aprimorar a veracidade e a legibilidade das respostas no modo de pesquisa padrão do Perplexity.

Por meio de testes A/B online abrangentes, constatamos que o Sonar supera significativamente os modelos de sua classe, como o GPT-4o mini e o Claude 3.5 Haiku, enquanto iguala ou supera, de forma consistente, o desempenho de modelos de fronteira, como o GPT-4o e o Claude 3.5 Sonnet, em termos de satisfação do usuário. Impulsionado pela infraestrutura de inferência da Cerebras, o Sonar opera a uma velocidade impressionante de 1200 tokens por segundo, permitindo a geração de respostas quase instantâneas.

Realizamos extensos testes A/B online do Sonar para medir a satisfação do usuário — uma métrica fundamental que está fortemente correlacionada com o uso e a retenção do produto. Esta métrica captura o quão satisfeitos e engajados os usuários estão ao fazer perguntas no Perplexity.

Nossas avaliações mostram que o Sonar supera tanto o GPT-4o mini quanto o Claude 3.5 Haiku por uma margem substancial. Também comparamos o Sonar com modelos de fronteira mais caros e descobrimos que ele supera o Claude 3.5 Sonnet, aproximando-se do desempenho do GPT-4o a uma fração do preço e com mais de 10 vezes a velocidade.

Impulsionado pela infraestrutura de inferência da Cerebras, o Sonar entrega respostas a velocidades extremamente rápidas, alcançando um throughput de decodificação quase 10 vezes mais rápido que modelos comparáveis, como o Gemini 2.0 Flash. Isso permite a geração de respostas quase instantâneas, tornando o Sonar ideal para recuperação rápida de informações ou casos de uso que exigem respostas detalhadas a perguntas.

Otimizamos o Sonar em duas dimensões críticas que estão fortemente correlacionadas com a satisfação do usuário: veracidade e legibilidade das respostas.

Veracidade das respostas: mede a capacidade de um modelo de responder a perguntas usando fatos fundamentados em resultados de pesquisa, bem como sua capacidade de resolver informações conflitantes ou ausentes.

Legibilidade: mede a capacidade de um modelo de fornecer uma resposta concisa e detalhada, com o uso apropriado de formatação markdown para organizar o texto.

Nossos resultados demonstram que o Sonar melhora significativamente esses aspectos em comparação com o modelo base, Llama 3.3 70B Instruct, e até supera outros modelos de fronteira nessas áreas fundamentais†.

Além disso, o Sonar também supera modelos da mesma categoria, como o GPT-4o mini e o Claude 3.5 Haiku, em benchmarks acadêmicos que medem o cumprimento de instruções do usuário e o conhecimento geral.

IFEval: mede o quão bem um modelo adere às instruções fornecidas pelo usuário.

MMLU: avalia o conhecimento geral em diversos domínios.

Como se traduzem na prática o aumento da veracidade e da legibilidade? Compare estas pesquisas, realizadas tanto no Sonar quanto em outros modelos, para ver a diferença.

O Sonar se destaca ao fornecer respostas rápidas e precisas, tornando-o um ótimo modelo para o uso diário. Os usuários do Perplexity Pro podem definir o Sonar como seu modelo padrão nas configurações. Ele também pode ser usado por meio da oferta de API do Sonar*.

†Estas avaliações são classificadas em uma escala de 0 a 100, onde valores maiores indicam melhor desempenho.

*O modelo Sonar disponibilizado via API ainda não utiliza a infraestrutura de inferência da Cerebras, mas isso será implementado em breve.

Os usuários do Perplexity preferem o Sonar

Velocidade impressionante que permite respostas instantâneas

O Sonar se destaca no fornecimento de respostas factuais e de alta qualidade

Como o Sonar responde a perguntas

Use o Sonar hoje mesmo

Notas de rodapé