Conozca el nuevo Sonar: un modelo rápido para Perplexity

A partir de hoy, todos los usuarios de Perplexity Pro podrán probar la versión más reciente de Sonar, el modelo interno de Perplexity optimizado para la calidad de las respuestas y la experiencia del usuario. Construido sobre Llama 3.3 70B, Sonar ha sido entrenado adicionalmente para mejorar la veracidad y legibilidad de las respuestas en el modo de búsqueda predeterminado de Perplexity.

Mediante pruebas A/B en línea integrales, hemos descubierto que Sonar supera significativamente a los modelos de su clase, como GPT-4o mini y Claude 3.5 Haiku, mientras iguala o supera de cerca el rendimiento de modelos de vanguardia como GPT-4o y Claude 3.5 Sonnet en cuanto a la satisfacción del usuario. Impulsado por la infraestructura de inferencia de Cerebras, Sonar funciona a una velocidad vertiginosa de 1200 tokens por segundo, lo que permite una generación de respuestas casi instantánea.

Realizamos pruebas A/B en línea exhaustivas de Sonar para medir la satisfacción del usuario, una métrica clave que está fuertemente correlacionada con el uso y la retención del producto. Esta métrica captura qué tan satisfechos y comprometidos están los usuarios al hacer preguntas en Perplexity.

Nuestras evaluaciones muestran que Sonar supera a GPT-4o mini y Claude 3.5 Haiku por un margen sustancial. También comparamos a Sonar con modelos de vanguardia más costosos y descubrimos que supera a Claude 3.5 Sonnet, mientras se acerca de cerca al rendimiento de GPT-4o a una fracción del precio y con más de 10 veces la velocidad.

Impulsado por la infraestructura de inferencia de Cerebras, Sonar ofrece respuestas a velocidades vertiginosas, logrando un rendimiento de decodificación que es casi 10 veces más rápido que modelos comparables como Gemini 2.0 Flash. Esto permite una generación de respuestas casi instantánea, lo que hace que Sonar sea ideal para casos de uso de recuperación rápida de información o respuesta detallada a preguntas.

Optimizamos Sonar en dos dimensiones críticas que se correlacionan fuertemente con la satisfacción del usuario: la veracidad y la legibilidad de las respuestas.

Veracidad de las respuestas: mide qué tan bien puede un modelo responder preguntas utilizando hechos fundamentados en los resultados de búsqueda, y su capacidad para resolver información contradictoria o faltante

Legibilidad: mide la capacidad de un modelo para proporcionar una respuesta concisa y detallada con el uso adecuado de formato markdown para organizar el texto

Nuestros resultados demuestran que Sonar mejora significativamente estos aspectos en comparación con el modelo base, Llama 3.3 70B Instruct, e incluso supera a otros modelos de vanguardia en estas áreas clave†.

Además, Sonar también supera a modelos de su clase como GPT-4o mini y Claude 3.5 Haiku en puntos de referencia académicos que miden el seguimiento de instrucciones del usuario y el conocimiento general.

IFEval: mide qué tan bien se adhiere un modelo a las instrucciones proporcionadas por el usuario

MMLU: evalúa el conocimiento general en diversos dominios

¿Cómo se ven en la práctica una mayor veracidad y legibilidad? Compare estas búsquedas, realizadas tanto en Sonar como en otros modelos, para ver la diferencia.

Sonar destaca por proporcionar respuestas rápidas y precisas, lo que lo convierte en un excelente modelo para el uso diario. Los usuarios de Perplexity Pro pueden convertir a Sonar en su modelo predeterminado en su configuración. También se puede utilizar a través de la oferta de API de Sonar*.

†Estas evaluaciones se califican en una escala de 0 a 100, donde un valor más alto es mejor

*El modelo Sonar ofrecido a través de la API aún no funciona en la infraestructura de inferencia de Cerebras, pero estará disponible en breve

Los usuarios de Perplexity prefieren Sonar

La velocidad vertiginosa permite respuestas instantáneas

Sonar destaca por proporcionar respuestas veraces y de alta calidad

Cómo responde Sonar a las preguntas

Use Sonar hoy

Notas al pie