Зустрічайте новий Sonar: швидка модель для пошуку Perplexity

Починаючи відсьогодні, усі користувачі Perplexity Pro зможуть випробувати останню версію Sonar — власної моделі Perplexity, оптимізованої для забезпечення якості відповідей та зручності користувачів. Створена на базі Llama 3.3 70B, модель Sonar пройшла додаткове навчання задля підвищення точності та зручності читання відповідей у режимі пошуку Perplexity за замовчуванням.

За результатами комплексного онлайн-тестування A/B ми виявили, що Sonar суттєво перевершує моделі свого класу, як-от GPT-4o mini та Claude 3.5 Haiku, водночас майже не поступаючись передовим моделям, таким як GPT-4o та Claude 3.5 Sonnet, або перевершуючи їх за рівнем задоволеності користувачів. Завдяки інфраструктурі виведення Cerebras, Sonar працює з неймовірною швидкістю — 1200 токенів на секунду, що забезпечує практично миттєву генерацію відповідей.

Ми провели масштабне онлайн-тестування A/B моделі Sonar, щоб виміряти задоволеність користувачів — ключовий показник, який тісно корелює з використанням продукту та утриманням користувачів. Цей показник відображає, наскільки задоволеними та залученими почуваються користувачі, коли ставлять запитання на Perplexity.

Наші оцінки показують, що Sonar зі значним відривом перевершує і GPT-4o mini, і Claude 3.5 Haiku. Ми також порівняли Sonar із дорожчими передовими моделями та з'ясували, що вона перевершує Claude 3.5 Sonnet і майже досягає рівня продуктивності GPT-4o за частку ціни та зі швидкістю, що в понад 10 разів перевищує попередню.

Завдяки інфраструктурі виведення Cerebras, Sonar видає відповіді з неймовірною швидкістю, досягаючи пропускної здатності декодування, яка майже в 10 разів перевищує показники порівнянних моделей, таких як Gemini 2.0 Flash. Це забезпечує майже миттєву генерацію відповідей, що робить Sonar ідеальним варіантом для швидкого пошуку інформації або детальних сценаріїв відповідей на запитання.

Ми оптимізували Sonar за двома критичними параметрами, які тісно корелюють із задоволеністю користувачів: фактичною точністю відповідей та зручністю читання.

Фактична точність відповідей: вимірює здатність моделі відповідати на запитання, використовуючи факти на основі результатів пошуку, а також її здатність вирішувати суперечливу або відсутню інформацію

Зручність читання: вимірює здатність моделі надавати стислу та детальну відповідь із належним використанням форматування markdown для структурування тексту

Наші результати демонструють, що Sonar суттєво покращує ці аспекти порівняно з базовою моделлю Llama 3.3 70B Instruct і навіть перевершує інші передові моделі в цих ключових сферах†.

Крім того, на академічних бенчмарках, які вимірюють дотримання інструкцій користувача та загальні знання про світ, Sonar також перевершує моделі свого класу, як-от GPT-4o mini та Claude 3.5 Haiku.

IFEval: вимірює, наскільки добре модель дотримується інструкцій користувача

MMLU: оцінює загальні знання в різних галузях

Як виглядають підвищена фактична точність і зручність читання на практиці? Порівняйте ці пошукові запити, виконані як за допомогою Sonar, так і за допомогою інших моделей, щоб побачити різницю.

Sonar чудово справляється зі створенням швидких і точних відповідей, що робить її чудовою моделлю для повсякденного використання. Користувачі Perplexity Pro можуть зробити Sonar своєю моделлю за замовчуванням у налаштуваннях. Її також можна використовувати за допомогою пропозиції API Sonar*.

†Ці оцінки виставляються за шкалою від 0 до 100, де вищий бал означає кращий результат

*Модель Sonar, яка надається через API, поки що не працює на інфраструктурі виведення Cerebras, але незабаром буде доступна

Користувачі Perplexity надають перевагу Sonar

Неймовірна швидкість забезпечує миттєві відповіді

Sonar чудово створює фактичні та високоякісні відповіді

Як Sonar відповідає на запитання

Користуйтеся Sonar вже сьогодні

Примітки