Запознайте се с новия Sonar: Изключително бърз модел

С днешния ден всички потребители на Perplexity Pro ще могат да изпробват най-новата версия на Sonar – собствения модел на Perplexity, оптимизиран за качество на отговорите и потребителско изживяване. Създаден на базата на Llama 3.3 70B, Sonar е допълнително обучен за повишаване на достоверността и четимостта на отговорите в режим на търсене по подразбиране на Perplexity.

Чрез мащабно онлайн A/B тестване установихме, че Sonar значително превъзхожда моделите в своя клас като GPT-4o mini и Claude 3.5 Haiku, като същевременно е близък до или надминава по удовлетвореност на потребителите водещи модели като GPT-4o и Claude 3.5 Sonnet. Задвижван от инфраструктурата за инференс на Cerebras, Sonar работи с главоломна скорост от 1200 токена в секунда, което позволява почти мигновено генериране на отговори.

Проведохме мащабно онлайн A/B тестване на Sonar, за да измерим удовлетвореността на потребителите – ключов метричен показател, който е силно обвързан с използването на продукта и запазването на потребителите. Този показател отчита доколко потребителите са доволни и ангажирани, когато задават въпроси в Perplexity.

Нашите оценки показват, че Sonar превъзхожда значително както GPT-4o mini, така и Claude 3.5 Haiku. Сравнихме Sonar и с по-скъпи водещи модели и установихме, че той надминава Claude 3.5 Sonnet, като същевременно се доближава много до производителността на GPT-4o на малка част от цената и с над 10 пъти по-висока скорост.

Задвижван от инфраструктурата за инференс на Cerebras, Sonar доставя отговори с невероятна скорост, постигайки пропускателна способност при декодиране, която е почти 10 пъти по-бърза от тази на съвместими модели като Gemini 2.0 Flash. Това позволява почти мигновено генериране на отговори, което прави Sonar идеален за бързо извличане на информация или за случаи на употреба с подробно отговаряне на въпроси.

Оптимизирахме Sonar в две критични измерения, които са силно свързани с удовлетвореността на потребителите – достоверност на отговорите и четимост.

Достоверност на отговорите: Измерва колко добре даден модел може да отговаря на въпроси, като използва факти, базирани на резултатите от търсенето, както и способността му да разрешава противоречива или липсваща информация

Четимост: Измерва способността на модела да предоставя кратки и подробни отговори с подходящо използване на маркери за форматиране (markdown) за организиране на текста

Нашите резултати показват, че Sonar значително подобрява тези аспекти в сравнение с базовия модел Llama 3.3 70B Instruct и дори надминава други водещи модели в тези ключови области†.

Освен това Sonar превъзхожда моделите в своя клас като GPT-4o mini и Claude 3.5 Haiku по академични показатели, измерващи следването на потребителски инструкции и общите познания за света.

IFEval: Измерва доколко моделът спадва предоставените от потребителя инструкции

MMLU: Оценява познанията за света в различни области

Как изглеждат по-голямата достоверност и четимост на практика? Сравнете тези търсения, извършени както със Sonar, така и с други модели, за да видите разликата.

Sonar се отличава с предоставянето на бързи и точни отговори, което го прави страхотен модел за ежедневна употреба. Потребителите на Perplexity Pro могат да направят Sonar своя модел по подразбиране в своите настройки. Той може да се използва и чрез предлаганото Sonar API*.

†Тези оценки са класирани по скала от 0 до 100, като по-високата стойност е по-добра

*Моделът Sonar, предоставян през API, все още не работи върху инфраструктурата за инференс на Cerebras, но предстои да бъде пуснат скоро

Потребителите на Perplexity предпочитат Sonar

Невероятно високата скорост позволява незабавни отговори

Sonar се отличава с предоставянето на фактически точни и висококачествени отговори

Как Sonar отговаря на въпроси

Използвайте Sonar днес

Бележки под линия