Жаңа Sonar моделімен танысыңыз: Perplexity іздеу жүйесі үшін оңтайландырылған жылдам модель

Бүгіннен бастап барлық Perplexity Pro пайдаланушылары жауап сапасы мен пайдаланушы тәжірибесі үшін оңтайландырылған Perplexity компаниясының меншікті моделі Sonar-дың соңғы нұсқасын сынай алады. Llama 3.3 70B негізінде жасалған Sonar Perplexity жүйесінің әдепкі іздеу режимі үшін жауаптардың нақтылығы мен оқылуын жақсарту мақсатында қосымша оқытылды.

Кешенді онлайн A/B тестілеу нәтижесінде біз Sonar моделінің GPT-4o mini және Claude 3.5 Haiku сияқты өз санатындағы модельдерден әлдеқайда асып түсетінін, сонымен бірге пайдаланушының қанағаттануы бойынша GPT-4o және Claude 3.5 Sonnet сияқты озық модельдердің көрсеткіштеріне жақындайтынын немесе олардан асатынын анықтадық. Cerebras инференциялық инфрақұрылымымен жұмыс істейтін Sonar секундына 1200 токен жылдамдықпен жұмыс істеп, жауаптарды дерлік бірден жасауға мүмкіндік береді.

Біз өнімді пайдалану және сақтап қалу көрсеткіштерімен тығыз байланысты маңызды метрика — пайдаланушының қанағаттануын өлшеу үшін Sonar моделіне ауқымды онлайн A/B тестілеуін өткіздік. Бұл метрика пайдаланушылардың Perplexity жүйесінде сұрақ қою кезінде қаншалықты қанағаттанғанын және белсенді болғанын көрсетеді.

Біздің бағалауларымыз Sonar моделінің GPT-4o mini пен Claude 3.5 Haiku модельдерінен айтарлықтай озып түсетінін көрсетті. Сондай-ақ біз Sonar моделін қымбатырақ озық модельдермен салыстырып, оның Claude 3.5 Sonnet моделінен басым түсетінін, ал GPT-4o көрсеткіштеріне әлдеқайда төмен бағамен және 10 еседен астам жылдамдықпен жақындайтынын анықтадық.

Cerebras инференциялық инфрақұрылымы арқылы жұмыс істейтін Sonar жауаптарды өте жоғары жылдамдықпен ұсынады, ал оның декодтау өнімділігі Gemini 2.0 Flash сияқты ұқсас модельдерден шамамен 10 есе жылдам. Бұл жауаптарды дерлік бірден жасауға мүмкіндік береді, соның арқасында Sonar ақпаратты тез іздеу немесе егжей-тегжейлі сұрақтарға жауап беру жағдайлары үшін өте қолайлы.

Біз Sonar моделін пайдаланушының қанағаттануымен тығыз байланысты екі маңызды өлшем — жауаптардың нақтылығы мен оқылуы бойынша оңтайландырдық.

Жауап нақтылығы: Модельдің іздеу нәтижелеріне негізделген фактілерді пайдалана отырып сұрақтарға қаншалықты жауап бере алатынын және қайшы немесе жоқ ақпаратты шешу қабілетін өлшейді

Оқылуы: Мәтінді ұйымдастыру үшін markdown пішімін тиісті түрде пайдалана отырып, модельдің қысқа әрі егжей-тегжейлі жауап беру қабілетін өлшейді

Нәтижелеріміз Sonar моделінің негізгі модель (Llama 3.3 70B Instruct) пен салыстырғанда осы аспектілерді едәуір жақсартатынын және осы маңызды салаларда басқа озық модельдерден де асып түсетінін көрсетеді†.

Сонымен қатар Sonar пайдаланушы нұсқауларын орындауды және әлемдік білімді өлшейтін академиялық көрсеткіштер бойынша GPT-4o mini және Claude 3.5 Haiku сияқты сыныптағы модельдерден де асып түседі.

IFEval: Модельдің пайдаланушы берген нұсқауларды қаншалықты сақтайтынын өлшейді

MMLU: Әр түрлі салалар бойынша әлемдік білімді бағалайды

Анықтық пен оқылудың жақсаруы тәжірибеде қалай көрінеді? Айырмашыліғын көру үшін Sonar және басқа модельдерде жүргізілген осы іздеу нәтижелерін салыстырыңыз.

Sonar жылдам әрі дәл жауаптар беруде ерекшеленеді, бұл оны күнделікті қолдану үшін тамаша модель етеді. Perplexity Pro пайдаланушылары Sonar моделін параметрлерінен әдепкі модель етіп орната алады. Сондай-ақ оны Sonar API ұсынысы* арқылы пайдалануға болады.

†Бұл бағалаулар 0-ден 100-ге дейінгі шкала бойынша қойылады, мұнда жоғары көрсеткіш жақсырақ екенін білдіреді

*API арқылы ұсынылатын Sonar моделі әзірге Cerebras инференциялық инфрақұрылымында жұмыс істемейді, бірақ жақын арада қосылады

Perplexity пайдаланушылары Sonar моделін жөн көреді

Жылдамдықтың арқасында лезде жауап алуға болады

Sonar нақты әрі сапалы жауаптар беруде ерекше нәтиже көрсетеді

Sonar сұрақтарға қалай жауап береді

Sonar моделін бүгіннен бастап пайдаланыңыз

Түсініктемелер