הכירו את Sonar החדש: מודל מהיר במיוחד המותאם לחיפוש Perplexity

מודל מהיר במיוחד המותאם לחיפוש Perplexity

החל מהיום, כל משתמשי Perplexity Pro יוכלו לנסות את הגרסה החדשה ביותר של Sonar, המודל הפנימי של Perplexity המותאם לאיכות תשובות ולחוויית משתמש. בנוי על גבי Llama 3.3 70B, Sonar עבר אימון נוסף כדי לשפר את הדיוק העובדתי ואת הקריאות עבור מצב החיפוש ברירת המחדל של Perplexity.

באמצעות בדיקות A/B מקוונות מקיפות, מצאנו ש-Sonar עולה באופן משמעותי על מודלים בקטגוריה שלו, כמו GPT-4o mini ו-Claude 3.5 Haiku, תוך התאמה הדוקה או מעבר של ביצועי מודלים חלוציים כמו GPT-4o ו-Claude 3.5 Sonnet בשביעות רצון המשתמשים. מופעל על ידי תשתית ההסקה של Cerebras, Sonar פועל במהירות מסחררת של 1200 טוקנים בשנייה – מה שמאפשר הפקת תשובות כמעט מיידית.

משתמשי Perplexity מעדיפים את Sonar

ערכנו בדיקות A/B מקוונות נרחבות של Sonar כדי למדוד את שביעות רצון המשתמשים – מדד מפתח שקשור בקדימות חזקה לשימוש במוצר ולשימור. מדד זה מراجع עד כמה המשתמשים מרוצים ומעורבים בעת שאילת שאלות ב-Perplexity.

ההערכות שלנו מראות ש-Sonar עולה על GPT-4o mini ועל Claude 3.5 Haiku بفارق ניכר. השוсіנו גם את Sonar מול מודלים חלוציים יקרים יותר ומצאנו שהוא עולה על Claude 3.5 Sonnet, תוך התקרבות משמעותית לביצועים של GPT-4o בשבריר מהמחיר ופי 10 מהמהירות.

מהירות מסחררת מאפשרת תשובות מיידיות

מופעל על ידי תשתית ההסקה של Cerebras, Sonar מספק תשובות במהירויות מסחררות ומשיג קצב פענוח המהיר פי 10 כמעט ממודלים דומים כמו Gemini 2.0 Flash. הדבר מאפשר יצירת תשובות כמעט מיידית, מה שהופך את Sonar לאידיאלי עבור אחזור מידע מהיר או תרחישי שימוש של מענה מפורט על שאלות.

Sonar מצטיין במתן תשובות עובדתיות ובאיכות גבוהה

אופטימיזציה עשינו ל-Sonar בשל שני ממדים קריטיים הקשורים בקשר הדוק לשביעות רצון המשתמשים – דיוק עובדתי של התשובה וקריאות.

דיוק עובדתי של התשובות: מודד באיזו טוב מודל יכול לענות על שאלות באמצעות עובדות המעוגנות בתוצאות חיפוש, ואת יכולתו לפתור מידע סותר או חסר

קריאות: מודד את יכולתו של מודל לספק תשובה תמציתית ומפורטת עם שימוש מתאים בעיצוב markdown לארגון הטקסט

התוצאות שלנו מראות ש-Sonar משפר משמעותית היבטים אלו בהשוואה למודל הבסיס, Llama 3.3 70B Instruct, ואפילו עולה על מודלים חלוציים אחרים בתחומים מרכזיים אלו†.

בנוסף, Sonar מתעלה גם על מודלים בקטגוריה כמו GPT-4o mini ו-Claude 3.5 Haiku בבנצ'מרקים אקדמיים המודדים מעקב אחר הנחיות משתמש וידע עולמי.

IFEval: מודד עד כמה מודל צמוד להנחיות שניתנו על ידי המשתמש

MMLU: מעריך ידע עולמי על פני תחומים שונים

כיצד Sonar עונה על שאלות

כיצד נראים דיוק עובדתי וקריאות מוגברים הלכה למעשה? השווה חיפושים אלו, אשר בוצעו גם ב-Sonar וגם במודלים אחרים כדי לראות את ההבדל.

השתמש ב-Sonar היום

Sonar מצטיין באספקת תשובות מהירות ומדויקות, מה שהופך אותו למודל מעולה לשימוש יומיומי. משתמשי Perplexity Pro יכולים להפוך את Sonar למודל ברירת המחדל שלהם ב-הגדרות. ניתן להשתמש בו גם באמצעות הצעת ה-API של Sonar*.

הערות שוליים

†הערכות אלו מקבלות ציון בסולם מ-0 עד 100, כאשר ציון גבוה יותר הוא טוב יותר

*מודל ה-Sonar המוגש דרך ה-API אינו פועל עדיין על תשתית ההסקה של Cerebras, אך הוא צפוי לצאת בקרוב