Gặp gỡ Sonar Mới: Mô hình siêu tốc tối ưu cho Tìm kiếm Perplexity

Bắt đầu từ hôm nay, tất cả người dùng Perplexity Pro sẽ có thể dùng thử phiên bản mới nhất của Sonar, mô hình cây nhà lá vườn của Perplexity được tối ưu hóa cho chất lượng câu trả lời và trải nghiệm người dùng. Được xây dựng trên nền tảng Llama 3.3 70B, Sonar đã được huấn luyện thêm để nâng cao tính xác thực và khả năng đọc hiểu của câu trả lời cho chế độ tìm kiếm mặc định của Perplexity.

Thông qua quá trình kiểm tra A/B trực tuyến toàn diện, chúng tôi nhận thấy Sonar vượt trội hơn hẳn so với các mô hình cùng phân khúc, như GPT-4o mini và Claude 3.5 Haiku, đồng thời đạt được hoặc vượt qua hiệu suất của các mô hình tiên tiến như GPT-4o và Claude 3.5 Sonnet về độ hài lòng của người dùng. Được hỗ trợ bởi cơ sở hạ tầng suy luận Cerebras, Sonar chạy với tốc độ cực nhanh 1200 token mỗi giây — cho phép tạo câu trả lời gần như tức thì.

Chúng tôi đã tiến hành kiểm tra A/B trực tuyến trên diện rộng đối với Sonar để đo lường mức độ hài lòng của người dùng — một chỉ số quan trọng có mối tương quan chặt chẽ với việc sử dụng sản phẩm và tỷ lệ giữ chân người dùng. Chỉ số này nắm bắt mức độ hài lòng và tương tác của người dùng khi đặt câu hỏi trên Perplexity.

Các đánh giá của chúng tôi cho thấy Sonar vượt trội hơn hẳn cả GPT-4o mini và Claude 3.5 Haiku với khoảng cách đáng kể. Chúng tôi cũng so sánh Sonar với các mô hình tiên tiến đắt tiền hơn và nhận thấy nó vượt trội hơn Claude 3.5 Sonnet, đồng thời tiệm cận hiệu suất của GPT-4o với chi phí chỉ bằng một phần nhỏ và tốc độ nhanh hơn gấp 10 lần.

Được hỗ trợ bởi cơ sở hạ tầng suy luận Cerebras, Sonar mang lại câu trả lời với tốc độ cực nhanh, đạt thông lượng giải mã nhanh hơn gần 10 lần so với các mô hình tương đương như Gemini 2.0 Flash. Điều này cho phép tạo câu trả lời gần như tức thì, giúp Sonar trở nên lý tưởng cho các trường hợp sử dụng truy xuất thông tin nhanh hoặc trả lời câu hỏi chi tiết.

Chúng tôi đã tối ưu hóa Sonar trên hai chiều quan trọng có mối tương quan chặt chẽ với mức độ hài lòng của người dùng — tính xác thực và khả năng đọc hiểu của câu trả lời.

Tính xác thực của câu trả lời: Đo lường mức độ một mô hình có thể trả lời các câu hỏi bằng các sự kiện có cơ sở từ kết quả tìm kiếm, và khả năng giải quyết thông tin mâu thuẫn hoặc còn thiếu

Khả năng đọc hiểu: Đo lường khả năng của mô hình trong việc cung cấp câu trả lời ngắn gọn và chi tiết với việc sử dụng định dạng markdown phù hợp để sắp xếp văn bản

Kết quả của chúng tôi chứng minh rằng Sonar cải thiện đáng kể các khía cạnh này so với mô hình cơ sở, Llama 3.3 70B Instruct, và thậm chí vượt qua các mô hình tiên tiến khác trong các lĩnh vực quan trọng này†.

Ngoài ra, Sonar cũng vượt trội hơn các mô hình cùng phân khúc như GPT-4o mini và Claude 3.5 Haiku trên các chuẩn mực học thuật đo lường khả năng tuân theo hướng dẫn của người dùng và kiến thức thế giới.

IFEval: Đo lường mức độ tuân thủ của mô hình đối với các hướng dẫn do người dùng cung cấp

MMLU: Đánh giá kiến thức thế giới trên nhiều lĩnh vực đa dạng

Tính xác thực và khả năng đọc hiểu được gia tăng trông như thế nào trong thực tế? Hãy so sánh các tìm kiếm này, được thực hiện trên cả Sonar và các mô hình khác để thấy sự khác biệt.

Sonar xuất sắc trong việc cung cấp câu trả lời nhanh chóng và chính xác, khiến nó trở thành một mô hình tuyệt vời cho việc sử dụng hàng ngày. Người dùng Perplexity Pro có thể đặt Sonar làm mô hình mặc định trong cài đặt của họ. Nó cũng có thể được sử dụng thông qua gói cung cấp API Sonar*.

†Các đánh giá này được chấm điểm theo thang điểm từ 0 đến 100, trong đó điểm cao hơn là tốt hơn

*Mô hình Sonar được phục vụ qua API hiện chưa chạy trên cơ sở hạ tầng suy luận Cerebras, nhưng sẽ sớm ra mắt

Người dùng Perplexity ưa chuộng Sonar

Tốc độ cực nhanh cho phép trả lời tức thì

Sonar xuất sắc trong việc cung cấp các câu trả lời thực tế và chất lượng cao

Cách Sonar trả lời câu hỏi

Sử dụng Sonar ngay hôm nay

Chú thích