API Tìm kiếm: Trích xuất tốt hơn, Điểm chuẩn động

Vào tháng Chín, chúng tôi đã công bố bản tổng quan kỹ thuật về kiến trúc API Tìm kiếm của Perplexity và phát hành search_evals, framework đánh giá mã nguồn mở của chúng tôi để đo điểm chuẩn API tìm kiếm trong các quy trình làm việc tác nhân. Kể từ đó, khoản đầu tư đáng kể nhất tập trung vào chất lượng đoạn trích, được tối ưu hóa theo hai chiều: tính liên quan và kích thước. Việc trả về đúng nội dung với lượng vừa đủ quyết định trực tiếp đến độ chính xác của câu trả lời ở hạ nguồn và hiệu quả token. Công việc để đạt được điều đó bao gồm việc xây dựng các hệ thống mới để trích xuất, gán nhãn ở mức khoảng (span), và đánh giá, nổi bật nhất là pipeline gán nhãn khoảng xác định đoạn nào của tài liệu nguồn đáp ứng cho một truy vấn cụ thể.

Để cải thiện các đoạn trích một cách có hệ thống, chúng tôi đã thiết kế một hệ thống đánh giá mới. Đối với một truy vấn và tài liệu cụ thể, hệ thống sẽ xác định và gán nhãn các khoảng trong tài liệu theo mối quan hệ của chúng với truy vấn: các khoảng "quan trọng" phải được bao gồm trong đoạn trích, các loại khoảng "không liên quan" khác nhau nên bị loại trừ, các bản sao, và các danh mục khác. Việc gán nhãn ở mức khoảng này cho phép chúng tôi đánh giá chất lượng đoạn trích với độ chính xác chưa từng có trước đây, đo lường cả những gì được bao gồm chính xác và những gì được bỏ qua chính xác.

Trong thực tế, những cải tiến này cho phép chúng tôi tạo ra các đoạn trích nhỏ hơn, có tính liên quan cao hơn với truy vấn. Pipeline hiểu nội dung tự cải thiện của chúng tôi hiện xử lý được nhiều định dạng dữ liệu có cấu trúc hơn, bao gồm các bảng, danh sách lồng nhau và nội dung được kết xuất động mà các bộ quy tắc trước đây không thể phân tích cú pháp một cách đáng tin cậy.

Những cải tiến này xuất phát từ các hệ thống sản xuất của chính chúng tôi. Khi nghiên cứu nội bộ thúc đẩy độ liên quan và kích thước đoạn trích tiến lên, các đánh giá nội bộ cho thấy các ngân sách nội dung nhỏ hơn thực sự mang lại kết quả chính xác hơn sau một chuỗi cải tiến chất lượng. Chúng tôi đã thực hiện một số sửa đổi đối với các cấu hình mặc định để phản ánh các phát hiện của mình, giảm kích thước tải trọng phản hồi và độ trễ đồng thời cung cấp nhiều nội dung hữu ích hơn cho mỗi kết quả. Đối với các nhà phát triển, các đoạn trích nhỏ hơn, có liên quan hơn sẽ chuyển đổi trực tiếp thành chi phí token thấp hơn và quản lý ngữ cảnh tốt hơn cho các LLM ở hạ nguồn.

Điểm chuẩn SEAL kiểm tra xem hệ thống truy xuất có thể trả lời các câu hỏi có phản hồi chính xác thay đổi theo thời gian hay không. Để trả lời một cách đáng tin cậy đòi hỏi sự tươi mới của chỉ mục theo thời gian thực, việc trích xuất đoạn trích thông minh hơn từ các nguồn dữ liệu được cập nhật liên tục khác nhau, và việc phân tích cú pháp có thể xác định giá trị hiện tại thay vì giá trị lịch sử.

Khi chúng tôi chạy search_evals đối với bản phát hành SEAL ngày 22 tháng 2 sử dụng Claude Sonnet 4.5, điểm số của Perplexity đã tăng lên trong khi các nhà cung cấp khác giảm trên SEAL-Hard:

Chúng tôi đã mở rộng framework search_evals của mình để bao gồm SEAL bên cạnh các điểm chuẩn được báo cáo trong bài đăng tháng Chín của chúng tôi. Kết quả và phương pháp luận cập nhật có sẵn trong kho lưu trữ đã cập nhật trên GitHub.

API hiện hỗ trợ tối đa 5 truy vấn trong một yêu cầu duy nhất. Kết quả được trả về được nhóm theo từng truy vấn theo đúng thứ tự chúng được gửi. Điều này làm giảm số lượng vòng lặp mạng cho các ứng dụng cần thực hiện các tìm kiếm liên quan song song, chẳng hạn như các tác nhân phân tách một câu hỏi phức tạp thành nhiều tác vụ phụ truy xuất.

Ngoài việc lọc tên miền (danh sách cho phép và danh sách chặn, tối đa 20 tên miền) và lọc độ gần đây, API hiện hỗ trợ lọc ngôn ngữ theo mã ISO 639-1 và tìm kiếm theo khu vực theo mã quốc gia ISO. Những tính năng này có thể được kết hợp để giới hạn kết quả một cách chính xác, ví dụ như giới hạn ở các kết quả bằng tiếng Anh từ các tên miền của Đức.

Python SDK (pip install perplexityai) giờ đây cung cấp hỗ trợ gốc cho API Tìm kiếm bên cạnh API Tác nhân và API Sonar.

Tài liệu đầy đủ có tại docs.perplexity.ai

Đánh giá các đoạn trích ở mức khoảng

SEAL: đo điểm chuẩn truy xuất nhạy cảm với thời gian

Hỗ trợ đa truy vấn

Lọc mở rộng

SDK và tính khả dụng