API Pencarian: Ekstraksi Lebih Baik, Benchmark Dinamis

Pada bulan September, kami memublikasikan tinjauan teknis arsitektur API Pencarian Perplexity dan merilis search_evals, kerangka kerja evaluasi sumber terbuka kami untuk melakukan benchmark API pencarian dalam alur kerja agen. Sejak saat itu, investasi paling signifikan adalah pada kualitas cuplikan, yang dioptimalkan dalam dua dimensi: relevansi dan ukuran. Mengembalikan konten yang tepat dalam jumlah yang tepat secara langsung menentukan akurasi jawaban hilir dan efisiensi token. Pekerjaan untuk mencapai hal tersebut melibatkan pembuatan sistem baru untuk ekstraksi, pelabelan tingkat rentang, dan evaluasi, yang paling penting adalah alur pelabelan rentang yang mengidentifikasi segmen dokumen sumber mana yang responsif terhadap kueri tertentu.

Untuk meningkatkan cuplikan secara sistematis, kami merancang sistem evaluasi baru. Untuk kueri dan dokumen tertentu, sistem mengidentifikasi dan memberi label rentang dalam dokumen berdasarkan hubungannya dengan kueri: rentang "penting" yang harus disertakan dalam cuplikan, berbagai kelas rentang "tidak relevan" yang harus dikecualikan, duplikat, dan kategori lainnya. Pelabelan tingkat rentang ini memungkinkan kami mengevaluasi kualitas cuplikan dengan tingkat presisi yang sebelumnya tidak dimungkinkan, mengukur apa yang disertakan secara benar dan apa yang dihilangkan secara benar.

Dalam praktiknya, peningkatan ini memungkinkan kami menghasilkan cuplikan yang lebih kecil yang lebih relevan dengan kueri. Alur pemahaman konten yang dapat ditingkatkan sendiri oleh kami kini menangani rentang format data terstruktur yang lebih luas, termasuk tabel, daftar bersarang, dan konten yang dirender secara dinamis yang gagal diurai dengan andal oleh kumpulan aturan sebelumnya.

Peningkatan ini muncul dari sistem produksi kami sendiri. Saat riset internal kami mendorong relevansi dan ukuran cuplikan ke depan, evaluasi internal mengungkapkan bahwa anggaran konten yang lebih kecil justru menghasilkan akurasi hasil yang lebih baik setelah serangkaian peningkatan kualitas. Kami membuat beberapa modifikasi pada konfigurasi default kami untuk mencerminkan temuan kami, mengurangi ukuran payload respons dan latensi sambil memberikan konten yang lebih berguna per hasil. Bagi para pengembang, cuplikan yang lebih kecil dan lebih relevan diterjemahkan langsung ke biaya token yang lebih rendah dan manajemen konteks yang lebih baik untuk LLM hilir.

Benchmark SEAL menguji apakah sistem temu kembali dapat menjawab pertanyaan yang respons benarnya berubah dari waktu ke waktu. Menjawab dengan andal memerlukan kesegaran indeks waktu nyata, ekstraksi cuplikan yang lebih cerdas dari berbagai sumber data yang terus diperbarui, dan penguraian yang dapat mengidentifikasi nilai saat ini alih-alih nilai historis.

Ketika kami menjalankan search_evals terhadap rilis SEAL 22 Februari menggunakan Claude Sonnet 4.5, skor Perplexity meningkat sementara penyedia lain mengalami penurunan pada SEAL-Hard:

Kami telah memperluas kerangka kerja search_evals kami untuk menyertakan SEAL di samping benchmark yang dilaporkan dalam postingan bulan September kami. Hasil dan metodologi yang diperbarui tersedia di repositori yang diperbarui di GitHub.

API sekarang mendukung hingga 5 kueri dalam satu permintaan. Hasil dikembalikan secara berkelompok per kueri dalam urutan yang sama saat dikirimkan. Ini mengurangi perjalanan bolak-balik untuk aplikasi yang perlu mengeluarkan pencarian terkait secara paralel, seperti agen yang menguraikan pertanyaan kompleks menjadi beberapa sub-tugas temu kembali.

Selain penyaringan domain (daftar izinkan dan daftar blokir, hingga 20 domain) dan penyaringan kebaruan, API sekarang mendukung penyaringan bahasa berdasarkan kode ISO 639-1 dan pencarian regional berdasarkan kode negara ISO. Ini dapat digabungkan untuk mencakup hasil secara tepat, misalnya membatasi ke hasil berbahasa Inggris dari domain Jerman.

SDK Python (pip install perplexityai) sekarang menyediakan dukungan asli untuk API Pencarian di samping API Agen dan API Sonar.

Dokumentasi lengkap ada di docs.perplexity.ai

Mengevaluasi cuplikan pada tingkat rentang

SEAL: melakukan benchmark temu kembali yang sensitif terhadap waktu

Dukungan multi-kueri

Penyaringan yang diperluas

SDK dan ketersediaan