Search API: краще вилучення та динамічні бенчмарки

У вересні ми опублікували технічний огляд архітектури API Perplexity Search і випустили search_evals — наш платформений фреймворк оцінювання з відкритим кодом для бенчмаркінгу пошукових API в агентичних робочих процесах. З того часу найсуттєвіші інвестиції було спрямовано на якість сніпетів, оптимізовану за двома вимірами: релевантність і розмір. Повернення правильного вмісту в потрібній кількості безпосередньо визначає точність відповідей та ефективність використання токенів. Робота над цим передбачала створення нових систем для вилучення, маркування на рівні фрагментів та оцінювання, зокрема конвеєра маркування фрагментів, який визначає, які сегменти вихідного документа відповідають на певний запит.

Щоб систематично покращувати сніпети, ми розробили нову систему оцінювання. Для заданого запиту та документа система визначає і маркує фрагменти всередині документа за їхнім зв'язком із запитом: "життєво важливі" фрагменти, які мають бути включені до сніпета, різні класи "нерелевантних" фрагментів, які слід виключити, дублікати та інші категорії. Таке маркування на рівні фрагментів дозволяє нам оцінювати якість сніпетів із рівнем точності, який раніше був неможливим, вимірюючи як те, що було правильно включено, так і те, що було правильно опущено.

На практиці ці вдосконалення дозволяють нам генерувати менші сніпети, які є більш релевантними до запиту. Наш конвеєр самовдосконалення розуміння вмісту тепер обробляє ширший спектр форматів структурованих даних, зокрема таблиці, вкладені списки та динамічно відрендерений вміст, який попередні набори правил не могли надійно розібрати.

Ці вдосконалення з'явилися з наших власних виробничих систем. Оскільки наші внутрішні дослідження покращували релевантність та розмір сніпетів, внутрішні оцінювання показали, що менші бюджети вмісту насправді дають точніші результати після низки покращень якості. Ми внесли деякі зміни до конфігурацій за замовчуванням, щоб відобразити наші висновки, зменшивши розмір корисної навантаги відповіді та затримку, водночас надаючи корисніший вміст на один результат. Для розробників менші, більш релевантні сніпети безпосередньо означають нижчі витрати на токени та краще керування контекстом для подальших LLM.

Бенчмарк SEAL перевіряє, чи може пошукова система відповідати на запитання, правильна відповідь на які змінюється з часом. Для надійного відповідання потрібна актуальність індексу в реальному часі, розумніше вилучення сніпетів із різних безперервно оновлюваних джерел даних і синтаксичний аналіз, який може визначити поточне значення, а не історичне.

Коли ми запускали search_evals проти випуску SEAL від 22 лютого за допомогою Claude Sonnet 4.5, оцінки Perplexity зросли, тоді як інші провайдери впали на SEAL-Hard:

Ми розширили наш фреймворк search_evals, включивши до нього SEAL разом із бенчмарками, про які повідомлялося в нашій вересневій публікації. Оновлені результати та методологія доступні в оновленому репозиторії на GitHub.

API тепер підтримує до 5 запитів в одному запиті. Результати повертаються згрупованими за запитами в тому ж порядку, в якому вони були подані. Це зменшує кількість кругових обмінів для додатків, яким потрібно надсилати пов'язані пошукові запити паралельно, наприклад, агентів, які розбивають складне запитання на кілька підзадач пошуку.

На додаток до фільтрації доменів (список дозволених і заборонених доменів, до 20 доменів) і фільтрації за актуальністю, API тепер підтримує фільтрацію мов за кодом ISO 639-1 та регіональний пошук за кодом країни ISO. Їх можна комбінувати для точного визначення області результатів, наприклад, обмежуючи результати англійською мовою з німецьких доменів.

Python SDK (pip install perplexityai) тепер забезпечує нативну підтримку Search API разом з Agent API та Sonar API.

Повну документацію можна знайти на docs.perplexity.ai

Оцінювання сніпетів на рівні фрагментів

SEAL: бенчмаркінг пошуку, чутливого до часу

Підтримка кількох запитів

Розширена фільтрація

SDK та доступність