Анонс создания Института безопасного интеллекта

Сегодня мы объявляем о создании Института безопасного интеллекта (SII). Институт безопасного интеллекта — это флагманский исследовательский центр Perplexity, призванный повышать уровень безопасности, конфиденциальности и доверия к передовым системам ИИ.

С момента запуска первого поискового движка с ИИ в декабре 2022 года Perplexity неизменно устанавливает стандарты в сфере ИИ. Мы выпустили первый в мире по-настоящему ИИ-ориентированный браузер и первый ИИ-компьютер на базе защищенных серверов. Perplexity является лидером в области модель-независимых ИИ и масштабных мультимодельных систем ИИ.

По мере развития этих категорий возникают и сопутствующие им вопросы безопасности.

Сегодня мы объявляем о создании Института безопасного интеллекта (SII). Институт безопасного интеллекта — это флагманский исследовательский центр Perplexity, призванный повышать уровень безопасности, конфиденциальности и доверия к передовым системам ИИ. Проводя собственные исследования и сотрудничая с широким сообществом, SII углубит работу Perplexity в области безопасности и внесет вклад в развитие методов обеспечения безопасности ИИ в масштабах всей отрасли.

На основе уже проделанной работы

Данная инициатива основывается на научно-исследовательских и инженерных разработках, которые уже ведутся в Perplexity:

В апреле 2025 года, до публичного выпуска Comet, мы привлекли компанию Trail of Bits для проведения первого в своем роде аудита безопасности агентного браузера, который включал систематическое моделирование угроз и новые формы состязательного тестирования.

В июле 2025 года мы запустили Comet с многоуровневой архитектурой безопасности, разработанной для защиты пользователей в открытой среде.

В декабре 2025 года мы выпустили BrowseSafe — бенчмарк с открытым исходным кодом и модель обнаружения контента, включающую более 14 700 реальных сценариев атак по 14 категориям угроз.

В марте 2026 года мы опубликовали «Соображения безопасности для агентов на базе искусственного интеллекта» — наш ответ на запрос NIST о предоставлении информации по обеспечению безопасности автономных ИИ-агентов.

SII объединяет эти усилия в рамках более широкой исследовательской программы. Самая важная работа решает две задачи одновременно: она отвечает требованиям серьезной науки и совершенствует системы, на которые люди полагаются каждый день.

Лидерство в области безопасности

Сильное научное руководство занимает центральное место в миссии SII. Доктор Нингхуэй Ли назначен первым директором SII. Нингхуэй — профессор компьютерных наук Сэмюэля Д. Конте в Университете Пердью, где он также занимает должность заместителя руководителя кафедры. Являясь членом ACM и IEEE, он занимал ряд ведущих ролей в сообществе исследователей безопасности, включая председателя Руководящего комитета ACM CCS, председателя ACM SIGSAC и главного редактора ACM Transactions on Privacy and Security.

Он привнесет в SII и в процесс создания надежных систем ИИ свой многолетний опыт руководства исследованиями в области безопасности и конфиденциальности.

Открытое сотрудничество

Проблемы на переднем крае безопасности ИИ слишком масштабны и междисциплинарны, чтобы решать их в одиночку. Исследования SII охватывают аутентификацию, юзабилити конфиденциальности и безопасности, надежное машинное обучение и защиту агентных систем ИИ. Развитие этих областей потребует устойчивого сотрудничества между научными кругами и представителями индустрии.

Мы рады сотрудничеству с исследователями, институтами и организациями, желающими помочь в обеспечении безопасности передового интеллекта следующего поколения. Посетите домашнюю страницу SII, чтобы узнать больше о нашей работе и будущих возможностях для сотрудничества.