Компания Meta объявила о выплате почти 1,2 миллиона долларов США в виде вознаграждений за уязвимости для своего персонального ИИ-помощника Muse, включая главный приз в размере 300 000 долларов, присужденный за обнаружение критической уязвимости до официального запуска продукта, в рамках усилий компании по укреплению безопасности своих систем и технологий искусственного интеллекта.
Помощник Muse работает как персональный ИИ-агент от имени пользователя в его различных учетных записях, таких как электронная почта, календарь и мессенджеры, при этом для каждого пользователя выделяется отдельная виртуальная машина (VM). Программа вознаграждений за уязвимости была запущена в апреле прошлого года, а затем перешла в публичный формат, совпав с официальным запуском помощника 8 сентября. Компания получила более 630 отчетов по безопасности, из которых 64 были проверены и приняты.
Подробности значимых уязвимостей и вознаграждений
Главный приз в размере 300 000 долларов достался исследователю безопасности, который обнаружил уязвимость на этапе раннего внутреннего тестирования за четыре месяца до запуска помощника. Уязвимость позволяла получить доступ к перепискам и токенам на виртуальных машинах, используемых сотрудниками Meta.
Дэвид Синглтон из Meta пояснил, что проблема возникла из-за того, что проверка аутентификации обрабатывала заголовок запроса, добавленный локальным прокси-сервером HTTPS, как неоспоримое доказательство того, что запрос исходит из надежного источника. В процессе миграции системы среда получила второй уровень прокси, что позволило внешним запросам нести тот же заголовок доверия. Это вынудило компанию временно приостановить работу сервиса, устранить ошибку и отказаться от использования локальных устройств в качестве абсолютно надежных источников.
Компания также выплатила 90 000 долларов за отчет по безопасности, связанный с вредоносной веб-страницей, которая имитировала сообщения о состоянии инструмента просмотра помощника, когда его просили обобщить информацию. Это побудило ИИ-агента выполнить действия, которые должны были быть заблокированы. Meta устранила это, добавив сигналы обнаружения и улучшив способ обработки вывода подозрительных инструментов. Еще один отчет на сумму 90 000 долларов был получен за использование определенного формата для обхода фильтров очистки электронной почты помощника в рамках комплексной атаки.
Ошибки приложений и подтипы уязвимостей
В список также вошло вознаграждение в размере 50 000 долларов за уязвимость в приложении для Android, которая позволяла вредоносному приложению передавать ссылку в Web View с особыми привилегиями без проверки основного хоста, что позволяло странице злоумышленника перехватывать учетные данные Web View. Кроме того, было выплачено вознаграждение в размере 1000 долларов за уязвимость в приложении для Mac, которая позволяла злоумышленнику, имеющему доступ к компьютеру, использовать функцию автоматического обновления для выполнения кода с привилегиями приложения.
Что это означает для безопасности ИИ?
Эти результаты демонстрируют масштаб сложных проблем безопасности, с которыми сталкиваются крупные технологические компании при разработке автономных ИИ-агентов, напрямую взаимодействующих с конфиденциальными данными пользователей и их личными учетными записями. Политика Meta, согласно которой вознаграждения за некоторые атаки типа «инъекция промпта» (Prompt Injection) достигают 130 000 долларов, а за полный взлом парка систем — 250 000 долларов, подчеркивает серьезность намерений компаний по привлечению сообщества исследователей безопасности для укрепления своей инфраструктуры ИИ до того, как риски станут критическими.