Исследователи безопасности из компании Claroc объявили об обнаружении уязвимости в новом ИИ-помощнике Muse от компании Meta, которая позволяет получить доступ к крайне конфиденциальной информации, принадлежащей частным лицам и компаниям. Проблема заключается в способе создания веб-ссылок для обмена чатами: выяснилось, что их легко обнаружить с помощью общедоступных поисковых инструментов, несмотря на предыдущие заверения компании о том, что инструмент был разработан с максимальным учетом конфиденциальности.
Как происходит утечка данных?
Функция обмена в Muse основана на создании уникальной ссылки (URL), которая позволяет любому, у кого она есть, просматривать содержимое чата, изображения или результаты поиска. Обычно компании используют длинные и сложные текстовые строки в таких ссылках, чтобы предотвратить их угадывание. Однако исследователи обнаружили, что центральное проектное решение в структуре этих ссылок сделало их уязвимыми для массового обнаружения.
Исследователи использовали метод, известный как «пассивный поиск DNS» (Passive DNS search), через доступные коммерческие сервисы, что позволило им собрать 6800 ссылок, которыми поделились пользователи Muse. Как только была открыта выборка этих ссылок, стали видны данные, которые ни при каких обстоятельствах не должны были быть доступны общественности.
Примеры раскрытых данных
Отчет выявил шокирующее содержание, включенное в утекшие ссылки, среди которых:
- Заметки кандидата на руководящую должность, готовящегося к секретному звонку с ведущей лабораторией искусственного интеллекта, включая имена внутренних контактов и время встреч.
- Внутренний обзор доходов национальной маркетинговой компании, предназначенный специально для исполнительного директора.
- Заявка на кредит от владельца малого бизнеса с указанием требуемой суммы и деталей работы.
- Список задач, содержащий уведомление от банка о мошеннической операции, с частичными номерами счетов и деталями транзакций.
- Внутренний отчет об эффективности для инвестора в недвижимость, включающий конкретные адреса объектов, доходы и точные цифры по ипотеке.
- Годовой календарь отпусков сотрудников одной из организаций, в котором перечислены десятки сотрудников с датами их отсутствия.
Противоречие с обещаниями конфиденциальности
Это открытие ставит Meta в неловкое положение, особенно учитывая, что в прошлом месяце исполнительный директор Марк Цукерберг заявил, что Muse был «построен с нуля с упором на конфиденциальность и безопасность». Исследователи пояснили, что процесс сбора этих ссылок не потребовал больших усилий, как ожидалось, а был выполнен с помощью всего одного запроса благодаря использованию поддомена (cf.metaaiusercontent.com) для всех общих ссылок, что облегчило их отслеживание и архивирование в общедоступных базах данных DNS сразу после первого перехода по ним.
Что практически меняется для пользователей?
Этот инцидент показывает, что функция «поделиться ссылкой» в инструментах искусственного интеллекта несет скрытые риски безопасности, если инфраструктура доменов не защищена должным образом. Для пользователей это означает, что любой чат, преобразованный в ссылку для обмена, должен технически считаться «публичным», даже если ссылка не была опубликована открыто в социальных сетях. Пользователям инструментов ИИ рекомендуется избегать обмена чатами, содержащими финансовые данные, коммерческие секреты или конкретную личную информацию, и вместо этого полагаться на ручное копирование текстов и их защиту через зашифрованные каналы связи, чтобы гарантировать, что они не попадут в поисковые системы или базы данных безопасности.