Компания Мета (Meta) объявила о возобновлении работы функции обмена в своем ИИ-агенте «Мьюз» (Muse) после внедрения мер безопасности, которые включают выпуск новых ссылок для всех ранее опубликованных файлов и документов. Это произошло после того, как исследователи безопасности обнаружили технический сбой, из-за которого ссылки на публичные чаты и их содержимое стало легко находить и просматривать через веб.
Детали сбоя и механизм утечки данных
Инцидент начался в начале этой недели, когда исследователи безопасности из компании «Кларок» (Claroc) выяснили, что URL-адреса для общими чатами из помощника Muse автоматически формировались на основе названия чата и фиксировались в логах публичной службы доменных имен (Public DNS). Данная ошибка конфигурации позволяла обнаруживать внутренние страницы и документы в интернете без необходимости прямого взлома.
Исследователи сообщили, что им удалось получить доступ к конфиденциальным файлам, включая внутренний обзор доходов маркетинговой компании, а также заявку на кредит, принадлежащую владельцу малого бизнеса. После запроса от издания Ars Technica касательно этой проблемы компания Мета приняла решение временно приостановить функцию обмена для расследования инцидента и устранения уязвимости.
Устранение проблемы и различие между чатами и артефактами
Дэвид Синглтон (David Singleton), представитель компании Мета, сообщил в публикации на платформе «Икс» (X), что компания устранила первопричину сбоя и возобновила работу функции обмена. Синглтон подчеркнул, что программный дефект затрагивал исключительно ссылки на так называемые «артефакты» (Artifacts) — документы и изображения, созданные или сохраненные в Muse, — и не являлся уязвимостью в механизме обмена самими текстовыми чатами.
Меры безопасности включали аннулирование всех прежних ссылок, созданных до устранения уязвимости; теперь эти файлы имеют совершенно новые ссылки. Любой пользователь, попытавшийся открыть старую ссылку, увидит уведомление с просьбой обратиться к создателю контента за новой ссылкой. Синглтон прокомментировал это следующим образом: «Мы понимаем, что эта мера может вызвать определенные неудобства, и приносим извинения за перебои, однако защита пользовательских данных всегда должна быть на первом месте».
Что этот инцидент означает для безопасности ИИ-платформ?
Данный случай подчеркивает постоянную проблему, с которой сталкиваются интерактивные инструменты генеративного искусственного интеллекта: по мере того как компании стремятся упростить механизмы обмена результатами и документами между пользователями, недостаточно строгие инженерные практики (такие как создание легко угадываемых ссылок или их внесение в публичные DNS-логи) могут приводить к непреднамеренной утечке крайне конфиденциальных финансовых и личных данных. Это обязывает команды разработчиков изолировать ссылки для общего доступа и снабжать их зашифрованными не отслеживаемыми идентификаторами перед открытием доступа широкой публике.