Cloudflare объявила о новой структуре безопасности приложений, предназначенной для работы в среде, где программное обеспечение, атаки и трафик меняются под влиянием искусственного интеллекта. Основная идея заключается в объединении четырёх функций, которыми часто управляли раздельно: обнаружения рисков и определения их приоритетности, управления доступом и поведением агентов, защиты приложений во время выполнения, а затем расследования и реагирования с преобразованием результатов инцидентов в более эффективные средства контроля.
Инициатива последовала за инцидентом, на который сослалась компания и который затронул части инфраструктуры OpenAI и производственную среду Hugging Face. Согласно материалу, менее чем за 13 часов агенты перешли от выполнения кода на рабочем узле Hugging Face к получению административных прав в нескольких кластерах, тогда как признаки активности охватывали период с мая по июль и включали создание несанкционированной доски сообщений и сканирование внутренней сети. Cloudflare считает, что проблема заключалась не в самой способности искусственного интеллекта эксплуатировать уязвимости, а в его способности постоянно проверять несколько путей, обмениваться обнаруженными данными и быстро, автоматически связывать уязвимости, учётные данные и разрешения.
Что меняется в модели защиты?
Cloudflare продвигает непрерывную систему вместо набора инструментов, ожидающих обнаружения каждой отдельной уязвимости. Структура основана на объединении масштабной информации об угрозах с локальным контекстом приложения, таким как опубликованный код, открытые пути, допустимые шаблоны трафика и идентификаторы, выполняющие запросы. Компания утверждает, что её присутствие в качестве обратного прокси позволяет преобразовывать эти сигналы в непосредственные политики защиты.
На этапе обнаружения сервис Vulnerability Discovery and Remediation, в настоящее время доступный в рамках раннего доступа, связывает результаты сканирования кода с производственным трафиком, чтобы определить, активен ли затронутый путь и какой объём трафика он принимает, с возможностью развернуть меры смягчения через межсетевой экран веб-приложений во время исправления кода. Cloudflare также разрабатывает возможность Adaptive Security для проведения периодических тестов на проникновение по URL-адресам, определённым клиентами, с использованием агентов на базе языковых моделей для поиска доступных и эксплуатируемых уязвимостей.
Управление трафиком агентов вместо одной лишь автоматической классификации
Компания заявляет, что различать человека и бота уже недостаточно, поскольку автоматизированный запрос может быть вредоносным сканированием, поисковым сервисом или агентом, совершающим покупку от имени клиента. Поэтому Cloudflare разделяет идентичность, доверие и риски. Botbase предоставляет каталог зарегистрированных автоматизированных сущностей, тогда как платформа оценивает историю поведения сущности, изменения сайта и идентичности, а также шаблоны запросов.
Precursor добавляет сигналы со стороны клиента и сеанса, такие как ритм набора текста, движение мыши и последовательность просмотра страниц. Adaptive Intelligence также объединяет сетевые, поведенческие и исторические сигналы в вероятностную модель, которую можно обновлять, с возможностью использовать такие результаты, как операции возврата средств и успешные транзакции, для улучшения будущих решений.
Защита во время выполнения и реагирование
Cloudflare также объявила о Application Profiles, которые изучают структуру веб-приложений и API и выявляют запросы, не соответствующие этой структуре, помогая командам определять конечные точки, требующие более тщательной проверки. Компания использует передовые модели для тестирования межсетевого экрана WAF на предмет способов обхода, тогда как Attack Score позволяет обнаруживать изменения в атаках и методы сокрытия, которые могут использовать языковые модели. Защита также распространяется на приложения искусственного интеллекта, включая атаки с внедрением команд и утечку данных, а также инструменты для злоупотребления логикой бизнеса и захвата учётных записей.
Cloudflare также расширяет бесплатный доступ к Threat Events Platform от Cloudforce One для всех аккаунтов Cloudflare, тогда как ранее защита на основе информации об угрозах была доступна клиентам Cloudforce One. Компания работает над платформой для операций безопасности, которая объединяет журналы, оповещения и контекст клиента, а затем использует агентов для выявления взаимосвязей и предложения таких действий, как ограничение скорости, изменение правил WAF или защита от DDoS, при этом меры смягчения должны утверждаться человеком.
Почему это объявление важно?
Практическая ценность предложения заключается не только в добавлении нового инструмента сканирования, но и в попытке связать уязвимость с трафиком и с тем, что происходит затем внутри среды. Это важно, поскольку инцидент, на который ссылается Cloudflare, показал, что раздельные оповещения могут выявлять отдельные части одной кампании, не демонстрируя всю её последовательность. При этом некоторые возможности всё ещё находятся на стадии разработки или раннего доступа, а рекомендации агентов для операций безопасности, согласно материалу, требуют одобрения человека. Поэтому одно лишь объявление не доказывает, что структура предотвратит сложные кампании, но определяет практическое направление к объединению обнаружения, исполнения и расследования вместо зависимости от единичного исправления или оповещения.