Компания Microsoft анонсировала пакет новых возможностей и инноваций в области безопасности, направленных на защиту экосистемы агентов искусственного интеллекта (AI Agents) внутри организаций. Это было достигнуто за счет расширения масштабов проекта безопасности «Project Perception» и обновлений, включающих «Microsoft Entra Agent ID».
Этот шаг является ответом на быстрое распространение агентов ИИ в рабочих средах, где эти системы выполняют множество программных и аналитических задач, требующих прямого доступа к корпоративным данным и приложениям. Это создает новые вызовы и риски, связанные с корпоративной безопасностью и защитой данных от ошибок, взломов или манипуляций поведением моделей.
Основные новые возможности безопасности
Объявленные обновления основаны на отделении полномочий по принятию решений в области безопасности от самой модели ИИ, с предоставлением независимой системы контроля, основанной на принципах нулевого доверия и минимально необходимых привилегий. Ключевые дополнения включают:
- Расширенное обнаружение локальных агентов: расширение охвата до 30 дополнительных типов, в результате чего общее количество поддерживаемых типов достигло 60, включая такие популярные инструменты, как Claude Code, OpenAI Codex и GitHub Copilot, с их интеграцией в единый реестр.
- Независимая цифровая идентификация (Microsoft Entra Agent ID): предоставление каждому агенту первичной идентификации, независимой от пользователя или спонсора, для облегчения отслеживания действий, управления ими и точного применения политик управления.
- Динамические разрешения (Dynamic Permissions): начало работы с нулевыми правами и отказ от автоматического предоставления агенту прав прямого пользователя; вместо этого доступ настраивается в соответствии с задачами, с определением времени выполнения и отзывом прав сразу после их завершения.
- Риски и динамический условный доступ: постоянный мониторинг поведения агента и контекста выполнения с помощью механизмов «Dynamic Agent Risk» для автоматической корректировки разрешений при обнаружении любого отклонения в поведении или воздействия подозрительных входных данных.
- Агенты-хранители (Guardian Agents): использование агентов безопасности, работающих с автоматизированной скоростью для реализации планов защиты и реагирования на оповещения в рамках, утвержденных человеческими операторами.
Что практически меняется для организаций?
Организации, использующие сотни тысяч агентов ИИ, переходят от медленного ручного реагирования к автоматизации процессов мониторинга и ограничения. Когда агент сталкивается с попытками манипуляции или внедрения вредоносных команд, система реагирует постепенно, сохраняя продуктивность сотрудников: права на запись могут быть ограничены при сохранении прав на чтение, либо среда выполнения может быть полностью изолирована при эскалации рисков, без внезапной остановки системы.