Корпорация Microsoft представила новый набор средств безопасности, предназначенных для мониторинга и ограничения «агентов искусственного интеллекта» (AI Agents) в корпоративных рабочих средах. В рамках этого подхода компания придерживается новой философии безопасности, согласно которой к таким агентам следует относиться как к потенциально опасным «инсайдерам» (Insiders), а не считать их безоговорочно доверенным программным обеспечением.
Этот шаг является расширением «Проекта Perception» (Project Perception) — системы безопасности для агентов, запущенной Microsoft в июле прошлого года. Если первоначально проект был сосредоточен на защите от внешних атак с использованием искусственного интеллекта, то теперь его инструменты направлены на агентов, управляемых компаниями внутри организаций, чтобы гарантировать, что они не выйдут из-под контроля и не будут скомпрометированы.
Радикальное изменение концепции доверия к искусственному интеллекту
Хайит Галут (Haiit Galut), вице-президент по безопасности в Microsoft, пояснила, что компании обычно склонны автоматически доверять развертываемым ими агентам. Она предупредила, что пограничные модели (Frontier Models) обучены достижению результатов, но они не создавались с учетом организационных норм или стандартов человеческого контроля. Галут отметила, что такие агенты часто обладают избыточными привилегиями и доступом к конфиденциальным данным, инструментам и системам, что позволяет им принимать решения в критически важных операциях, которые могут привести к катастрофическим последствиям в случае отсутствия контроля.
Со своей стороны, Надим Абду (Nadeem Abdo), вице-президент компании по управлению доступом и идентификацией, подчеркнул, что классификация агентов как «инсайдеров» не обязательно означает их вредоносность; скорее, это признание того, что они представляют собой мощные инструменты, которым предоставлен широкий доступ и которые подвержены ошибкам, манипуляциям или взлому со стороны внешних акторов.
Механизмы защиты: динамические разрешения и оценка рисков
Новые обновления включают функцию «динамических разрешений» (Dynamic Permissions), которая предоставляет агентам минимальные привилегии или вообще не предоставляет их на начальном этапе. Доступ для каждой задачи предоставляется индивидуально и прекращается сразу после завершения задачи или изменения ее условий. Действия с высокой степенью влияния требуют предварительной прямой проверки человеком.
Microsoft также представила систему «динамического риска агентов» (Dynamic Agent Risk), которая присваивает каждому агенту показатель риска, постоянно обновляемый на основе его активности, идентификационных данных, сетевых сигналов и информации. Этот показатель учитывает несколько факторов, в том числе:
- Настройки безопасности агента и ресурсы, к которым он может получить доступ.
- Масштаб потенциального ущерба в случае ошибки.
- Степень отклонения агента от целей, заданных пользователем или организацией.
Условный контроль и «агенты-стражи»
Для усиления автоматического реагирования компания запустила функцию «динамического условного доступа», которая позволяет сокращать привилегии агента сразу при повышении его уровня риска — например, переводя его права с режима «чтение и запись» на режим «только чтение» или полностью изолируя его от сети при необходимости.
Для управления этими процессами в масштабе компании Microsoft внедрила так называемых «агентов-стражей» (Guardian Agents). Это специализированные ИИ-агенты по безопасности, работающие под надзором человека для обеспечения соблюдения правил защиты, расследования причин изменения уровней риска и предложения необходимых мер сдерживания.
Что меняется на практике для организаций?
Это развитие событий означает, что организации больше не будут ограничиваться мониторингом только человеческих сотрудников — они будут управлять «цифровой рабочей силой», подчиняющейся тем же строгим стандартам контроля. Microsoft расширила сферу обнаружения, включив в нее 35 дополнительных типов локальных агентов, в результате чего общее количество поддерживаемых типов достигло 60, включая такие популярные инструменты, как (Claude Code), (OpenAI Codex) и (GitHub Copilot). Эта система кладет конец эпохе «агентов с абсолютными привилегиями» и насаждает рабочую среду, основанную на принципе «постоянной верификации» (Zero Trust) даже в отношении интеллектуальных инструментов, разрабатываемых самой компанией.