Компания Microsoft внедрила комплекс функций безопасности, предназначенных для защиты организаций от растущих угроз, связанных с агентами искусственного интеллекта (AI Agents), что отражает заметный сдвиг в подходе крупнейших технологических компаний к работе с передовыми моделями.
Мониторинг агентов через функцию Guardian Agents
Ключевым дополнением в сфере безопасности стала функция, известная как Guardian Agents, разработанная для мониторинга и отслеживания агентов ИИ, используемых компаниями. Эта функция является продолжением проекта Project Perception, запущенного в июне прошлого года, который изначально был создан для противодействия мощным методам взлома. Проект включал в себя различные уровни, включая атакующие и защитные рабочие группы, а также команды по исправлению уязвимостей.
Хотя первоначальный дизайн продукта был сосредоточен на противодействии внешним хакерам, генеральный директор компании Сатья Наделла недавно предупредил, что реальная опасность может исходить изнутри — от агентов, которых организации развертывают и за работу которых платят, сравнив их с недобросовестными сотрудниками или так называемыми внутренними угрозами (Insider Threats).
Необходимость разделения между поставщиком ИИ и контролем над ним
Высшее руководство Microsoft, включая Наделлу и руководителя отдела безопасности Вашти Галло, подчеркнуло, что пограничным моделям, независимо от того, кто их разработал, нельзя полностью доверять. Это недоверие связано не с тем, что модели по своей природе вредоносны, а с тем, что они непредсказуемы и выполняют поставленные задачи, не обязательно учитывая корпоративные стандарты и нормативные требования, а также обладают широкими правами доступа к конфиденциальным данным и системам.
Новая стратегия компании призывает к необходимости разделения между поставщиками моделей ИИ и системами мониторинга и контроля, чтобы ответственность за безопасность не ограничивалась только гарантиями разработчиков.
Что меняется на практике?
Обнаружение несанкционированных агентов: Microsoft добавила функцию обнаружения агентов в продукт Microsoft Defender для идентификации до 60 типов агентов, которые сотрудники привносят в рабочую среду, таких как Claude Code, Codex и OpenClaw.
Ограничение прав и полномочий: Были внедрены механизмы, ограничивающие доступ агентов к данным и системам с динамической корректировкой прав в зависимости от характера задачи.
Человеческое одобрение: Введено требование обязательного прямого одобрения человеком в случае, если агент принимает решения, несущие потенциальные риски.
Этот подход соответствует более широким отраслевым тенденциям: Microsoft присоединилась в качестве члена-учредителя к открытой платформе безопасности агентов от компании NVIDIA, которая основана на изоляции агентов в безопасных средах и их мониторинге на аппаратном уровне для обеспечения возможности их остановки при необходимости.