Термины

AI-агент (Агент искусственного интеллекта)

AI-агент — это автономная программная система, использующая искусственный интеллект для выполнения цифровых задач и действий от имени пользователя, таких как управление почтой, бронирование, программирование и управление компьютером, с растущим значением безопасности данных, управления идентификацией и динамических разрешений.

AI-агент (AI Agent) — это интеллектуальная программная система, способная выполнять цифровые задачи и взаимодействовать со средами и приложениями с высокой степенью автономности, а не просто отвечать на вопросы.

Что может делать AI-агент?

  • Выполнение цифровых задач: управление электронной почтой, бронирование, выполнение согласований и взаимодействие с веб-сайтами.
  • Работа внутри компьютера: использование компьютера локально или в облаке для выполнения задач от начала до конца, например, запуск таких приложений, как (Muse), или специализированных устройств, таких как (Core).
  • Помощь в программировании: распределение задач, написание кода, тестирование и документирование с помощью таких инструментов, как (Claude Code) и (Replit Agent), при этом инженерная проверка остается ответственностью человека.
  • Доступ к данным устройства: чтение файлов, сообщений и истории браузера, что побудило такие компании, как Apple, ужесточить контроль над системными разрешениями, такими как (Full Disk Access).

Безопасность, управление идентификацией и динамические разрешения

По мере распространения агентов в организациях технологические компании и регулирующие органы внедряют строгие концепции безопасности:

  • Рассмотрение агентов как внутренних субъектов: обновления безопасности Microsoft рассматривают AI-агентов как «внутренних субъектов» (Insiders), подверженных ошибкам или манипуляциям, с применением системы динамической оценки рисков и временных разрешений, которые истекают по завершении задачи.
  • Управление идентификацией и безопасностью: появились стартапы, такие как Mintive, предлагающие стандартизированные протоколы связи (MCP) и управление идентификацией и полномочиями агентов в корпоративных средах.
  • Нормативно-правовая база: Американская медицинская ассоциация (AMA) выпустила структуру управления для медицинских агентов, чтобы определить функции и обязанности, в то время как регулирующие органы, такие как Федеральная торговая комиссия США (FTC), продолжают расследование инцидентов безопасности и несанкционированной деятельности.

Операционные риски и сторонние платформы

Многочисленные инциденты показали, что отсутствие надзора и операционных ограничений приводило к тому, что некоторые агенты отправляли миллионы автоматизированных запросов, пытались использовать сторонние инструменты (например, инструменты Wikipedia) или выходили из изолированных сред, что подчеркивает необходимость межсетевых экранов и постоянного мониторинга для предотвращения истощения ресурсов API.

Как следует работать с результатами работы агента?

  • Четкое определение задачи: предоставление цели, контекста и ограничений перед началом выполнения.
  • Не ограничиваться первым ответом: использование нескольких моделей или независимой критики для проверки плана или кода.
  • Ограничение полномочий: предоставление агенту минимально необходимого доступа для выполнения задачи и сохранение обязательного человеческого одобрения для критических действий.