Недавние исследования, проведенные Microsoft, предупреждают о развитии нового типа кибератак, нацеленных на ИИ-агентов программирования (AI Coding Agents). Вместо традиционного сосредоточения на краже паролей или доступе к почтовым ящикам, злоумышленники теперь могут использовать уязвимость в процессе аутентификации через «код устройства» (Device Code Authentication) для захвата контроля над сложными программными инструментами, такими как GitHub Copilot CLI.
Механизм атаки: эксплуатация протокола OAuth
Техника фишинга через «код устройства» основана на эксплуатации потока OAuth, предназначенного для устройств, не имеющих полноценного браузера (например, инструментов командной строки CLI). В этом сценарии злоумышленник инициирует запрос на вход и получает короткий код, а затем с помощью социальной инженерии (например, утверждая, что требуется проверка лицензии или запрос от ИТ-отдела) убеждает пользователя ввести этот код на официальной странице проверки GitHub.
Как только пользователь подтверждает код, вход злоумышленника завершается автоматически с использованием подконтрольного ему клиента без необходимости кражи пароля пользователя, поскольку подтверждение происходит через полностью легитимный сайт, что делает обнаружение атаки обычным пользователем крайне сложным.
Что это означает на практике?
Лабораторное моделирование, проведенное Microsoft, показало, что успешный фишинг может привести к четырем опасным сценариям, в зависимости от привилегий учетной записи и активированных функций:
- Удаленное управление активными сессиями: если политика организации допускает удаленное управление, злоумышленник может направить ИИ-агента программирования на выполнение команд непосредственно на устройстве пользователя.
- Отравление памяти агента (Memory Poisoning): злоумышленник может добавить вводящую в заблуждение информацию в память ИИ (Copilot Memory), что повлияет на точность и предложения кода в будущих взаимодействиях разработчика.
- Утечка рабочего контекста через синхронизированные сессии: в случае активации синхронизации сессий с облаком злоумышленник может прочитать логи предыдущих сессий, которые могут содержать конфиденциальные фрагменты кода, пути к файлам или архитектурную информацию проектов.
- Доступ к частным репозиториям: после получения авторизации злоумышленник получает права доступа ко всем программным репозиториям (Repositories), доступным для скомпрометированной учетной записи, включая исходный код и инфраструктуру.
Важно отметить, что эти результаты являются лабораторными (Proof-of-Concept), и подобные атаки в реальности пока не фиксировались, однако они подчеркивают скрытые риски в том, как ИИ-агенты проектируются и взаимодействуют с инструментами разработки.
Способы защиты и профилактики
Для противодействия этим рискам Microsoft рекомендует принять многоуровневую стратегию защиты, которая включает:
- Повышение осведомленности в области безопасности: разработчики не должны вводить никакой код устройства (Device Code), если только они сами не инициировали процесс входа в систему.
- Настройка корпоративных политик: ограничение привилегий, предоставляемых ИИ-агентам, пересмотр политик хранения сессий в облаке и ограничение функций удаленного управления.
- Использование инструментов обнаружения: такие сервисы, как Microsoft Defender for Cloud Apps, могут связывать попытки фишинга через электронную почту или Teams с активностью аутентификации GitHub, что помогает командам безопасности выявлять подозрительные паттерны и пресекать несанкционированный доступ.