Новые фишинговые кампании и вредоносные программы используют доверие и любопытство, связанные с инструментами искусственного интеллекта, выдавая себя за ChatGPT, Microsoft Copilot, DeepSeek и Claude. Согласно исследованию Microsoft Threat Intelligence, эти кампании стремятся направить пользователей на страницы для кражи учётных данных, на вредоносные загрузки или в цепочки перенаправлений, начинающиеся с рекламы или сообщения, которое выглядит связанным с известным сервисом искусственного интеллекта.
Microsoft сообщает, что одна из фишинговых кампаний, выдававшая себя за ChatGPT, отправляла до 100 тысяч электронных писем в день и пыталась убедить пользователей обновить платёжную информацию для подписки ChatGPT Plus, в результате чего под угрозой оказались персональные данные и данные кредитных карт. Компания подчёркивает, что эти кампании не означают взлом сервисов искусственного интеллекта, за которые они себя выдают, а представляют собой использование репутации этих брендов в знакомой практике социальной инженерии.
Искусственный интеллект — новая оболочка для старых методов
Обнаруженные атаки не обязательно опираются на исключительные технологии: они используют такие элементы, как срочность, любопытство и выдача себя за знакомую организацию. Сообщение может выглядеть как объявление о запуске новой модели, обновление политики интеллектуального помощника или дополнение, якобы повышающее производительность пользователя. В этом смысле тема искусственного интеллекта заменяет традиционную приманку, например поддельный счёт или уведомление о доставке, при этом цель злоумышленника остаётся прежней: снизить бдительность пользователя и побудить его к взаимодействию.
Команда Microsoft обнаружила несколько кампаний, включая фишинговый набор, связанный с ChatGPT и предназначенный для сбора данных карт, кампанию, выдававшую себя за Claude и использовавшую методы adversary-in-the-middle для кражи учётных данных и токенов доступа, а также вредоносные объявления, рекламировавшие поддельное дополнение для Windows и доставлявшие информационный похититель Vidar. Через GitHub также распространялись поддельные установщики DeepSeek. В одном из случаев брокер первоначального доступа, отслеживаемый Microsoft под именем Storm-3075, использовал вредоносные объявления, связанные с искусственным интеллектом, для распространения полезных нагрузок среди нескольких преступных групп.
Что практически меняется для команд безопасности?
Основная проблема не ограничивается одним каналом. Кампания может начаться с электронного письма, затем перейти к вредоносной ссылке, подозрительной загрузке и необычному поведению при входе в систему, а завершиться взломом учётной записи или устройства. Поэтому анализ каждого сигнала отдельно может помешать командам безопасности увидеть всю последовательность атаки. Объединение сигналов электронной почты, инструментов совместной работы, конечных точек, идентификационных данных и приложений SaaS помогает определить, привела ли та же приманка к последующей вредоносной активности.
Microsoft указывает, что политики защиты от фишинга в Microsoft Defender могут проверять попытки выдачи пользователей и доменов за других, сообщения от новых отправителей, сигналы интеллектуального анализа почтовых ящиков и подозрительные характеристики отправителя. Safe Links также выполняет проверку ссылок и тестовый запуск при прохождении сообщения, а кроме того, проверяет ссылки в момент нажатия в электронной почте, Microsoft Teams и поддерживаемых приложениях Microsoft 365. Проверка при нажатии особенно важна, когда кампания использует многоэтапные перенаправления или ссылки, которые выглядят безопасными при доставке, но позднее меняют место назначения.
Сообщения с поддельными установщиками или вредоносными вложениями Safe Attachments может запускать в виртуальной среде до доставки при соответствующей настройке политик. Если угроза обнаружена после доставки сообщения, возможности фильтрации после доставки помогают удалить вредоносное содержимое и сократить период, в течение которого пользователи подвергаются его воздействию.
Как предотвратить переход от электронной почты к взлому учётной записи
Когда кампания выходит за пределы почтового ящика, защита зависит от понимания связи между идентификацией, устройством и данными. Согласно Microsoft, Defender объединяет сигналы в единую историю атаки, благодаря чему аналитик может связать нажатие на ссылку или загрузку полезной нагрузки с рискованным входом в систему либо активностью на конечной точке.
Компания отмечает, что встроенная в Defender функция attack disruption способна изолировать скомпрометированный ресурс во время атаки, чтобы ограничить боковое перемещение, особенно при многоэтапных атаках, таких как компрометация корпоративной электронной почты или атаки adversary-in-the-middle. Microsoft заявляет, что эта функция ежемесячно локализует более 81 тысячи скомпрометированных пользовательских учётных записей и ежемесячно пресекает более 45 тысяч атак AiTM.
В представленном компанией тематическом исследовании Defender пресёк атаку на корпоративную электронную почту через четыре минуты после начала активности. Злоумышленник использовал убедительное сообщение о совместном доступе к документу, которое побудило пользователя начать легитимный процесс входа с помощью кода устройства вместо традиционной кражи пароля. После объединения сигналов аутентификации и активности электронной почты Defender распознал подозрительное поведение и остановил атаку до создания механизма закрепления, правил почтового ящика или проведения мошенничества с расчётными ведомостями.
Редакционный анализ
Практическая ценность этого материала заключается не в появлении нового бренда искусственного интеллекта в списке приманок, а в подтверждении того, что командам безопасности необходимо оценивать всю цепочку атаки. Источник подтверждает наличие кампаний, выдающих себя за известные сервисы, и приводит примеры фишинга, кражи токенов и вредоносного ПО, однако не доказывает, что каждая кампания, использующая искусственный интеллект, сложнее предыдущих атак. Кроме того, приведённые показатели пресечения и времени реагирования представляют собой данные Microsoft о Defender, и результаты могут различаться в зависимости от сценария и настроек защиты. Поэтому практический вопрос для организаций заключается в степени интеграции их инструментов и способности быстро превращать разрозненные сигналы в реагирование, а не просто в добавлении правила, блокирующего определённое коммерческое имя.