Искусственный интеллект больше не является второстепенным инструментом в кибератаках: в отчёте, опубликованном группой Google Threat Intelligence Group в мае 2026 года, говорится, что генеративный искусственный интеллект интегрируется в рабочие процессы злоумышленников в промышленном масштабе, а его использование уже наблюдается почти на всех этапах атаки. Согласно материалу, опубликованному ITmedia AI Plus, группа впервые обнаружила субъекта угрозы, пытавшегося использовать эксплойт для уязвимости нулевого дня, разработанный при помощи искусственного интеллекта.
Уязвимость использовалась в попытке атаковать инструмент с открытым исходным кодом для управления веб-сайтами и позволяла обойти двухфакторную аутентификацию. Важно, что она возникла не из-за традиционной ошибки реализации, такой как повреждение памяти, а из-за сложного логического дефекта в архитектуре приложения. Это указывает на то, что большие языковые модели, способные читать контекст и рассуждать, могут помогать обнаруживать логические ошибки, которые традиционные инструменты анализа уязвимостей не замечали.
Проблема не только в искусственном интеллекте, но и в простоте доступа к нему
В материале говорится, что наблюдавшиеся атаки в основном опирались на захваченные или использованные не по назначению коммерческие аккаунты закрытых моделей. Однако распространение моделей с открытыми весами меняет ситуацию с другой точки зрения: после загрузки весов модели её использование в меньшей степени поддаётся контролю со стороны разработчика, а издателю сложнее отозвать её или впоследствии установить ограничения.
Дайсукэ Фудзи, отвечающий за направление кибербезопасности в Accenture Japan, объяснил, что основное различие между закрытыми моделями и моделями с открытыми весами связано со степенью контроля разработчика над использованием. Закрытые модели обычно сочетают меры безопасности, регистрацию аккаунтов, условия использования и мониторинг активности. Модели с открытыми весами можно изменять или дообучать, чтобы ослабить их склонность отказывать в опасных действиях, включая создание версий, которые называют «несконтролируемыми».
Злоумышленникам не обязательно обладать лучшей доступной моделью. По словам Фудзи, даже модели, уступающие закрытым моделям Anthropic и OpenAI по производительности, способны находить большое количество уязвимостей. Обнаружение глубоких уязвимостей, не выявлявшихся десятилетиями, может потребовать более совершенной модели, однако преступники, стремящиеся к заработку, обычно предпочитают цели, которые можно атаковать быстро и с низкими затратами.
Что практически меняется для организаций?
Эти изменения не означают, что атаки сразу превратятся в полностью автономные операции, управляемые машинами. Фудзи считает, что основным вариантом использования по-прежнему остаётся помощь людям, поскольку запуск передовых моделей в широком масштабе требует графических процессоров и ограниченных, дорогостоящих серверных ресурсов. Наиболее реалистичное применение сейчас — ускорение разведки: определение потенциальных веб-сайтов, проверка большого числа целей и поиск систем, которые можно быстро атаковать.
Однако снижение стоимости разведки может расширить список целей. Системы, которые ранее казались экономически нецелесообразными, могут стать пригодными для атак, если информацию о них удастся собирать автоматически. К ним относятся, в частности, финансовый сектор и сектор криптовалют, а также сами компании, занимающиеся искусственным интеллектом. В отчёте GTIG говорится, что искусственный интеллект одновременно стал передовым инструментом атаки и высокоценной целью: были зафиксированы атаки на цепочку поставок программного обеспечения для искусственного интеллекта, включая внедрение вредоносного кода в пакеты навыков, предназначенные для агентов искусственного интеллекта, и взлом шлюзов, соединяющих несколько больших языковых моделей.
Защита начинается с предположения об успешном взломе
Главный практический вывод материала заключается в том, что предотвращение каждой атаки больше не является реалистичной основой для построения плана защиты. Фудзи рекомендует принимать меры, снижающие ущерб после взлома, например разрабатывать планы обеспечения непрерывности бизнеса, хранить резервные копии данных и разделять сети на более мелкие зоны с помощью микросегментации сети. Эти меры не предотвращают каждый взлом, но направлены на ограничение распространения злоумышленника и ускорение восстановления операций — это известные принципы противодействия программам-вымогателям.
Сокращение объёма общедоступной информации также приобретает большее значение. Модель может собрать небольшие сигналы, например сведения о технологиях, объявленные на публичных мероприятиях, или детали кода веб-страниц, а затем сформировать гипотезы об инфраструктуре организации. Фудзи рассматривает защитный обман — предоставление ложной информации с целью ввести рассуждения злоумышленника в заблуждение — как один из возможных вариантов.
Управление долгом исправлений и осторожное использование искусственного интеллекта
Материал также обращает внимание на проблему «долга исправлений»: накопление уязвимостей, которые не были устранены из-за сложности тестирования обновлений, подготовки процедур и проверки после их установки. Фудзи говорит, что японские компании могут особенно сильно страдать от сложности систем и времени, необходимого для операций до и после установки исправлений. Среди упомянутых им направлений — сокращение числа систем, требующих исправлений, за счёт перехода в облако и использование искусственного интеллекта для ускорения тестирования и проверки.
Однако использование искусственного интеллекта для защиты сопряжено с ответным риском. Если организация отправит свой код или данные о своей среде поставщику, а затем этот поставщик подвергнется атаке, инструмент защиты может превратиться в источник информации для злоумышленника. Поэтому перед созданием среды для проверки уязвимостей с помощью искусственного интеллекта необходимо выяснить, где хранятся данные и будут ли они использоваться для обучения. В материале отмечается, что среди клиентов Accenture растёт интерес к суверенному искусственному интеллекту, при котором инструмент остаётся под контролем организации.
Редакционный вывод certi.news: фактическое изменение заключается не в появлении полностью автономных атак, а в снижении стоимости поиска целей и уязвимостей, пригодных для эксплуатации. Это повышает значение операционной устойчивости и сокращения объёма раскрытой информации наряду с проактивным сканированием, тестированием на проникновение и учениями красных команд. Источник подчёркивает, что защитники обладают важным преимуществом — более широким знанием собственных сред; однако степень использования этого преимущества будет зависеть от качества данных, средств контроля обмена информацией и способности организаций устранить обнаруженные проблемы до того, как злоумышленник их опередит.