Предупреждения Anthropic и ожидаемый сценарий
Недавнее исследование, проведенное командой "Frontier Red Team" в компании Anthropic, вызвало новые технические опасения, указывая на то, что малые модели искусственного интеллекта могут стать способными к размножению и распространению через незащищенные устройства в течение всего нескольких месяцев. Это развитие может привести к появлению автономных ботнет-сетей (Botnets), характеризующихся способностью к выживанию, автономной работе и трудностям в подавлении.
Хотя компании в сфере ИИ иногда обвиняют в преувеличении рисков в маркетинговых целях, эксперты согласны с тем, что вероятность способности малых моделей к самовоспроизводству является реальной и весьма близкой. Эксперты связывают ускорение этого процесса с тем, что исследователи в лабораториях ИИ используют те же инструменты ИИ в процессах исследований и разработки машинного обучения, что создает порочный круг технологического ускорения.
Между инновациями и повторением истории
При анализе этой угрозы возникает фундаментальный вопрос: стоим ли мы перед совершенно новым типом атак? Профессор Майкл Бейли (Michael Bailey) из Технологического института Джорджии, эксперт по изучению цифровых червей и ботнет-сетей, считает, что угроза может не быть такой новой, какой ее рисует Anthropic. Исторически сложилось так, что атаки, подобные Mirai в 2016 году, доказали, что простые устройства Интернета вещей (IoT), такие как роутеры и камеры, могут быть использованы для создания огромных атакующих сетей.
Фундаментальное различие, которое выдвигает Anthropic, заключается в способности ИИ к автоматизации. В то время как традиционные ботнет-сети требовали человеческих усилий для перепрограммирования вредоносного ПО для работы на различных архитектурах процессоров, ИИ может выполнять эту задачу автоматически, что дает атакам превосходную способность адаптироваться к незнакомым устройствам без вмешательства человека.
Что на самом деле меняется в ландшафте безопасности?
Вместо изобретения новых методов атак, ИИ, по всей видимости, изменит экономику атак. На практике меняется снижение стоимости и усилий, необходимых злоумышленникам; интеллектуальные модели могут играть роль "дроппера" или "вспомогательного дома" (Dropper), который закрепляется в устройстве, а затем координирует операции и распределяет задачи по сети.
Тем не менее, эксперты высказывают технические оговорки относительно термина "самовоспроизводство", использованного Anthropic. То, что происходит, может быть ближе к процессу шардинга (Sharding) моделей, а не к полному распространению идентичной копии программного кода, как это делают традиционные черви. Кроме того, способность ИИ изменять свое поведение (Polymorphism) требует переобучения самих моделей, что Anthropic пока не доказала в полной мере для своих моделей.
Заключается ли решение в новых технологиях?
Вопреки ожиданиям о том, что нам потребуются сложные системы защиты на базе ИИ для противодействия этим угрозам, аналитики указывают на то, что решения могут остаться весьма "традиционными". Противодействие ИИ-червям будет в основном опираться на фундаментальные принципы кибербезопасности, которые мы изучали десятилетиями, включая:
- Постоянное обновление (Patching): устранение уязвимостей в устройствах сразу после их обнаружения.
- Изоляция (Isolation): предотвращение связи зараженных устройств с остальной частью сети.
- Управление идентификацией: использование сложных паролей и отказ от слабых настроек по умолчанию в устройствах IoT.
В конечном счете, проблема заключается не в отсутствии решений, а в сложности внедрения этих базовых практик безопасности в широком масштабе в мире, наполненном подключенными и незащищенными устройствами.