Компания Anthropic недавно предупредила об ускоренном развитии угроз кибербезопасности на базе искусственного интеллекта на фоне растущей вероятности появления электронных червей, способных копировать себя и автоматически распространяться между подключенными к интернету устройствами без прямого вмешательства человека.
Команда наступательных исследований компании в недавно опубликованном отчете сообщила о разработке вредоносной программы с искусственным интеллектом, которая смогла самостоятельно распространяться через подключенные к сети умные телевизоры. Исследователи пояснили, что программа распределила части своих операций между 15 телевизорами, используя вычислительную мощность каждого устройства для продолжения работы несмотря на ограниченность индивидуальных ресурсов.
Природа угрозы и превосходство над традиционными вирусами
Черви на базе искусственного интеллекта отличаются от традиционных вирусов своей потенциальной способностью адаптироваться к различным операционным средам и использовать новые уязвимости безопасности для расширения сферы своего распространения, в частности в устройствах, известных как «интернет вещей» (IoT), таких как умные телевизоры и подключенные домашние устройства, которые часто получают обновления безопасности медленнее по сравнению с телефонами и компьютерами.
Исследователи компании предположили, что такие черви станут более жизнеспособными к концу 2026 года, если сохранится текущий темп развития моделей, способных выполнять сложные задачи с ограниченными вычислительными ресурсами. Эти угрозы напоминают исторические прецеденты тревожных атак, такие как червь Морриса 1988 года, червь Stuxnet и атаки WannaCry.
Дебаты между техническим предупреждением и раздуванием в СМИ
С другой стороны, некоторые эксперты считают, что текущие возможности червей с искусственного интеллектом не оправдывают их нахождение на вершине списка рисков. Ионас Гуан, аспирант Университета Торонто, отметил, что представленная Anthropic версия распространяется медленно. Хуан Андрес Герреро-Сайде, вице-президент по исследованиям в SentinelOne, усомнился в практическом эффекте эксперимента, посчитав его скорее технической демонстрацией, раздутой в СМИ.
Что меняется на практике?
- Атаки зависят от использования возможностей моделей для распределения программных операций вместо опоры на одно устройство.
- Потенциальные черви нацелены на уязвимые в плане безопасности устройства, которым не хватает регулярных обновлений.
- Электронные черви оставляют поведенческие паттерны, которые можно обнаруживать и блокировать с помощью базовых механизмов защиты, таких как надежные пароли и двухфакторная аутентификация.
Со своей стороны Ариэль Герберт-Фос, основатель компании RunSybil, подчеркнул, что текущая архитектура кибербезопасности не полностью готова к борьбе с распространением подобных угроз, призвав усилить ресурсы групп безопасности и оперативно устранять уязвимости. В этом же контексте другие эксперты, такие как Крис Инглис, бывший заместитель директора Агентства национальной безопасности США, считают, что принципы самораспространения и адаптации могут быть использованы в оборонительных приложениях для раннего обнаружения и устранения уязвимостей в сетях.