Исследование, проведенное Booz Allen, показало, что агенты искусственного интеллекта способны исследовать незнакомые среды операционных технологий (OT), адаптироваться к препятствиям и за считаные минуты вносить изменения, влияющие на физическое оборудование. Важность результатов связана с потенциальным переходом угрозы от цифрового взлома к управлению промышленными системами и физическим оборудованием.
Результаты исследования были представлены на конференции SecurityWeek по безопасности систем промышленного управления (ICS) в Нэшвилле до публичной публикации отчета. Компания проводила испытания в изолированной лаборатории OT с использованием передовых моделей искусственного интеллекта, которые не обладали предварительными знаниями о среде, включая исходный код, инженерную документацию или специализированные инструкции по OT.
Результаты испытаний
По словам исследователей, модели достигли каждой поставленной цели в восьми сценариях. Задачи не ограничивались одним шагом, а объединяли обнаружение активов, поиск характеристик устройств и планирование атаки — этапы, которые обычно распределены между несколькими людьми и командами.
В одном из испытаний модели перешли от периметрового взлома к выполнению действий внутри промышленной сети управления чуть более чем за 16 минут. В другом испытании модель обнаружила роботизированную руку, определила зоны ее защиты и пределы движения, а затем привела ее в движение за несколько минут.
Некоторые существующие средства защиты смогли блокировать или замедлить отдельные действия, однако исследование показало, что ни один из элементов контроля по отдельности не обеспечил стабильную остановку автономных моделей на пути к достижению целей в проверенных сценариях.
Что меняется на практике?
Исследование показывает, что различие заключается не только в способности искусственного интеллекта выполнять шаги атаки, но и в скорости объединения этапов, которые обычно требовали последовательного вмешательства человека. В средах OT такое ускорение может привести к физическим последствиям киберактивности еще до того, как команды безопасности успеют понять или прервать цепочку действий.
Booz Allen считает, что полагаться на неясность среды OT или отсутствие у злоумышленника знаний о ее деталях уже недостаточно, особенно если модели способны выводить характеристики устройств и взаимодействовать с системами посредством непосредственного исследования. Вместе с тем само исследование признает, что лаборатория компании не обязательно соответствует каждой корпоративной среде OT, что является важным ограничением при обобщении результатов.
Что рекомендует исследование?
Исследователи рекомендуют владельцам и операторам систем сосредоточиться на усложнении перемещения внутри среды, устранении неявного доверия, быстром обнаружении существенных промышленных изменений и сокращении диапазона воздействия злоумышленника после получения доступа — независимо от того, был ли доступ получен кибернетическим или физическим способом.
Значение термина «сверхинтеллект», использованного Booz Allen, остается неясным: на момент подготовки материала компания не уточнила, имеет ли она в виду передовой искусственный интеллект в общепринятом смысле или более конкретную концепцию. Испытания также не доказывают, что каждая промышленная среда столкнется с теми же результатами, однако дают практический сигнал о том, что отдельных средств защиты может быть недостаточно против агентов, способных действовать быстро и автономно.