Растёт число сообщений об утечках данных и атаках вымогателей, затрагивающих японские компании, однако самый сложный вопрос заключается не только в том, используется ли искусственный интеллект атакующими, но и в том, насколько фактически он способствует ускорению атак и расширению их масштабов. Чтобы получить более реалистичную картину, ITmedia AI Plus опросило пять технологических организаций: Hitachi, Fujitsu, Accenture, IBM и неназванного поставщика.
Рост числа атак не подтверждён однозначными цифрами
Оценки пяти организаций относительно роста числа атак в последнее время различались. Hitachi заявила, что объём и скорость атак увеличились, отметив, что, по её оценке, с развитием искусственного интеллекта период между публикацией информации об уязвимости и её эксплуатацией сократился с недель до часов. Accenture также сообщила о заметном росте числа случаев, с которыми работают команды центров управления безопасностью и реагирования на инциденты, однако не представила отдельной статистики по Японии.
В свою очередь, IBM предостерегла от того, чтобы считать количество опубликованных объявлений прямым показателем активности атак, поскольку инциденты, о которых сообщается в течение месяца, могли произойти задолго до этого. Неназванный поставщик указал, что с сентября появилось более 70 сообщений о несанкционированном доступе или аналогичном ущербе, однако эти цифры могут включать взломы, произошедшие в июле и августе, а также быть завышены из-за того, что несколько компаний объявили о пострадавших от одного сервиса или платформы.
Какие есть доказательства использования искусственного интеллекта атакующими?
Hitachi считает использование искусственного интеллекта атакующими вероятным, тогда как Accenture заявила, что её команда по анализу информации об угрозах выявила случаи, связанные с агентами искусственного интеллекта, и что операции по взлому постепенно переходят к моделям, в которых автоматизированный агент становится центральным элементом процесса вместо полной зависимости от оператора-человека.
Однако IBM и Fujitsu подчеркнули ограничения того, что можно доказать на основании опубликованных инцидентов. По данным IBM, случаи, подробности которых были раскрыты публично, не продемонстрировали подтверждённых доказательств использования искусственного интеллекта. Тем не менее компания считает, что игнорировать вероятность его использования атакующими нелогично, поскольку передовые модели доступны через недорогие облачные API. Другой поставщик также предположил, что эти инструменты могут использоваться для поиска уязвимостей в доступных через интернет веб-системах, не утверждая этого наверняка в конкретных случаях.
Что практически меняется для компаний?
Рекомендации организаций, участвовавших в опросе, сходятся в том, что приоритетом является не покупка нового инструмента искусственного интеллекта, а понимание того, что именно нужно защищать в первую очередь. Эти шаги включают определение систем и ключевых активов, необходимых для непрерывности бизнеса, сокращение числа общедоступных сервисов и данных, установку исправлений, а также проверку надёжности механизмов аутентификации и уязвимостей в интернет-интерфейсах.
Accenture и Hitachi также рекомендовали постоянно отслеживать поверхность атаки и необычные соединения, тогда как в рекомендациях подчёркивалась важность проверки данных третьих сторон, включая порядок их удаления после завершения договора. Эксперты считают, что планы реагирования и обучение действиям при инцидентах должны строиться исходя из предположения, что взлом может произойти, а не из обещания полностью его предотвратить.
Где искусственный интеллект помогает в защите?
Hitachi привела пример сокращения времени подготовки моделей угроз с недель до часов в проведённом ею тесте, тогда как Accenture заявила, что некоторые работы по проверке уязвимостей и кода, на которые раньше уходили недели или месяцы, в коротких случаях можно выполнить за несколько дней. IBM выделила три перспективных направления: мониторинг и анализ угроз в центрах управления безопасностью, обнаружение и оценку уязвимостей, а также расстановку приоритетов при установке исправлений с учётом рисков.
Однако скорость не означает, что принятие решений следует полностью передавать системе. Hitachi и Fujitsu подчеркнули необходимость сочетать анализ искусственного интеллекта с экспертной оценкой, тогда как другой поставщик предупредил, что решения об остановке систем или принятии рисков по-прежнему являются управленческими решениями. Редакционный вывод: ответы компаний показывают, что самое важное изменение заключается в потенциальном повышении скорости атаки, а не в исчезновении базовых принципов безопасности. Поэтому практический вопрос для компаний по-прежнему состоит в том, что необходимо защищать, что можно отключить и как они восстановят работу, если атакующие преодолеют первые рубежи.