Maher Yamout, старший исследователь безопасности в Глобальной команде исследований и анализа Kaspersky (GReAT), предупредил, что неконтролируемое использование систем искусственного интеллекта может добавить в организации новые уязвимости и риски, особенно в государственных структурах и у операторов критически важной инфраструктуры.
В заявлении агентству Anadolu Yamout сказал, что всё больше организаций начали использовать искусственный интеллект без достаточной оценки рисков безопасности, связанных с его эксплуатацией и интеграцией в существующие системы. По его словам, проблема включает случаи, когда системам предоставляются более широкие, чем необходимо, права доступа для выполнения задач.
Полномочия и данные в центре риска
Исследователь объяснил, что взлом системы искусственного интеллекта может позволить злоумышленнику воспользоваться полномочиями, предоставленными организацией самой системе. Риск может распространяться и на данные, которые система собирает во время работы, поскольку эта информация может стать целью кражи, если злоумышленнику удастся получить над ней контроль.
Согласно предупреждению, речь идёт не только о доступе к базам данных, но и о системах и сервисах, с которыми связан искусственный интеллект. Чем шире область доступа, тем больше ресурсов можно использовать в случае взлома.
Что следует пересмотреть организациям?
Yamout призвал каждую организацию, использующую искусственный интеллект, провести комплексную оценку, определяющую цель использования системы, данные, к которым она может получить доступ, и связанные с ней системы. Он также подчеркнул необходимость сохранять полномочия на минимально возможном уровне и предоставлять системе только данные, необходимые для выполнения её задачи.
Он также указал на необходимость контролировать подключение системы к интернету, предупредив, что неконтролируемый доступ может привести к утечке конфиденциальной информации. Эти рекомендации показывают, что внедрение искусственного интеллекта в операционную среду не следует рассматривать как добавление изолированного программного компонента; напротив, это новый элемент, полномочия и соединения которого необходимо определять и контролировать.
Организации в Турции по-прежнему подвергаются атакам
Yamout связал риски искусственного интеллекта с более широким контекстом деятельности кибершпионажа, поддерживаемой государствами. Он сказал, что группы постоянной угрозы (APT) меняют свои методы в зависимости от региональных и глобальных событий и нацеливаются на государственные и финансовые организации, а также на структуры, хранящие конфиденциальные данные.
Он объяснил, что главная цель этих групп — оставаться внутри систем как можно дольше незамеченными, чтобы собирать данные. Он добавил, что информация становится более ценной для злоумышленников в периоды геополитической напряжённости, отметив, что различные группы APT атаковали Турцию в последние месяцы и в прошлом году.
Мнение certi.news
Практическое изменение, на которое указывает это предупреждение, заключается не в появлении конкретной уязвимости в определённом продукте, а в переходе искусственного интеллекта в положение, при котором он иногда обладает широкими полномочиями, данными и соединениями. Поэтому сокращение полномочий и контроль доступа должны предшествовать расширению использования, особенно в критически важных средах.
Источник также подтверждает, что одних технических решений недостаточно: Yamout подчеркнул важность повышения осведомлённости сотрудников о рисках фишинга и социальной инженерии. В заявлении не приводятся подробности конкретного инцидента взлома или методика измерения уровня риска, поэтому рекомендации остаются общими, и каждой организации необходимо адаптировать их в рамках отдельной оценки своих систем и данных.