Крупные финансовые институты начали вводить строгие ограничения на использование инструментов ИИ-агентов программирования, работающих на устройствах сотрудников, что отражает растущую обеспокоенность проблемами кибербезопасности и цепочками поставок программного обеспечения. В этом контексте газетные отчеты сообщают, что банк Goldman Sachs ограничил использование таких инструментов, как Claude Code от компании Anthropic и программные помощники GitHub для разработчиков; ограничения коснулись банкиров и трейдеров, за исключением некоторых финансовых компьютерных разработчиков, известных как «Strats».
Эти действия происходят на фоне растущих предупреждений со стороны руководителей технологического сектора, включая Амджада Масада, генерального директора Replit, который отметил, что запуск интеллектуальных агентов программирования непосредственно на конечных точках сотрудников представляет собой структурный риск безопасности для компаний и правительств. Масад пояснил, что кампании по ограничению этих инструментов расширяются в финансовом секторе с целью снижения рисков, связанных с атаками на цепочки поставок и компрометацией конфиденциальных учетных данных.
Риски программной уязвимости и защита учетных данных
Использование ИИ-агентов на устройствах пользователей приводит к проблемам, которые уже выходят за пределы банковского сектора, включая риск того, что долгосрочные ключи доступа и программные учетные данные могут быть прочитаны или повторно использованы вредоносными элементами. Эти вызовы побудили некоторых поставщиков внедрить использование краткосрочных токенов и заставить поставщиков отказаться от старых ключей.
Предупреждения о безопасности от таких технологических компаний, как Replit, указывают на предыдущие инциденты, в которых расширения инструментов программирования, распространяемые через цифровые магазины, использовались для взлома систем. Это подтверждает, что одного лишь доверия организации к разработчику недостаточно для предотвращения опасностей, если агент получает вредоносные инструкции или загружает зараженные программные зависимости.
Что фактически меняется для организаций?
Ограничения, вводимые крупными организациями, не означают полного прекращения использования искусственного интеллекта в программировании, а скорее требуют радикальных изменений в операционных средах. Современные технические рекомендации советуют переносить работу ИИ-агентов с локальных устройств сотрудников в специализированные облачные среды, контролируемые организацией, с разделением управления учетными данными, журналов аудита и процессов одобрения.
Эксперты подчеркивают, что компаниям необходимо установить строгий контроль над объемом полномочий и тем, к чему агенты могут иметь доступ, а не просто выбирать, кому разрешено использовать эти инструменты, на фоне ожиданий, что большее количество организаций примет подобные модели облачной изоляции для защиты своей критически важной инфраструктуры.