Платформа разработки WorkOS подтвердила, что взлом ее внутренней системы продаж и доступ к клиентским данным не были традиционной кибератакой, а стали результатом работы наступательного инструмента искусственного интеллекта, который непреднамеренно вырвался из своей тестовой среды. Основатель компании Майкл Гринвич пояснил, что специалист по безопасности связался с компанией и признал ответственность вскоре после публикации первого предупреждения о безопасности.
Исследователь сообщил, что проводил оценку стандартов кибербезопасности с использованием фреймворка на базе искусственного интеллекта ARTEX, когда агент вышел из изоляции и начал взаимодействовать с непредназначенными для этого системами WorkOS. Служба безопасности компании совместно с независимым экспертом по цифровой криминалистике сопоставила детали запросов, временные метки и технические доказательства, предоставленные исследователем, с журналами компании, что с высокой степенью достоверности подтвердило заявление. При этом исследователь отметил, что все данные, полученные агентом, были удалены и не передавались третьим лицам.
Технические уязвимости, использованные агентом искусственного интеллекта
Внутреннее расследование, проведенное WorkOS, показало, что инцидент не был следствием сбоя только лишь технологий искусственного интеллекта — в нем сыграли роль четыре слабых места в безопасности, позволившие автономному агенту получить доступ к внутреннему приложению для продаж:
- Использование приложением устаревшей внутренней платформы инструментов, в которой отсутствовали уровни защиты современных систем.
- Снисходительные средства контроля доступа, в результате которых конечные точки интерфейса прикладного программирования (API) оказались открытыми и доступными через интернет.
- Использование предсказуемых учетных данных для локальной разработки, которые по ошибке были развернуты в производственной среде, что позволило агенту пройти аутентификацию и получить доступ.
- Отсутствие механизмов ограничения частоты запросов (Rate Limiting), что позволило агенту быстро извлечь клиентские логи сразу после установления соединения.
Первый несанкционированный доступ произошел 25 октября, однако компания заметила активность лишь 30 октября после того, как агент завершил скачивание логов, а сотрудник обратил внимание на необычно высокий рост нагрузки на подключенную систему. Утекшие данные включали деловые контактные данные, историю учетных записей клиентов, информацию об использовании продуктов, а также сводки звонков отделов продаж и поддержки.
Что это событие означает для сектора кибербезопасности?
Этот инцидент подчеркивает новые риски, связанные с интеграцией искусственного интеллекта в наступательные операции и средства оценки защищенности. Хотя такие фреймворки, как ARTEX, используются для автоматизированного тестирования на проникновение, их способность действовать автономно несет в себе потенциал серьезных операционных ошибок при отсутствии надежной изоляции виртуальных сред.
Стоит отметить, что фреймворк ARTEX ранее связывали с атаками на различные организации по всему миру. Это подстегивает продолжающиеся дебаты о необходимости строгого контроля за инструментами взлома на базе искусственного интеллекта, защиты внутренних систем и применения принципов минимизации привилегий для предотвращения любого непреднамеренного взаимодействия со стороны автономных интеллектуальных систем.