Исследователи из компании Pluto Security зафиксировали возобновление активной кампании вредоносного ПО, нацеленной на репозитории моделей искусственного интеллекта на платформе Hugging Face, где было выявлено 31 вредоносный репозиторий, распределенный по семи различным аккаунтам. Эта кампания направлена на похищение серверов графических процессоров (GPU), на которых запускаются серверы самостоятельного инференса, такие как Xinference и GPUStack, с целью незаконного майнинга криптовалюты.
Механизм атаки и обход проверок
Кампания не полагается на сложные методы, такие как отравление весов (Poisoned Weights), а эксплуатирует параметр trust_remote_code в Hugging Face, который позволяет моделям выполнять собственный программный код при их загрузке. Как только этот параметр активируется, вредоносный код устанавливает программу для майнинга криптовалюты, замаскированную под системный процесс в Linux, с дополнительными функциями для открытия обратного шелла (Reverse Shell), предоставляющего злоумышленникам прямой доступ к зараженному серверу.
Несмотря на то, что файлы, загружаемые на платформу, проходят проверки безопасности, используемые инструменты ориентированы на известное вредоносное ПО и небезопасные форматы моделей, а не на анализ поведения встроенного программного кода. Это позволило одной из вредоносных моделей обойти проверку и набрать более 28 000 загрузок.
Атака на ИИ-агентов для программирования
В связанном инциденте компания Air Security сообщила о наличии фальшивого репозитория на платформе GitHub под названием solana-starter-kit, специально созданного для обмана ИИ-агентов для программирования. Этот репозиторий направляет агентов на выполнение вредоносной команды, которая устанавливает инструмент удаленного доступа (NetSupport RAT), предоставляя злоумышленникам полный контроль над устройством разработчика.
Почему эта новость важна
Эти инциденты подчеркивают растущую уязвимость в цепочках поставок искусственного интеллекта. По мере того как разработчики все больше полагаются на готовые модели и автоматизированных ИИ-агентов, доверие к открытому исходному коду становится критической точкой уязвимости. Способность злоумышленников повторно развертывать свое вредоносное ПО в течение нескольких дней после его удаления указывает на серьезные проблемы, с которыми сталкиваются платформы при мониторинге динамического программного контента, что вынуждает организации тщательно проверять программные модели перед их запуском в производственных средах.