Des chercheurs de la société Pluto Security ont détecté le retour actif d'une campagne de logiciels malveillants ciblant les dépôts de modèles d'intelligence artificielle sur la plateforme Hugging Face, avec l'identification de 31 dépôts malveillants répartis sur sept comptes différents. Cette campagne vise à détourner des serveurs équipés d'unités de traitement graphique (GPU) qui hébergent des serveurs d'inférence auto-hébergés tels que Xinference et GPUStack, dans le but de miner illégalement des cryptomonnaies.
Mécanisme de l'attaque et contournement de l'analyse
La campagne ne s'appuie pas sur des techniques complexes telles que l'empoisonnement de poids (Poisoned Weights), mais exploite l'option trust_remote_code dans Hugging Face, qui permet aux modèles d'exécuter leur propre code personnalisé lors de leur chargement. Une fois cette option activée, le code malveillant installe un logiciel de minage de cryptomonnaies déguisé en processus système sous Linux, avec des fonctionnalités supplémentaires pour ouvrir un shell inversé (Reverse Shell) donnant aux attaquants un accès direct au serveur infecté.
Bien que les fichiers téléchargés sur la plateforme soient soumis à des contrôles de sécurité, les outils utilisés se concentrent sur les logiciels malveillants connus et les formats de modèles non sécurisés, plutôt que d'analyser le comportement du code inclus. Cela a permis à l'un des modèles malveillants de contourner l'analyse et d'atteindre plus de 28 000 téléchargements.
Ciblage des agents de programmation en intelligence artificielle
Dans un contexte connexe, la société Air Security a révélé l'existence d'un faux dépôt sur la plateforme GitHub nommé solana-starter-kit, spécialement conçu pour tromper les agents de programmation pilotés par l'intelligence artificielle. Ce dépôt amène les agents à exécuter une commande malveillante qui installe un outil d'accès à distance (NetSupport RAT), donnant ainsi aux attaquants un contrôle total sur l'appareil du développeur.
Pourquoi cette nouvelle est-elle importante ?
Ces incidents mettent en lumière une vulnérabilité croissante dans les chaînes d'approvisionnement en intelligence artificielle. Avec la dépendance accrue des développeurs envers les modèles prêts à l'emploi et les agents de programmation automatisés, la confiance dans le code source ouvert est devenue un point faible critique. La capacité des attaquants à redéployer leurs logiciels malveillants quelques jours seulement après leur suppression indique les défis majeurs auxquels font face les plateformes pour surveiller le contenu de code dynamique, ce qui impose aux organisations de minutieusement analyser les modèles logiciels avant de les exécuter dans des environnements de production.