Cybersécurité

Une faille dans Hugging Face permet de détourner des modèles d'intelligence artificielle et d'empoisonner leurs résultats

Des chercheurs en sécurité ont révélé une faille dans la plateforme Hugging Face permettant de détourner les comptes de développeurs de modèles en prenant le contrôle de leurs domaines, ouvrant la voie à des attaques sur la chaîne d'approvisionnement en modifiant les poids des modèles sans les détecter.

2026-11-17
3 min de lecture
14 vues
certi.news Editorial Team
Une faille dans Hugging Face permet de détourner des modèles d'intelligence artificielle et d'empoisonner leurs résultats

Une équipe de chercheurs en sécurité a réussi à démontrer une faille de sécurité critique sur la plateforme Hugging Face, permettant à des attaquants de prendre le contrôle total des comptes de développeurs de modèles d'intelligence artificielle. Cette vulnérabilité a été illustrée par le détournement du compte du modèle Kokoro, un modèle populaire de conversion de texte par la parole (Text-to-Speech) très apprécié et utilisé dans des projets technologiques majeurs par des entreprises telles que Google, NVIDIA, AMD, Intel et Amazon Web Services.

Comment s'est déroulé le détournement ?

Les chercheurs, dirigés par Alon Hertz, ont exploité l'absence de mécanismes stricts de vérification de la propriété des comptes sur la plateforme. L'équipe a enregistré le nom de domaine internet qui était répertorié dans le fichier de dons du projet Kokoro, puis a utilisé ce domaine pour réinitialiser le mot de passe du compte du développeur sur Hugging Face, ce qui leur a accordé un accès complet au compte.

Qu'est-ce que cela signifie pour les utilisateurs ?

Les chercheurs ont expliqué que le véritable danger ne réside pas seulement dans le vol de compte, mais dans la capacité à mener des attaques sur la chaîne d'approvisionnement (Supply-Chain Attacks). Au lieu d'inclure des logiciels malveillants traditionnels pouvant être détectés par les antivirus, les chercheurs ont modifié les "poids" (Weights) du modèle neuronal lui-même. Cette modification amène le modèle à produire des résultats audio différents du texte saisi, tout en maintenant le code d'exécution et l'infrastructure du modèle inchangés. Cela rend l'attaque invisible pour les systèmes de scan traditionnels.

Pourquoi cette nouvelle est-elle importante ?

Cette intrusion met en lumière un problème de confiance plus large au sein de l'écosystème des modèles open source. Actuellement, la plateforme Hugging Face ne vérifie pas l'identité des éditeurs de modèles ni si le compte est toujours sous le contrôle de son propriétaire d'origine. Étant donné que de nombreux systèmes de production dépendent de mises à jour automatiques des modèles, toute mise à jour malveillante poussée via un compte piraté atteindra directement des milliers de systèmes dépendant de ce modèle, sans éveiller le moindre soupçon des outils de sécurité actuels.

Les chercheurs soulignent que le modèle Kokoro n'était qu'un exemple marquant et que n'importe quel compte sur la plateforme pourrait être vulnérable au même scénario, où les attaquants peuvent attendre longtemps avant de pousser une mise à jour malveillante du modèle, rendant la détection de telles attaques extrêmement difficile dans des environnements de travail réels.

Source de l’actualité
c
Auteur

certi.news Editorial Team

Dans la même catégorie

À lire également

Voir toutes les actualités