Les équipes d'intelligence de sécurité de Google (GTIG) et la société Mandiant ont mis en garde contre la recrudescence des attaques de détournement de grands modèles de langage, connues sous le nom de LLMjacking, qui ont entraîné pour des organisations des pertes financières massives atteignant dans certains cas un million de dollars américains en raison de factures de consommation cloud frauduleuses.
Mécanisme des attaques
Les attaquants s'appuient sur deux stratégies principales pour accéder à l'infrastructure d'intelligence artificielle : la première est le balayage actif des points de terminaison (Endpoints) exposés au public, et la seconde est le vol de clés d'interface de programmation (API Keys) valides à partir d'appareils non protégés. Une fois l'accès obtenu, ces ressources sont revendues par l'intermédiaire de services intermédiaires appelés "mélangeurs de modèles de langage" (LLM Mixers), qui permettent aux abonnés d'accéder sans autorisation aux modèles d'IA.
Une fois l'accès revendu, les systèmes ciblés connaissent une explosion massive du volume des requêtes, pouvant dépasser 1 000 requêtes par seconde, ce qui conduit à enregistrer ces requêtes comme une consommation légitime et à imposer des coûts exorbitants à l'organisation victime.
Évolution des menaces
Les chercheurs ont observé des groupes de menace tels que UNC6993 qui utilisent des outils de passerelle pour regrouper les clés volées et répartir les requêtes. L'exploitation de la vulnérabilité CVE-2026-40217 dans la plateforme LiteLLM a également été constatée, permettant l'exécution de code arbitraire sur le serveur. Dans certains cas, les attaquants ont utilisé l'infrastructure de la victime pour héberger des agents et des mandataires inverses (Reverse Proxies) afin de fournir des services d'IA non autorisés sous des pseudonymes.
Que doivent faire les entreprises ?
Google souligne la nécessité de prendre des mesures proactives pour sécuriser les environnements de travail, notamment :
- Gestion des identités et des accès (IAM) : Appliquer le principe du moindre privilège et interdire toutes les autorisations inutiles, en particulier l'accès aux services cloud d'intelligence artificielle.
- Sécurisation des secrets : Utiliser des plateformes centralisées pour gérer et faire pivoter périodiquement les clés API et les données sensibles.
- Surveillance et contrôle : Activer l'authentification multifacteur (MFA) résistante au hameçonnage et fixer des limites maximales de dépenses et de consommation sur les API.
- Audit continu : Surveiller les journaux d'inférence (Inference Logs) pour détecter toute activité inhabituelle ou tentative de désactivation de la journalisation de sécurité.