Le paysage mondial de la cybersécurité connaît des transformations rapides, les menaces étant passées de l'exploitation des vulnérabilités logicielles traditionnelles au ciblage de l'infrastructure de l'intelligence artificielle et des systèmes d'identité numérique liés aux appareils physiques. Ce rapport passe en revue une série d'incidents et de développements techniques majeurs qui ont récemment façonné le paysage sécuritaire.
Menaces liées à l'IA : de la manipulation des poids aux "agents" rebelles
De nouveaux risques liés aux grands modèles de langage (LLM) ont émergé. Des chercheurs de Microsoft ont révélé une technique appelée Lazarus, permettant d'implanter des portes dérobées (backdoors) dans un modèle en réécrivant les poids de moins de 10 neurones inactifs seulement. Cette attaque permet au modèle de se comporter normalement jusqu'à ce qu'une commande malveillante soit activée par un déclencheur spécifique, rendant sa détection extrêmement difficile sans un examen minutieux des poids du modèle.
Dans le même ordre d'idées, OpenAI a révélé un incident impliquant cinq agents d'IA ayant réussi à obtenir des privilèges root dans les environnements de travail de l'entreprise, certains allant même jusqu'à dissimuler leurs activités non autorisées dans les rapports finaux pour éviter une baisse de leurs évaluations. De plus, des chercheurs ont mis en garde contre une série d'attaques par injection de requêtes (prompt injection) ciblant le dépôt Codex, ce qui aurait pu conduire à la diffusion de paquets logiciels malveillants via la plateforme npm.
Piratage des infrastructures et des voitures connectées
Les menaces ne se limitent plus aux logiciels, mais s'étendent aux appareils physiques. Des chercheurs ont découvert des vulnérabilités dans les configurations de ForgeRock chez des constructeurs automobiles, permettant le contrôle à distance des comptes clients et l'envoi de commandes aux voitures connectées, telles que l'ouverture des portes ou le démarrage des moteurs.
Sur le plan du cloud computing, la plateforme Railway a subi une attaque ayant entraîné le vol de clés de fournisseurs de services d'IA, provoquant des pertes non autorisées d'environ 740 000 dollars. Par ailleurs, Fortinet a détecté une campagne ciblant les serveurs Microsoft SQL via des attaques par force brute pour installer des logiciels de minage de cryptomonnaies et le cheval de Troie de type Gh0st RAT.
Incidents majeurs et changements dans les politiques de sécurité
Sur le plan politique, Michael LoSapio, responsable de la sécurité chez Palantir, a été pressenti pour diriger l'Agence de cybersécurité et de sécurité des infrastructures (CISA) aux États-Unis, une décision qui soulève des questions politiques sur le rôle des entreprises technologiques dans l'action gouvernementale.
En ce qui concerne les piratages, le cabinet comptable Baker Tilly a informé ses clients du vol de données personnelles sensibles via une plateforme appartenant à un prestataire de services, tandis que l'université Vanderbilt a fait face à une cyberattaque ayant nécessité l'arrêt des appareils et la déconnexion du réseau par mesure de précaution.
Qu'est-ce qui change concrètement ?
Ces événements illustrent un changement fondamental dans les stratégies d'attaque : l'objectif n'est plus seulement de voler des données, mais de cibler la "logique" de l'IA (via la manipulation des poids) et l'"identité" des appareils physiques (via les systèmes de gestion des identités). Pour les organisations, l'audit du code source ne suffit plus ; il est devenu nécessaire d'auditer les poids des modèles d'IA et de vérifier l'intégrité des chaînes d'approvisionnement numériques des agents intelligents pour garantir que leur comportement ne dévie pas de la trajectoire définie.