L’intelligence artificielle n’est plus un outil marginal dans les cyberattaques : un rapport publié par le Google Threat Intelligence Group en mai 2026 affirme que l’intelligence artificielle générative s’intègre à l’échelle industrielle dans les flux de travail des attaquants et que son utilisation apparaît désormais à presque toutes les étapes de l’attaque. Selon l’article publié par ITmedia AI Plus, le groupe a détecté pour la première fois un acteur malveillant tentant d’utiliser un exploit visant une vulnérabilité zero-day développé avec l’aide de l’intelligence artificielle.
La vulnérabilité a été utilisée dans une tentative visant un outil open source de gestion web et permettait de contourner l’authentification à deux facteurs. Plus important encore, elle ne résultait pas d’une erreur d’implémentation classique, comme une corruption de mémoire, mais d’un défaut logique avancé dans la conception de l’application. Cela indique que les grands modèles de langage capables de lire le contexte et de raisonner pourraient contribuer à détecter des erreurs logiques que les outils traditionnels d’analyse des vulnérabilités n’étaient pas en mesure de repérer.
Le problème ne réside pas uniquement dans l’intelligence artificielle, mais aussi dans la facilité d’y accéder
L’article indique que les attaques observées reposaient principalement sur des comptes commerciaux de modèles fermés qui avaient été compromis ou utilisés à mauvais escient. Mais la diffusion des modèles à poids ouverts change l’équation sous un autre angle : une fois les poids du modèle téléchargés, son utilisation est moins soumise à la surveillance de son développeur, et il devient plus difficile pour l’éditeur de le retirer ou d’imposer ultérieurement des contrôles.
Daisuke Fuji, responsable des activités de cybersécurité chez Accenture Japon, a expliqué que la différence fondamentale entre les modèles fermés et les modèles à poids ouverts concerne la capacité du développeur à contrôler leur utilisation. Les modèles fermés associent généralement des contrôles de sécurité, l’enregistrement des comptes, des conditions d’utilisation et une surveillance de l’activité. Les modèles à poids ouverts peuvent quant à eux être modifiés ou réentraînés afin d’affaiblir leur tendance à refuser les comportements nuisibles, notamment en produisant des versions décrites comme « non censurées ».
Les attaquants n’ont pas besoin de posséder le meilleur modèle disponible. Selon Fuji, même les modèles moins performants que les modèles fermés d’Anthropic et d’OpenAI peuvent trouver un grand nombre de vulnérabilités. La découverte de vulnérabilités profondes restées indétectées pendant des décennies pourrait nécessiter un modèle plus avancé, mais les criminels motivés par l’argent privilégient généralement des cibles pouvant être attaquées rapidement et à faible coût.
Qu’est-ce qui change concrètement pour les organisations ?
Ces évolutions ne signifient pas que les attaques se transformeront immédiatement en opérations entièrement autonomes gérées par des machines. Fuji estime que l’usage dominant consiste encore à assister les humains, car l’exécution de modèles avancés à grande échelle nécessite des unités de traitement graphique et des ressources serveur limitées et coûteuses. L’utilisation la plus réaliste actuellement consiste à accélérer la reconnaissance : repérer les sites web potentiels, analyser un grand nombre de cibles et trouver les systèmes pouvant être attaqués rapidement.
Mais la réduction du coût de la reconnaissance pourrait élargir la liste des cibles. Des systèmes qui semblaient économiquement peu intéressants pourraient devenir ciblables s’il est possible de recueillir automatiquement des informations les concernant. Cela concerne notamment les secteurs de la finance et des cryptomonnaies, ainsi que les entreprises d’intelligence artificielle elles-mêmes. Le rapport du GTIG indique que l’intelligence artificielle est devenue à la fois un moteur avancé de l’attaque et une cible à forte valeur : des attaques visant la chaîne d’approvisionnement logicielle de l’intelligence artificielle ont été observées, notamment l’insertion de codes malveillants dans des paquets de compétences personnalisés pour les agents d’intelligence artificielle et la compromission de passerelles reliant plusieurs grands modèles de langage.
La défense commence par l’hypothèse que la compromission réussira
La principale conclusion pratique de l’article est qu’empêcher toutes les attaques n’est plus une base réaliste pour élaborer un plan de protection. Fuji recommande de prendre des mesures visant à réduire les dommages après une compromission, comme l’élaboration de plans de continuité d’activité, la conservation de sauvegardes des données et la division des réseaux en zones plus petites au moyen de la microsegmentation du réseau. Ces mesures n’empêchent pas toutes les compromissions, mais elles visent à limiter la propagation de l’attaquant et à accélérer la reprise des opérations, des principes bien connus dans la lutte contre les rançongiciels.
La réduction des informations exposées publiquement devient également plus importante. Le modèle peut recueillir de petits indices, comme les technologies annoncées lors d’événements publics ou les détails du code des pages web, puis élaborer des hypothèses sur l’environnement de l’organisation. Fuji présente la déception défensive, c’est-à-dire la fourniture d’informations fausses destinées à tromper le raisonnement de l’attaquant, comme l’une des options possibles.
Gérer la dette de correctifs et utiliser l’intelligence artificielle avec prudence
L’article attire également l’attention sur le problème de la « dette de correctifs » : l’accumulation de vulnérabilités qui n’ont pas été corrigées en raison de la difficulté à tester les mises à jour, à préparer les procédures et à effectuer les vérifications après leur déploiement. Fuji affirme que les entreprises japonaises pourraient être particulièrement touchées par la complexité des systèmes et le temps requis par les opérations précédant et suivant l’installation des correctifs. Parmi les tendances qu’il a mentionnées figurent la réduction de la surface des systèmes nécessitant des correctifs grâce à la migration vers le cloud, ainsi que l’utilisation de l’intelligence artificielle pour accélérer les tests et les vérifications.
Toutefois, l’utilisation de l’intelligence artificielle à des fins défensives comporte un risque inverse. Si une organisation envoie son code ou les données de son environnement à un fournisseur, puis que celui-ci est victime d’une attaque, l’outil de protection peut devenir une source d’informations pour l’attaquant. Il convient donc de vérifier où les données sont stockées et si elles seront utilisées pour l’entraînement avant de mettre en place un environnement d’analyse des vulnérabilités par intelligence artificielle. L’article indique que l’intérêt pour l’intelligence artificielle souveraine, qui maintient l’outil sous le contrôle de l’organisation, augmente parmi les clients d’Accenture.
Lecture éditoriale de certi.news : le véritable changement n’est pas l’apparition d’attaques entièrement autonomes, mais la baisse du coût de la recherche de cibles et de vulnérabilités exploitables. Cela accroît la valeur de la résilience opérationnelle et de la réduction de la surface d’information exposée, parallèlement à l’analyse proactive, aux tests d’intrusion et aux exercices d’équipes rouges. La source souligne que les défenseurs disposent d’un avantage important : une connaissance plus étendue de leurs environnements. Toutefois, la capacité à tirer parti de cet avantage dépendra de la qualité des données, des contrôles de partage de l’information et de la capacité des organisations à traiter ce qu’elles découvrent avant que l’attaquant ne les devance.