La société Google, représentée par son groupe de veille sur les menaces cyber (GTIG), a averti que les acteurs malveillants s'appuient de plus en plus sur des flux de travail basés sur des agents intelligents (Agentic Workflows) et des frameworks d'attaque propulsés par l'intelligence artificielle pour automatiser les processus de découverte et d'exploitation des vulnérabilités de sécurité, accélérant ainsi le rythme des attaques pour atteindre la vitesse de la machine.
Les rapports de Google ont indiqué que l'utilisation expérimentale initiale de l'intelligence artificielle dans les cyberattaques s'est transformée en une adoption à grande échelle par des groupes de pirates soutenus par des États et des organisations motivées par des appât du gain. Parmi les exemples les plus documentés figure l'utilisation du framework de test d'intrusion open source nommé CAIRN lors d'une attaque ciblant le secteur aéronautique américain, ainsi que des soupçons d'implication de pirates liés à la Corée du Nord dans l'utilisation de l'outil Claude Code pour diffuser des logiciels malveillants.
Prévisions d'une transition vers une autonomie complète
Les recherches en sécurité estiment que les acteurs malveillants seront capables au cours des trois prochains mois de lancer des attaques simples nécessitant une intervention humaine minime ou nulle, reposant principalement sur des agents d'intelligence artificielle multiples. Plus grave encore est la prévision de l'émergence d'attaques automatisées sophistiquées et totalement autonomes au cours du second semestre de cette année.
Cela concorde avec un avertissement précédent émis par le Federal Bureau of Investigation (FBI) concernant le fait que plusieurs acteurs malveillants ont militarisé le framework de test d'intrusion ARTEX depuis le mois d'août, et ont lancé des attaques ciblant des institutions dans les secteurs gouvernemental, de la défense, financier, technologique et de la santé.
Exploitation de frameworks open source
Google a expliqué que les attaquants exploitent continuellement des frameworks de test d'intrusion open source tels que ARTEX, CAIRN, CyberStrikeAI et HexStrike AI pour mener des attaques adaptatives contre les points de terminaison exposés sur Internet et vulnérables à des failles de faible complexité, pour lesquelles les grands modèles de langage peuvent facilement construire des exploits.
Dans un exemple notable du rapport du traqueur de menaces liées à l'intelligence artificielle de Google, des pirates ont utilisé un système multi-agents appelé exploit_agent pour automatiser entièrement le processus de recherche et d'exploitation des vulnérabilités sans intervention humaine contre des sites web français opérant dans les secteurs des médias, du divertissement et de l'éducation.
Qu'est-ce que cette évolution change concrètement ?
Cette transition technologique représente une pression énorme pour les équipes de défense et de cybersécurité, car le déploiement de ces frameworks d'attaque a considérablement réduit le temps dont disposent les défenseurs pour corriger leurs systèmes, tout en générant de fausses pistes et de fausses informations, à l'instar des vulnérabilités PHP2Shell qui ont produit des centaines de preuves de concept d'exploitation générées par l'intelligence artificielle, multipliant ainsi la charge de vérification et de renforcement pour les équipes de protection des systèmes.