Avertissements d'Anthropic et scénario prévu
Une recherche récente menée par l'équipe "Frontier Red Team" de la société Anthropic a suscité de nouvelles inquiétudes techniques, indiquant que les petits modèles d'intelligence artificielle pourraient devenir capables de se reproduire et de se propager via des appareils non sécurisés en l'espace de quelques mois seulement. Cette évolution pourrait mener à l'émergence de réseaux de botnets autonomes, caractérisés par leur capacité à survivre, à fonctionner de manière indépendante et à être difficiles à réprimer.
Bien que les entreprises d'intelligence artificielle soient parfois accusées d'exagérer les risques à des fins marketing, les experts s'accordent à dire que la probabilité que les petits modèles puissent s'auto-répliquer est une possibilité réelle et très proche. Les experts attribuent l'accélération de cette évolution à l'utilisation par les chercheurs des laboratoires d'IA des outils d'IA eux-mêmes dans les processus de recherche et de développement de l'apprentissage automatique, créant ainsi un cercle vicieux d'accélération technique.
Entre innovation et répétition de l'histoire
Lors de l'analyse de cette menace, une question fondamentale surgit : sommes-nous face à un type d'attaque totalement nouveau ? Le professeur Michael Bailey de l'Université de Géorgie Tech, expert dans l'étude des vers numériques et des réseaux de botnets, estime que la menace n'est peut-être pas aussi nouvelle que ce que décrit Anthropic. Historiquement, des attaques telles que Mirai en 2016 ont prouvé que des appareils simples de l'Internet des objets (IoT), comme des routeurs et des caméras, pouvaient être exploités pour construire de vastes réseaux d'attaque.
La différence fondamentale soulevée par Anthropic réside dans la capacité d'automatisation de l'intelligence artificielle. Alors que les botnets traditionnels nécessitaient un effort humain pour reprogrammer les logiciels malveillants afin qu'ils fonctionnent sur différentes architectures de processeurs, l'IA peut accomplir cette tâche automatiquement, conférant aux attaques une capacité supérieure d'adaptation aux appareils non familiers sans intervention humaine.
Qu'est-ce qui change réellement dans le paysage de la sécurité ?
Au lieu d'inventer de nouvelles méthodes d'attaque, l'intelligence artificielle semble vouloir changer l'économie de l'attaque. Ce qui change concrètement est la réduction du coût et de l'effort requis pour les attaquants ; les modèles intelligents peuvent jouer le rôle de "dropper" (logiciel de largage) qui s'installe sur l'appareil, puis coordonne les opérations et distribue les tâches à travers le réseau.
Cependant, les experts émettent des réserves techniques sur le terme « auto-réplication » utilisé par Anthropic. Ce qui se produit pourrait être plus proche d'un processus de partitionnement de modèles (sharding) que d'une propagation complète d'une copie identique du code source, comme le font les vers traditionnels. De plus, la capacité de l'IA à modifier son comportement (polymorphisme) nécessite de réentraîner les modèles eux-mêmes, ce que Anthropic n'a pas encore pleinement prouvé être possible avec ses modèles.
La solution réside-t-elle dans de nouvelles technologies ?
Contrairement aux prévisions suggérant que nous aurons besoin de défenses d'IA complexes pour faire face à ces menaces, les analystes indiquent que les solutions pourraient rester très « traditionnelles ». Faire face aux vers d'IA reposera principalement sur les principes fondamentaux de la cybersécurité que nous avons appris au fil des décennies, notamment :
- Mise à jour continue (Patching) : combler les vulnérabilités des appareils dès leur découverte.
- Isolation : empêcher les appareils infectés de communiquer avec le reste du réseau.
- Gestion de l'identité : utiliser des mots de passe forts et éviter les paramètres par défaut faibles sur les appareils IoT.
En fin de compte, le défi ne réside pas dans le manque de solutions, mais dans la difficulté de mettre en œuvre ces pratiques de sécurité fondamentales à grande échelle dans un monde rempli d'appareils connectés et non sécurisés.