De petits modèles d’intelligence artificielle pourraient être capables, d’ici quelques mois, de se copier et de se propager entre des appareils commerciaux de l’Internet des objets, selon une étude menée par l’équipe Frontier Red Team d’Anthropic. Ce scénario diffère des logiciels malveillants traditionnels en ce que le modèle lui-même s’exécute sur l’appareil infecté, ce qui supprime le point de contrôle centralisé pouvant être désactivé pour interrompre l’attaque.
Les chercheurs ont testé 15 récepteurs de télévision fonctionnant sous Android, au prix d’environ 55 dollars l’unité. Un modèle à poids ouverts comptant 26 milliards de paramètres a réussi à fonctionner de manière distribuée entre eux, à une vitesse de 0,39 jeton par seconde. L’expérience s’est concentrée sur la capacité des modèles à exécuter l’inférence sur du matériel inhabituel, plutôt que sur l’étude de l’exploitation de vulnérabilités, un aspect abordé par des recherches antérieures.
Résultats des tests
Un modèle comptant 9 milliards de paramètres a réussi à exécuter l’inférence sur huit des neuf types de matériel testés par l’équipe. Les chercheurs ont ensuite testé le cycle complet de réplication sur un réseau fermé comprenant huit appareils Android simulés, en simplifiant délibérément l’étape du piratage.
Parmi les modèles à poids ouverts testés, GLM-5.2 a achevé le cycle et atteint les huit appareils lors de quatre tentatives sur cinq. Anthropic décrit ce résultat comme une limite supérieure du succès attendu dans le monde réel, et non comme un indicateur d’un taux de propagation réel.
Qu’est-ce qui pourrait changer concrètement ?
Les modèles comptant 30 milliards de paramètres ou moins sont déjà capables d’exécuter un grand nombre d’étapes individuelles, mais ils commettent des erreurs lorsqu’elles sont enchaînées en une seule séquence. Sur la base du rythme historique d’amélioration, Anthropic prévoit que ces modèles atteindront le niveau de GLM-5.2 d’ici la fin de 2026, ce qui pourrait rendre possibles, peu après, de « petits réplicateurs fondés sur les poids ».
La comparaison effectuée par l’entreprise indique qu’un réseau de la taille du réseau Kimwolf, qui a infecté plus de deux millions d’appareils, pourrait héberger environ 133 000 copies d’un modèle de 26 milliards de paramètres si chacun des 15 appareils exécutait une copie. Toutefois, la capacité de calcul cumulée ne dépasserait pas environ 40 unités de traitement graphique Nvidia H100, et chaque réplication pourrait prendre plus d’une journée, ce qui signifie que la propagation serait lente et coûteuse en calcul.
Avantages défensifs et limites actuelles
Contrairement aux réseaux de robots traditionnels conçus pour des types d’appareils spécifiques, un ver fondé sur l’intelligence artificielle pourrait être capable de s’adapter à du matériel inhabituel. Mais le transfert de modèles volumineux et un trafic continu entre des appareils qui ne communiquent généralement pas pourraient être clairement visibles dans les systèmes de surveillance des fournisseurs d’accès à Internet. La suppression des mots de passe par défaut et l’amélioration des paramètres de sécurité chez les fabricants pourraient également réduire le nombre d’appareils exposés aux attaques.
Conclusion éditoriale : les expériences ne prouvent pas l’existence actuelle d’un réplicateur malveillant capable de se propager dans un environnement ouvert ; le cycle a été testé sur un réseau fermé et avec une étape de piratage simplifiée. Elles montrent toutefois que le risque futur ne dépend pas seulement de l’augmentation de la taille des modèles, mais aussi de leur capacité à combiner les tâches d’exploration, d’exécution et de réplication, ainsi qu’à transmettre ce qu’ils apprennent à d’autres copies.