Anthropic a récemment mis en garde contre une évolution rapide des menaces de cybersécurité alimentées par l'intelligence artificielle, avec des probabilités accrues d'émergence de vers informatiques capables de se copier et de se propager automatiquement entre les appareils connectés à Internet sans intervention humaine directe.
L'équipe de recherche offensive de l'entreprise a révélé, dans un rapport récemment publié, le développement d'un logiciel malveillant d'intelligence artificielle capable de se propager de manière autonome sur des téléviseurs intelligents connectés au réseau. Les chercheurs ont expliqué que le logiciel a réparti des parties de ses opérations sur 15 téléviseurs, exploitant la capacité de calcul de chaque appareil pour continuer à fonctionner malgré des ressources individuelles limitées.
Nature de la menace et dépassement des virus traditionnels
Les vers basés sur l'intelligence artificielle diffèrent des virus traditionnels par leur capacité potentielle à s'adapter à différents environnements d'exploitation et à exploiter de nouvelles failles de sécurité pour étendre leur portée, en particulier dans les appareils dits "Internet des objets" (IoT) tels que les téléviseurs intelligents et les appareils domestiques connectés, qui reçoivent souvent des mises à jour de sécurité à un rythme lent par rapport aux téléphones et aux ordinateurs.
Les chercheurs de l'entreprise ont estimé que ces vers pourraient devenir plus réalisables d'ici la fin de 2026 si le rythme actuel de développement des modèles capables d'exécuter des tâches complexes avec des ressources informatiques limitées se poursuit. Ces menaces rappellent un historique d'attaques préoccupantes telles que le ver Morris de 1988, le ver Stuxnet et les attaques WannaCry.
Débat entre avertissement technique et battage médiatique
En revanche, certains experts estiment que les capacités actuelles des vers d'intelligence artificielle ne justifient pas qu'ils figurent en tête de liste des risques. Jonas Guan, chercheur en doctorat à l'Université de Toronto, a souligné que la version présentée par Anthropic se propage lentement. Juan Andrés Guerrero-Saade, vice-président de la recherche chez SentinelOne, a quant à lui remis en question l'impact pratique de l'expérience, la considérant plutôt comme une démonstration technique amplifiée par les médias.
Qu'est-ce qui change concrètement ?
- Les attaques reposent sur l'exploitation des capacités des modèles pour distribuer des opérations logicielles plutôt que de dépendre d'un seul appareil.
- Les vers potentiels ciblent les appareils vulnérables sur le plan de la sécurité qui manquent de mises à jour continues.
- Les vers électroniques laissent des schémas comportementaux qui peuvent être détectés et bloqués par des mécanismes de protection de base tels que des mots de passe forts et l'authentification à deux facteurs.
De son côté, Ariel Herbert-Voss, fondateur de RunSybil, a affirmé que l'architecture actuelle de la cybersécurité n'est pas entièrement préparée à faire face à la propagation de ces menaces, appelant à renforcer les ressources des équipes de sécurité et à remédier rapidement aux vulnérabilités. Dans le même contexte, d'autres experts tels que Chris Inglis, ancien directeur adjoint de la NSA, estiment que les principes d'auto-propagation et d'adaptation pourraient être exploités dans des applications défensives pour détecter et corriger les vulnérabilités de manière précoce sur l'ensemble des réseaux.