Une étude menée par Booz Allen a montré que des agents d’intelligence artificielle sont capables d’explorer des environnements de technologies opérationnelles (OT) qui leur sont inconnus, de s’adapter aux obstacles et d’effectuer en quelques minutes des changements ayant un impact sur des équipements physiques. Ces résultats sont importants, car le risque potentiel passe du domaine de la compromission numérique au contrôle de systèmes industriels et d’équipements physiques.
Les résultats de l’étude ont été présentés lors de la conférence SecurityWeek consacrée à la sécurité des systèmes de contrôle industriel (ICS), à Nashville, avant la publication générale du rapport. L’entreprise a mené les tests dans un laboratoire OT isolé, en utilisant des modèles d’intelligence artificielle avancés qui ne disposaient d’aucune connaissance préalable de l’environnement, notamment de son code source, de sa documentation technique ou de consignes OT spécialisées.
Résultats des tests
Selon les chercheurs, les modèles ont atteint chaque objectif défini dans huit scénarios. Les tâches ne se limitaient pas à une seule étape : elles combinaient la découverte des actifs, la recherche de caractéristiques des appareils et la planification de l’attaque, des phases habituellement réparties entre plusieurs personnes et équipes.
Lors de l’un des tests, les modèles sont passés d’une compromission périmétrique à l’exécution d’actions au sein d’un réseau de contrôle industriel en un peu plus de 16 minutes. Lors d’un autre test, un modèle a trouvé un bras robotique, identifié ses zones de protection et ses limites de mouvement, puis l’a déplacé en quelques minutes.
Certains moyens de défense existants ont pu bloquer ou ralentir des actions particulières, mais l’étude a constaté qu’aucun contrôle pris isolément n’a empêché de manière constante les modèles autonomes d’atteindre leurs objectifs dans les scénarios testés.
Qu’est-ce qui change concrètement ?
L’étude montre que la différence ne réside pas seulement dans la capacité de l’intelligence artificielle à exécuter des étapes offensives, mais aussi dans la rapidité avec laquelle elle relie des phases qui nécessitaient habituellement des interventions humaines successives. Dans les environnements OT, cette accélération peut transformer une activité cybernétique en impact physique avant que les équipes de sécurité ne puissent comprendre ou interrompre le processus.
Booz Allen estime que compter sur l’opacité d’un environnement OT ou sur l’ignorance qu’en aurait l’attaquant concernant ses détails ne suffit plus, en particulier si les modèles peuvent déduire les caractéristiques des appareils et interagir avec les systèmes par une exploration directe. Toutefois, l’étude reconnaît elle-même que le laboratoire de l’entreprise ne correspond pas nécessairement à chaque environnement OT d’entreprise, une limite importante lorsqu’il s’agit de généraliser les résultats.
Que recommande l’étude ?
Les chercheurs recommandent aux propriétaires et aux exploitants des systèmes de se concentrer sur la difficulté à se déplacer au sein de l’environnement, la suppression de la confiance implicite, la détection rapide des changements industriels ayant un impact et la réduction de l’étendue de ce que l’attaquant peut affecter après avoir obtenu un accès, que celui-ci ait commencé par un moyen cybernétique ou physique.
La portée du terme « superintelligence », utilisé par Booz Allen, reste incertaine : au moment de la préparation de cet article, l’entreprise n’avait pas précisé si elle faisait référence à l’intelligence artificielle avancée au sens courant ou à un concept plus spécifique. Les tests ne prouvent pas non plus que chaque environnement industriel connaîtra les mêmes résultats, mais ils fournissent une indication pratique selon laquelle des défenses isolées pourraient ne pas suffire face à des agents capables d’agir rapidement et de manière autonome.