L’intelligence artificielle passe progressivement de la production de réponses et de contenus au fonctionnement de systèmes qui interagissent directement avec le monde physique, comme les véhicules autonomes, les robots industriels, les drones, les systèmes chirurgicaux et les infrastructures intelligentes. Dans ces applications, l’impact d’une erreur ne se limite pas à un résultat inexact ou à une mauvaise recommandation ; elle peut conduire à ignorer un obstacle, à actionner un mécanisme de manière incorrecte, à provoquer un freinage brusque ou à exposer des personnes et des opérations à des risques réels.
C’est l’idée centrale d’un article d’opinion publié avec le soutien d’un sponsor par Semiconductor Engineering le 3 septembre 2026, sous la plume de Dana Neustadter et d’Ilya Tolchinsky. Tolchinsky est directeur principal des produits d’intelligence artificielle chez Synopsys, tandis que Neustadter est directrice principale de la gestion des produits pour les solutions de sécurité au sein de l’entreprise. De par sa nature, l’article présente le point de vue et les recommandations éditoriales de ses auteurs, et non l’annonce d’un produit ou les résultats de tests indépendants.
Le risque commence avant l’exécution du modèle
Les auteurs soulignent que les menaces visant l’intelligence artificielle physique ne commencent pas au stade de l’inférence et ne s’arrêtent pas à la couche logicielle. Les données utilisées pour l’entraînement peuvent être incomplètes, biaisées, modifiées ou de faible qualité, qu’il s’agisse de données réelles ou synthétiques. Le système peut ainsi apprendre dès le départ des schémas incorrects qui n’apparaissent pas clairement lors des tests, puis se révéler lorsqu’il rencontre des conditions de fonctionnement différentes.
Les capteurs constituent un autre point d’exposition, car les caméras, le LiDAR, les radars, les microphones et les systèmes de géolocalisation construisent l’image que le système se fait de son environnement. Si ces entrées sont bloquées, corrompues ou manipulées, l’image sur laquelle le modèle s’appuie pour prendre une décision peut être altérée.
Le problème ne se limite pas à chaque composant pris isolément. Une plateforme robotique, par exemple, peut combiner un composant de perception, un autre de planification des mouvements et un troisième chargé de l’exécution du contrôle. Un décalage temporel, une divergence entre les entrées, une dérive du modèle ou la compromission de l’un des composants peut entraîner une perte de synchronisation et l’apparition d’un comportement difficile à prévoir.
Des racines de confiance au comportement en fonctionnement
La surface d’attaque s’étend également au matériel, notamment au silicium, aux blocs de propriété intellectuelle intégrés, aux accélérateurs et aux interconnexions. L’article indique qu’une faiblesse de la racine de confiance matérielle, un processus non sécurisé de mise à jour des micrologiciels ou la réutilisation, dans plusieurs produits, d’un bloc de propriété intellectuelle vulnérable peut compromettre les protections présentes dans les couches supérieures.
Les systèmes d’intelligence artificielle agentique ajoutent une autre dimension de complexité, car ils évoluent dans des environnements dynamiques, prennent des décisions et modifient leur comportement en temps réel. Les auteurs ne considèrent donc pas qu’une vérification unique du modèle avant son déploiement soit suffisante. Ils préconisent plutôt une assurance continue pendant le fonctionnement afin de surveiller si les sorties restent dans les limites d’un fonctionnement sûr à mesure que les conditions changent.
Qu’est-ce qui change concrètement ?
La conclusion pratique de l’article est que la confiance doit être construite au niveau de l’ensemble du système, du silicium aux logiciels, plutôt que d’être limitée à la couche applicative. Cela nécessite d’examiner la provenance des données, de vérifier l’intégrité des modèles, de sécuriser les chaînes d’approvisionnement matérielles et logicielles, d’authentifier les mises à jour et de surveiller la manière dont le système se comporte lorsque les entrées sont incertaines ou contradictoires.
L’importance de cette thèse tient au fait qu’elle relie la sécurité à la sûreté opérationnelle : la protection du réseau, à elle seule, ne garantit pas que les capteurs mesurent l’environnement de manière fiable, et la précision du modèle ne garantit pas à elle seule que la décision sera exécutée dans des limites sûres. Toutefois, l’article ne fournit ni norme quantitative ni mécanisme d’exécution précis pour mesurer ces garanties, et ne présente pas non plus de données expérimentales comparant différentes méthodes. Son appel à instaurer la confiance tout au long du cycle de vie reste donc un cadre général qui doit, pour chaque application, être converti en tests et en contrôles mesurables.