Maher Yamout, chercheur principal en sécurité au sein de l’équipe mondiale de recherche et d’analyse de Kaspersky (GReAT), a averti que l’utilisation incontrôlée des systèmes d’intelligence artificielle pouvait ajouter de nouvelles vulnérabilités et de nouveaux risques aux organisations, notamment aux organismes gouvernementaux et aux opérateurs d’infrastructures sensibles.
Dans des déclarations à l’agence Anadolu, Yamout a indiqué qu’un nombre croissant d’organisations avait commencé à utiliser l’intelligence artificielle sans évaluer suffisamment les risques de sécurité liés à son exploitation et à son intégration dans les systèmes existants. Selon lui, le problème comprend des situations dans lesquelles les systèmes se voient accorder des droits d’accès plus larges que nécessaire pour accomplir leurs tâches.
Les privilèges et les données au cœur du risque
Le chercheur a expliqué que la compromission d’un système d’intelligence artificielle pouvait permettre à un attaquant d’exploiter les privilèges que l’organisation avait accordés au système lui-même. Le risque pouvait également s’étendre aux données que le système collecte pendant son fonctionnement, ces informations pouvant devenir une cible de vol si l’attaquant parvenait à en prendre le contrôle.
Selon cet avertissement, cela ne se limite pas à l’accès aux bases de données, mais concerne également les systèmes et les services auxquels l’intelligence artificielle est connectée. Plus le périmètre d’accès est large, plus les ressources susceptibles d’être exploitées en cas de compromission sont nombreuses.
Que doivent examiner les organisations ?
Yamout a appelé chaque organisation utilisant l’intelligence artificielle à effectuer une évaluation complète déterminant la finalité de l’utilisation du système, les données auxquelles il peut accéder et les systèmes qui lui sont associés. Il a également insisté sur le maintien des privilèges au niveau le plus bas possible et sur le fait de ne fournir au système que les données nécessaires à l’accomplissement de sa mission.
Il a également souligné la nécessité de contrôler la connexion du système à Internet, avertissant qu’un accès incontrôlé pouvait entraîner la fuite d’informations sensibles. Ces recommandations montrent que l’introduction de l’intelligence artificielle dans un environnement opérationnel ne doit pas être considérée comme l’ajout d’un logiciel isolé, mais comme celle d’un nouvel élément doté de privilèges et de connexions qui doivent être définis et surveillés.
Les organisations en Turquie toujours ciblées
Yamout a replacé les risques liés à l’intelligence artificielle dans un contexte plus large concernant les activités de cyberespionnage soutenues par des États. Il a déclaré que les groupes de menace persistante avancée (APT) modifiaient leurs méthodes en fonction des évolutions régionales et mondiales et ciblaient les institutions gouvernementales et financières ainsi que les entités détenant des données sensibles.
Il a expliqué que l’objectif principal de ces groupes était de rester dans les systèmes le plus longtemps possible sans être détectés, afin de collecter des données. Il a ajouté que les informations devenaient plus précieuses pour les attaquants pendant les périodes de tensions géopolitiques, indiquant que différents groupes APT avaient ciblé la Turquie au cours des derniers mois et de l’année dernière.
La lecture de certi.news
Le changement pratique mis en évidence par cet avertissement n’est pas l’apparition d’une vulnérabilité précise dans un produit particulier, mais le fait que l’intelligence artificielle occupe désormais une position dans laquelle elle dispose parfois de privilèges, de données et de connexions étendus. Par conséquent, la réduction des privilèges et le contrôle des accès doivent précéder l’élargissement de l’utilisation, en particulier dans les environnements critiques.
La source souligne également que les solutions techniques ne suffisent pas à elles seules : Yamout a insisté sur l’importance de sensibiliser davantage les employés aux risques de l’hameçonnage et de l’ingénierie sociale. La déclaration ne fournit pas de détails sur un incident de compromission précis ni de cadre de mesure du niveau de risque. Les recommandations restent donc générales et chaque organisation doit les traduire dans le cadre d’une évaluation spécifique de ses systèmes et de ses données.