NVIDIA et un large groupe d’entreprises technologiques et d’organisations open source ont annoncé la création de l’Open Secure AI Alliance, afin de développer et de partager des technologies et des outils ouverts qui aident les défenseurs à protéger les logiciels et les agents intelligents à mesure que l’utilisation de l’intelligence artificielle se développe. L’alliance s’appuie sur des initiatives de la communauté Linux Foundation, notamment l’initiative Akrites et les travaux d’OpenSSF, en mettant l’accent sur la détection et la divulgation des vulnérabilités au moyen de technologies ouvertes.
L’alliance réunit des partenaires fondateurs issus des domaines du cloud computing, de la cybersécurité, des logiciels d’entreprise et de la recherche en intelligence artificielle, parmi lesquels NVIDIA, Adobe, Akamai, Amazon, Atlassian, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Docker, GitHub et Google ?
L’ouverture comme outil défensif
L’alliance estime que la défense cybernétique a besoin de modèles ouverts et d’outils opérationnels ouverts, car ceux-ci permettent aux défenseurs d’inspecter les systèmes, de les adapter et de les exécuter sur leur propre infrastructure, tout en protégeant les données et en réduisant la dépendance à l’égard d’un seul fournisseur. Selon l’article, ces outils peuvent compléter les modèles fermés avancés en fournissant des contrôles personnalisables et adaptés aux environnements locaux.
NVIDIA reconnaît que les modèles ouverts, comme toute technologie puissante, peuvent être détournés en affaiblissant les mécanismes de protection ou en les réutilisant dans des cyberattaques. L’article soutient toutefois que ces risques ne se limitent pas aux systèmes ouverts et que le maintien des poids des modèles à huis clos n’empêche pas les attaquants déterminés de tenter d’accéder aux capacités avancées ou de les exploiter.
L’article cite un incident de sécurité récent subi par Hugging Face, affirmant que l’entreprise a utilisé un modèle GLM 5.2 à poids ouverts sur son infrastructure pour analyser plus de 17 000 actions et contenir l’intrusion, après que des outils d’intelligence artificielle fermés ont entravé l’analyse forensique parce qu’ils ne pouvaient pas distinguer les attaquants des défenseurs. NVIDIA utilise cet incident pour illustrer l’importance, pour les défenseurs, de disposer de systèmes avancés pouvant être inspectés, modifiés et exécutés en interne.
Contributions de NVIDIA et composants de protection
NVIDIA a déclaré contribuer à l’alliance avec des modèles ouverts, des poids de modèles, des données et de nouvelles recherches sur les frameworks opérationnels des agents. Elle a également mis à disposition sur GitHub le projet open source NVIDIA Labs Object-Oriented Agent (NOOA), un framework de recherche destiné à aider les frameworks opérationnels des agents à mieux s’intégrer aux modèles, afin de rendre le comportement des agents plus facile à tester, à tracer, à auditer et à gouverner.
Les participants travaillent à la construction d’un écosystème de défense ouvert pour les agents, comprenant l’identité et l’isolation, des formats de modèles sécurisés, l’analyse multi-modèles et des workflows de programmation sécurisés. Parmi les exemples cités dans l’article figure la contribution de HPE à SPIFFE/SPIRE pour la vérification cryptographique des identités des agents et des services, ainsi que la mise à disposition par Hugging Face du format Safetensors auprès de la fondation PyTorch, un format de stockage des poids des modèles assorti de garanties contre l’exécution de code à distance.
Appel à une infrastructure partagée
NVIDIA a appelé les gouvernements, les entreprises et les chercheurs à investir dans une infrastructure ouverte de défense fondée sur l’intelligence artificielle, comme des jeux de données, des frameworks d’évaluation, des simulateurs d’attaques et des outils de tests offensifs. Elle a également exhorté les décideurs politiques et les autorités de régulation à considérer les modèles ouverts, les frameworks opérationnels et les outils de sécurité comme des actifs défensifs, avertissant que des restrictions générales visant les systèmes d’intelligence artificielle ouverts pourraient affaiblir les capacités de défense et accroître la concentration de la dépendance auprès d’un nombre limité de fournisseurs fermés.