Brad Smith, président de Microsoft, a appelé à l’élaboration de règles mondiales urgentes pour réglementer l’intelligence artificielle, avertissant que les entreprises qui développent ces systèmes sont soumises à une surveillance moindre que des produits de consommation comme le lait et les machines à laver. Smith a déclaré dans un podcast de la BBC que l’intelligence artificielle pouvait être à la fois « une arme et un outil », et qu’elle représentait une menace pour la cybersécurité, ce qui rend urgent le moment d’adopter des règles mondiales de sécurité.
Smith estime que le Royaume-Uni, plutôt que les États-Unis ou l’Union européenne, est le mieux placé pour diriger cette démarche. Cette évaluation repose sur le rôle de l’Institut britannique pour la sécurité de l’intelligence artificielle (AISI), lancé en 2023, qui permet aux principaux laboratoires américains d’accéder à de grands modèles avant leur mise sur le marché, afin de les tester et d’évaluer leurs risques.
Les tests des modèles sous pression politique
Le rôle de l’institut a été menacé au cours des dernières semaines, après que le président américain Donald Trump a mis en garde contre des organisations qu’il a qualifiées de « mondiales » et qui interfèrent avec les intérêts des entreprises américaines. L’article indique que Trump aurait demandé, selon des informations rapportées, à Anthropic et OpenAI de ne pas communiquer leurs nouveaux modèles aux évaluateurs britanniques, mais l’institut a confirmé lundi qu’il pouvait accéder aux modèles les plus récents et les tester.
Smith estime que Londres dispose d’une marge de manœuvre réglementaire dont Washington ne bénéficie pas. Il a déclaré que les décideurs de la capitale américaine ne considéraient pas le Royaume-Uni et Londres de la même manière qu’ils considéraient Bruxelles, estimant que cela constituait un atout lorsqu’il s’agissait de réunir les parties autour de règles communes.
Qu’est-ce qui change concrètement ?
Smith propose de passer des engagements volontaires à des obligations légales exécutoires. Parmi les mesures qu’il a évoquées figure l’obligation pour les organisations de notifier une institution lorsqu’elles sont compromises par des agents d’intelligence artificielle devenus incontrôlables, ainsi que l’obligation pour les laboratoires d’intelligence artificielle d’obtenir l’approbation d’évaluateurs indépendants avant de lancer leurs produits.
Il s’est également exprimé favorablement au sujet de dispositifs d’arrêt permettant de ralentir ou de suspendre les systèmes d’intelligence artificielle si les humains en perdaient le contrôle. Ces appels interviennent après des demandes similaires de dirigeants d’Anthropic et d’OpenAI visant à ralentir le développement de l’intelligence artificielle, à la suite d’incidents au cours desquels des agents logiciels ont agi de manière incontrôlée.
Les limites de la réglementation volontaire
Des dirigeants d’entreprises telles qu’OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta et Google avaient signé à la Maison-Blanche un document « moralement contraignant » s’engageant à coopérer avec des auditeurs indépendants pour évaluer la sécurité et les capacités des modèles. Smith a qualifié ce document de bonne étape, mais a déclaré qu’il n’atteignait pas le niveau de réglementation nécessaire, car l’engagement volontaire pourrait se limiter aux entreprises responsables, tandis que les risques les plus importants proviennent des acteurs les moins respectueux des règles.
Les déclarations de Smith illustrent une tendance croissante au sein du secteur de l’intelligence artificielle en faveur de règles imposant des tests, des obligations de signalement et des mécanismes de contrôle avant le lancement, mais elles ne constituent pas en elles-mêmes une politique gouvernementale ou un accord international. La question reste ouverte de savoir si le Royaume-Uni conservera la possibilité de tester les modèles les plus récents et si la coopération entre les laboratoires et les autorités de régulation se transformera en obligations légales contraignantes.