Google et Google DeepMind ont lancé le 17 septembre 2026 le « DeepMind Institute », afin d’élargir le débat sur l’intelligence artificielle générale (AGI) et de mettre en évidence les divergences entre les positions de Google, de Google DeepMind et des chercheurs du monde entier. L’institut est dirigé par Shane Legg, cofondateur de DeepMind, aux côtés de James Manyika, dirigeant de Google, et de Demis Hassabis, responsable de Google DeepMind. Legg assume également le rôle de rédacteur en chef.
L’institut se présente comme un espace destiné à exposer des points de vue qui ne sont pas toujours concordants et qui peuvent évoluer avec l’apparition de nouvelles données et informations dans un domaine en rapide évolution. Cette initiative intervient alors que le débat sur la sécurité de l’intelligence artificielle passe de déclarations générales à des propositions plus précises concernant la divulgation d’informations, l’audit externe et le ralentissement du développement des modèles avancés lorsque les garanties appropriées ne suivent pas.
Quatre angles pour le débat
La collection inaugurale de l’institut comprend quatre articles consacrés aux politiques de gestion des perturbations économiques potentielles que pourrait provoquer l’intelligence artificielle générale, au maintien de la compréhension par les humains du raisonnement des modèles, aux principes visant à soutenir l’épanouissement humain, ainsi qu’à un cadre d’évaluation des modèles d’intelligence artificielle de pointe.
Dans l’un des articles, les chercheurs en sécurité de DeepMind Rohin Shah et Anca Dragan avertissent que la réduction de la capacité des chercheurs à voir et à vérifier les étapes du raisonnement d’un modèle n’est pas une conséquence inévitable. Alors que se développent des architectures qui rendent les modèles les plus puissants plus difficiles à surveiller, les deux chercheurs appellent les développeurs et les autorités de régulation à traiter directement les compromis liés à la sécurité.
Parmi les options qu’ils avancent figure la limitation de la « profondeur séquentielle opaque » (opaque serial depth), c’est-à-dire la quantité de calcul séquentiel qu’un modèle peut effectuer sans produire une chaîne de raisonnement lisible, ou l’obligation pour les développeurs de démontrer que les systèmes moins transparents restent surveillables au même niveau.
Un cadre américain pour l’évaluation des modèles
Dans un autre article, Hassabis propose la création d’un organisme de normalisation de l’intelligence artificielle avancée dirigé par les États-Unis afin d’évaluer les modèles les plus sophistiqués. Selon le scénario présenté, les développeurs soumettraient volontairement leurs modèles à un examen jusqu’à 30 jours avant leur lancement. La réussite aux tests deviendrait ensuite une condition de la mise à disposition des modèles de pointe aux États-Unis, si le système d’évaluation démontrait son efficacité.
L’organisme concevrait d’abord les tests d’évaluation en concertation avec les entreprises d’intelligence artificielle, puis passerait à des tests indépendants non annoncés à l’avance, appelés dans le cadre des « tests en réserve » (held-out tests), afin d’empêcher les laboratoires d’optimiser leurs modèles en fonction de tests connus à l’avance. La proposition mentionne également la possibilité de renforcer progressivement les mesures, jusqu’à un ralentissement coordonné entre les développeurs de modèles avancés si la gravité de la situation l’exigeait.
Pourquoi cette information est-elle importante ?
L’importance pratique de l’initiative ne réside pas uniquement dans la création d’une nouvelle plateforme de publication, mais aussi dans le rassemblement des débats de Google et de Google DeepMind sur des questions susceptibles d’influencer la manière dont les modèles sont développés et évalués. Les articles placent ainsi la transparence, la surveillabilité et l’audit indépendant au cœur de questions opérationnelles, et non plus seulement de principes généraux.
Le nouvel institut ne constitue toutefois pas une autorité de régulation indépendante, et le cadre d’évaluation proposé commence sur une base volontaire et n’est pas devenu une politique applicable. Des questions telles que l’indépendance de l’organisme, la nature des tests non annoncés et les critères permettant de déterminer quand il est nécessaire de ralentir le développement restent ouvertes au regard des éléments présentés dans l’article.