Un rapport de recherche auquel ont contribué plus de 20 chercheurs et spécialistes met en garde contre la possibilité que l’intelligence artificielle entre dans une phase connue sous le nom d’« explosion de l’intelligence », si les systèmes parviennent à automatiser la recherche et le développement et à améliorer leurs capacités de manière répétée, avec un degré limité d’intervention humaine. Ce scénario pourrait condenser des années de progrès technologique en quelques mois ou moins.
Le rapport est intitulé « Et si l’automatisation de la recherche et du développement en intelligence artificielle entraînait une explosion de l’intelligence ? ». Il a notamment été préparé par l’informaticien canadien Yoshua Bengio, le lauréat du prix Nobel Geoffrey Hinton, Jack Clark, cofondateur de l’entreprise Anthropic, et Jakub Pachocki, scientifique en chef chez OpenAI.
Comment l’accélération pourrait-elle commencer ?
Les chercheurs se concentrent sur le concept d’« amélioration récursive », c’est-à-dire la capacité des systèmes d’intelligence artificielle à contribuer au développement de nouveaux systèmes et à améliorer leurs capacités sans intervention humaine directe à chaque étape. Le rapport estime que l’automatisation de la recherche et du développement en intelligence artificielle est la voie la plus probable vers une telle accélération, car les systèmes actuels sont déjà utilisés pour contribuer au développement de technologies d’intelligence artificielle et que les versions améliorées peuvent être déployées rapidement.
Si les systèmes atteignent le niveau d’experts en recherche et développement, un seul développeur pourrait être en mesure de mobiliser une force de recherche équivalant à « des millions » de chercheurs humains spécialisés, selon le rapport. Mais la conséquence potentielle ne serait pas seulement une hausse de la productivité : la vitesse du progrès pourrait dépasser la capacité des gouvernements, des entreprises et des institutions à adapter les mécanismes de supervision et la répartition du pouvoir.
Pourquoi cette information est-elle importante ?
L’importance de cette mise en garde réside dans le fait que le débat ne porte pas seulement sur un nouveau modèle ou une capacité commerciale précise, mais sur la possibilité que le cycle de développement de l’intelligence artificielle lui-même change. Si ce scénario se réalise, le délai entre la découverte d’une nouvelle capacité et la mise en place de garde-fous pourrait devenir bien plus court que les périodes réglementaires habituelles.
Le rapport évoque des avantages potentiels, notamment l’accélération des découvertes médicales et du progrès technique. Mais il avertit en parallèle que des systèmes extrêmement puissants pourraient être utilisés pour développer des menaces biologiques ou cybernétiques à un rythme dépassant la capacité des humains à concevoir des moyens de riposte. Les États pourraient également exploiter une avance rapide dans le domaine de l’intelligence artificielle afin de transformer un progrès limité dans des domaines comme le cyberespace en une supériorité décisive.
Mesures proposées avant qu’il ne soit trop tard
Les auteurs du rapport appellent les gouvernements à agir avant le début d’une éventuelle explosion, car la fenêtre d’intervention pourrait se réduire une fois le processus enclenché. Les propositions comprennent :
- Obliger les entreprises d’intelligence artificielle à fournir des rapports transparents sur l’évolution de leurs recherches.
- Permettre à des auditeurs indépendants de surveiller les processus de recherche et de développement au sein des entreprises.
- Mettre en place des limites à la vitesse d’évolution des systèmes.
- Coopérer avec les centres de données afin de permettre l’arrêt de certains projets de recherche et développement si nécessaire.
- Isoler les systèmes automatisés de recherche et développement des voies susceptibles de les faire sortir du champ du contrôle humain.
- Préparer des plans d’intervention d’urgence pour différents scénarios.
2028 comme estimation temporelle, et non comme date certaine
Le rapport indique que les projets de recherche et développement nécessitant plusieurs mois de travail humain pourraient être entièrement automatisables d’ici 2028. Il précise toutefois que les gains de productivité actuels n’ont pas encore atteint le niveau nécessaire pour déclencher une « explosion de l’intelligence », même si les systèmes les plus récents s’en rapprochent.
Lecture éditoriale : le rapport ne fournit pas de date certaine pour la réalisation de ce scénario et reconnaît également que les chaînes d’approvisionnement, les matériaux spécialisés et les autorisations réglementaires pourraient ralentir le développement. La valeur pratique de cette mise en garde réside donc dans l’incitation adressée aux décideurs à tester les mécanismes de transparence, d’arrêt et d’intervention avant que la vitesse du développement elle-même ne devienne un obstacle à la supervision, et non dans la considération de 2028 comme d’un tournant acquis.