Le débat politique et scientifique sur les risques de l’« intelligence artificielle superintelligente » (ASI) s’est intensifié après une session tenue au Parlement britannique, au cours de laquelle des responsables et des chercheurs ont averti que ces systèmes pourraient atteindre un niveau de capacités difficile à contrôler pour les êtres humains. Des Brown, ancien ministre britannique de la Défense, est allé jusqu’à estimer que la menace potentielle pourrait être comparable à celle d’une guerre nucléaire, voire la dépasser.
L’alliance Control AI, qui appelle à l’établissement de règles internationales sur l’intelligence artificielle et soutient un projet de loi examiné par le Parlement britannique visant à interdire le développement de l’intelligence artificielle superintelligente, a participé à la session. Stuart Russell, informaticien à l’Université de Californie à Berkeley, a mis en garde contre la possibilité d’une catastrophe de grande ampleur et contre un scénario dans lequel l’humanité perdrait le contrôle des systèmes d’intelligence artificielle de manière irréversible.
Des estimations divergentes de l’ampleur du risque
Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, a suscité la controverse après avoir déclaré qu’il existait une probabilité supérieure à 10 % que cette technologie conduise à la mort de tous les êtres humains au cours de la prochaine décennie. Ce chiffre ne constitue pas un résultat faisant consensus parmi les experts, mais une estimation attribuée à Hubinger dans le cadre d’un débat plus large sur les risques futurs.
Cette déclaration a coïncidé avec la démission de Jacob Coxon, âgé de 28 ans, d’Anthropic, après avoir auparavant travaillé chez OpenAI. Coxon a déclaré que les deux entreprises n’agissaient pas de manière responsable et qu’elles étaient prises dans une course pour parvenir les premières à l’intelligence artificielle superintelligente, tout en exprimant l’espoir qu’une coordination entre les grands laboratoires américains permettrait de ralentir cette course. Les experts ne s’accordent pas sur la date d’apparition de ces capacités : certains parlent de quelques années, tandis que d’autres prévoient plus d’une décennie.
De la mise en garde aux règles internationales
Le député travailliste Darren Jones a appelé à un « traité multilatéral pour un développement réglementé et sûr de l’intelligence superintelligente », soulignant que l’objectif, selon sa proposition, n’était pas de mettre fin à la recherche et à l’innovation, mais de donner la priorité à la sécurité alors que les progrès s’accélèrent. Le gouvernement britannique a également exprimé son inquiétude concernant le fait qu’Anthropic n’ait pas soumis son dernier modèle, Mythos 5.1, à l’Institut britannique pour la sécurité de l’intelligence artificielle afin qu’il fasse l’objet de tests préalables à son lancement. Le Cabinet Office a indiqué qu’un nombre limité d’institutions américaines avaient obtenu l’accès au modèle, tandis que la coopération entre l’institut et les entreprises se poursuivait.
Aux États-Unis, le sénateur Bernie Sanders a appelé le Congrès à agir, en s’appuyant sur un sondage selon lequel 81 % des Américains estiment que les responsables politiques doivent prendre des mesures concernant l’intelligence artificielle. Sanders relie ce débat à l’avenir de l’économie, de l’environnement, de la démocratie et de la vie privée.
Pourquoi cette information est-elle importante ?
Le débat révèle un écart entre des risques à long terme dont il est difficile de vérifier la probabilité et des risques existants qui peuvent être observés aujourd’hui. Andrew Rogoyski a ainsi averti que les systèmes actuels étaient encore loin de la flexibilité humaine et que les technologies avancées d’intelligence artificielle pourraient être coûteuses ou présenter une utilité limitée. David Barber a déclaré que le problème pratique pourrait s’aggraver lorsque les systèmes obtiendraient un accès illimité à Internet et aux différents systèmes, tandis que Sandra Wachter a cité la désinformation, l’impact environnemental et l’emploi comme des enjeux réels et urgents.
Gary Marcus estime que la différence déterminante résidera entre une intelligence artificielle superintelligente alignée sur les intérêts humains et une autre qui ne le serait pas, tout en reconnaissant que le débat actuel comporte du bruit médiatique ainsi qu’un manque de prudence et de responsabilité. Ainsi, la source ne prouve pas que le scénario d’extinction de l’humanité soit imminent ou certain, mais elle montre que le désaccord sur le niveau de risque n’est plus seulement académique ; il est désormais lié à la législation, aux tests préalables au lancement et aux limites d’accès des modèles aux systèmes.