David Krueger, professeur agrégé travaillant dans le domaine de la sécurité de l’intelligence artificielle à l’Université de Montréal, au Canada, a appelé à arrêter la construction des systèmes d’intelligence artificielle les plus avancés plutôt qu’à se contenter de ralentir le rythme de leur développement. Il a déclaré à l’agence Anadolu que l’arrêt du développement des systèmes les plus puissants était la seule mesure susceptible d’offrir, selon lui, un véritable niveau de sécurité.
Les déclarations de Krueger interviennent après l’appel lancé par Dario Amodei, PDG d’Anthropic, le 12 septembre, en faveur d’une réduction de la vitesse de développement des modèles d’intelligence artificielle, dans un contexte de préoccupations croissantes concernant la capacité à les contrôler. Elon Musk, PDG de Tesla et de SpaceX, et Sam Altman, PDG d’OpenAI, ont annoncé leur soutien à l’appel d’Amodei sur leurs comptes de réseaux sociaux.
Du ralentissement à l’arrêt complet
Krueger estime que réduire la vitesse de développement ne s’attaque pas au problème fondamental. Il a donc demandé l’imposition d’un moratoire international, immédiat et d’une durée indéterminée, sur le développement des systèmes d’intelligence artificielle aux performances les plus élevées. Il estime que l’humanité ne dispose plus que de quelques années, selon son évaluation, pour empêcher l’apparition de systèmes si puissants qu’il deviendrait impossible de maintenir le contrôle humain.
Le chercheur a employé un langage très pessimiste pour décrire les risques, affirmant que la situation constituait une urgence et une crise, et que la perte de contrôle de systèmes avancés pourrait avoir des conséquences pour l’humanité tout entière. Il a également évoqué des cas dans lesquels, selon lui, l’intelligence artificielle aurait fourni des conseils liés au suicide ou au meurtre d’autrui, sans que le contenu ne fournisse de détails supplémentaires sur ces cas.
L’autonomie et la supervision humaine
L’avertissement de Krueger porte sur l’autonomie croissante des systèmes et sur ce qu’il a décrit comme le recul du rôle humain dans la surveillance de leurs décisions. Il a indiqué qu’un incident de piratage attribué à des modèles d’OpenAI au sein d’un autre système avait montré, selon son évaluation, à quelle vitesse le comportement du système pouvait s’écarter des attentes humaines. Il a estimé que permettre à des systèmes avancés de fonctionner avec une supervision humaine limitée pourrait entraîner des résultats imprévisibles.
Le chercheur a également établi un lien entre ces risques et les usages militaires de l’intelligence artificielle, affirmant que cet usage était déjà réel, que les développements s’accéléraient et qu’ils devenaient plus dangereux. Il a ajouté que l’accès des systèmes aux infrastructures essentielles, puis à des robots plus avancés, pourrait étendre l’ampleur de leur impact au-delà de l’environnement informatique.
Pourquoi cette information est-elle importante ?
L’article n’annonce ni décision gouvernementale ni accord international visant à arrêter le développement, mais rapporte la position alarmiste d’un chercheur en sécurité de l’intelligence artificielle dans le cadre d’un débat plus large entre ralentissement et arrêt du développement. La nouveauté, en pratique, réside dans l’écart croissant entre les propositions visant à réduire la vitesse et les appels à geler la construction des systèmes les plus puissants, à un moment où les pays se livrent concurrence pour diriger le secteur et où les entreprises investissent dans des infrastructures informatiques plus importantes.
Krueger a reconnu que la mise en œuvre d’un moratoire international se heurterait à des obstacles politiques et économiques, notamment au risque que certains pays poursuivent secrètement le développement de systèmes puissants. Il a également mis en garde contre une disparité économique mondiale si les systèmes d’intelligence artificielle devenaient capables d’accomplir la plupart des formes de travail humain, car les pays abritant les entreprises de premier plan pourraient réaliser des gains considérables tandis que les autres reculeraient. Ces conséquences, tout comme ses estimations concernant le temps restant avant la perte de contrôle, demeurent des opinions et des avertissements qui lui sont attribués, et non des résultats établis ou une politique en vigueur.