Dario Amodei, PDG d’Anthropic, a déclaré que la perception négative de l’intelligence artificielle reflétait essentiellement une crise de confiance entre le public, les entreprises, les gouvernements et le secteur technologique, et ne résultait pas directement des messages d’alerte diffusés par les dirigeants de l’industrie. Il s’exprimait en réponse à l’investisseur Gavin Baker, qui estimait que les avertissements d’Amodei concernant les risques de l’intelligence artificielle avaient contribué à alimenter une réaction négative aux États-Unis, notamment à l’égard des centres de données.
Baker avait critiqué, dans l’émission All-In et sur la plateforme X, la position d’Anthropic favorable à certaines formes de réglementation, notamment à un projet de loi californien imposant des exigences de transparence aux grandes entreprises d’intelligence artificielle. Il a déclaré qu’Amodei, compte tenu de sa direction d’une entreprise appelée à devenir l’une des plus importantes au monde, devrait présenter une image plus positive de son secteur, estimant qu’il avait perdu le débat sur la réglementation de l’intelligence artificielle.
Amodei refuse de rendre les avertissements responsables du scepticisme
Amodei a répondu que ses messages n’étaient pas déséquilibrés dans un sens négatif, précisant qu’ils étaient répartis presque à parts égales entre les risques et les bénéfices de l’intelligence artificielle. Il a ajouté avoir écrit son article « Machines of Loving Grace » parce qu’il ne voyait pas l’industrie présenter une image suffisamment inspirante de la capacité de la technologie à transformer le monde pour le mieux.
Tout en reconnaissant que la perception générale de l’intelligence artificielle était négative et que cela constituait un problème majeur, Amodei a refusé d’affirmer que cette négativité était principalement due aux avertissements des dirigeants de l’industrie. Selon son interprétation, les gens ordinaires ne font confiance ni aux entreprises, ni aux gouvernements, ni au secteur technologique, et ont tendance à penser que ces acteurs pourraient mettre au point une nouvelle manière de leur nuire. Amodei estime que la réaction hostile à l’intelligence artificielle constitue la manifestation la plus récente d’une crise de confiance formée au fil des décennies.
Quelle critique Amodei juge-t-il plus juste ?
Amodei a déclaré que la critique la plus juste adressée aux entreprises d’intelligence artificielle, Anthropic comprise, était qu’elles n’avaient pas encore tenu leurs grandes promesses de contribuer au bien du monde. Il a ajouté que la responsabilité incombait aux entreprises elles-mêmes et que les promesses publiques, comme l’affirmation selon laquelle l’intelligence artificielle guérirait le cancer, relevaient désormais davantage de la formule banale que de la source d’inspiration. À ses yeux, ce qui pourrait changer l’attitude des gens serait l’obtention de résultats concrets, et non l’amélioration du marketing ou des messages médiatiques.
La réglementation entre réduction des risques et concentration du pouvoir
Amodei a également refusé de présenter le débat réglementaire comme un choix binaire entre le déploiement sans contraintes de l’intelligence artificielle et la limitation de la technologie à un petit nombre d’entreprises en raison des règles gouvernementales. Il a déclaré que l’idée répandue dans la Silicon Valley, qui assimile réglementation, capture réglementaire et concentration du pouvoir, simplifiait excessivement la réalité, car de nombreuses personnes extérieures à ce cercle considèrent que la réglementation limite l’influence des entreprises et protège les individus.
Il a expliqué qu’Anthropic élaborait soigneusement ses propositions politiques afin de ralentir les entreprises d’intelligence artificielle de premier plan tout en accordant un avantage relatif aux entreprises plus petites. Amodei estime que l’intelligence artificielle est une technologie qui, de par sa structure, tend à concentrer le pouvoir, tandis que les modèles à poids ouverts ne contribuent que partiellement à résoudre ce problème, car ils déplacent une partie de la concentration vers les acteurs disposant des plus grandes capacités de calcul et du plus grand nombre de puces.
Selon Amodei, des « règles de la route » appropriées pourraient traiter les risques liés à la cybersécurité, à la biologie et à l’alignement, et limiter institutionnellement le pouvoir des principales entreprises d’intelligence artificielle, tout en laissant la voie ouverte aux modèles à poids ouverts et en traitant les risques qui leur sont propres. Cette approche place l’essentiel du désaccord dans la manière de construire la confiance et d’obtenir des bénéfices concrets, plutôt que dans le seul choix d’un discours plus optimiste ou plus pessimiste.