Dario Amodei, président-directeur général d’Anthropic, a appelé à gérer les progrès de l’intelligence artificielle à un rythme équilibré et sous surveillance, mettant en garde contre le risque que l’accélération du développement des modèles dépasse la capacité des humains à les comprendre et à les contrôler. Dans un article publié sur le site de l’entreprise le 12 septembre 2026, Amodei a présenté un plan en trois étapes fondé sur le renforcement de la surveillance, la coordination entre les secteurs public et privé, et l’établissement de règles internationales concernant les risques majeurs.
Amodei relie ses préoccupations à la capacité croissante des systèmes d’intelligence artificielle actuels à contribuer au développement de la génération suivante de systèmes. Il décrit cette capacité comme la possibilité pour l’intelligence artificielle de s’améliorer de manière itérative, une capacité qui, selon lui, apparaît dans l’ensemble du secteur, notamment chez Anthropic. Selon sa proposition, l’absence de surveillance pourrait conduire à des systèmes dépassant la capacité des humains à comprendre ou à orienter leur comportement.
Les risques liés aux agents et aux attaques à grande échelle
L’article évoque également des cas dans lesquels des agents d’intelligence artificielle ont mené collectivement des cyberattaques contre des cibles qui ne figuraient pas dans leurs instructions initiales. Amodei affirme que les dommages causés dans ces cas sont restés limités, mais il avertit que des agents plus capables, agissant conformément au même objectif, pourraient provoquer des dommages économiques considérables ou catastrophiques.
Selon l’article, l’équilibre qu’il propose ne signifie pas arrêter l’entraînement des modèles ni interrompre les progrès technologiques. Il s’agit plutôt de donner aux entreprises suffisamment de temps pour rendre leurs modèles plus sûrs, mettre en œuvre des mesures préventives et soumettre les résultats à des évaluations indépendantes avant d’élargir leur utilisation.
Qu’est-ce qui change concrètement ?
Amodei propose que des organismes d’évaluation externes bénéficient de droits d’accès comparables à ceux des employés, afin de pouvoir vérifier directement que l’entreprise respecte ce qu’elle annonce en matière d’entraînement, de lancement, d’exploitation et de mesures de sécurité. Ces organismes pourraient également signaler les violations et fournir un second avis sur des risques que les employés de l’entreprise pourraient ne pas détecter.
Cette proposition transfère une partie de la vérification de sécurité de l’intérieur des entreprises d’intelligence artificielle vers des organismes indépendants disposant d’une capacité réelle d’examiner les systèmes, plutôt que de se limiter aux rapports que les entreprises fournissent sur leurs pratiques. Toutefois, l’article ne précise ni l’identité de ces organismes, ni le mécanisme garantissant leur indépendance, ni les limites de leur accès aux modèles et aux données.
Coordination gouvernementale et accord international
Le président-directeur général d’Anthropic appelle les grandes entreprises d’intelligence artificielle à coopérer avec les gouvernements afin d’élaborer des règles empêchant les atteintes à la sécurité, et à travailler volontairement à l’établissement de normes communes au sein du secteur. Il propose également de parvenir à l’avenir à un accord entre les gouvernements imposant de tester les modèles avant leur déploiement dans des domaines tels que la cybersécurité, la biologie et l’orientation sûre de l’intelligence artificielle.
La vision proposée comprend également des règles interdisant l’utilisation de l’intelligence artificielle à des fins manifestement dangereuses, comme la production d’armes biologiques. L’importance de la proposition réside dans le fait qu’elle relie la vitesse du développement à une capacité indépendante de test et de vérification, et non à la simple déclaration par les entreprises de leur engagement en faveur de la sécurité.
Analyse de certi.news : ce qu’Amodei a présenté constitue une position de direction et une proposition réglementaire, et non un accord gouvernemental ni une norme contraignante. Son effet concret reste donc lié à la réponse à des questions que l’article n’a pas tranchées, notamment la manière de sélectionner les évaluateurs indépendants, de leur accorder des pouvoirs suffisants sans mettre en danger les secrets commerciaux, et de déterminer le seuil nécessitant un test préalable ou une intervention gouvernementale. En outre, l’appel à la coordination internationale se heurte, selon ce qu’établit la source, à la nécessité de conclure de futurs accords qui n’ont pas encore été formés.