Utilisation d’agents d’intelligence artificielle dans des cyberattaques, un risque dont l’article indique que ses effets pourraient s’étendre à mesure que les capacités des agents augmentent.
Dario Amodei, président-directeur général d’Anthropic, a présenté un plan en trois étapes visant à réduire les risques liés à l’évolution de l’intelligence artificielle. Celui-ci prévoit notamment la participation d’organismes d’évaluation indépendants ainsi qu’une coordination élargie entre les entreprises et les gouvernements. La proposition s’appuie sur les préoccupations suscitées par l’accélération de la capacité des modèles à développer des systèmes ultérieurs et par le risque d’utilisation abusive d’agents intelligents dans des attaques cybernétiques ou biologiques.