Soumettre les modèles d’intelligence artificielle à l’examen d’organismes externes indépendants disposant de privilèges d’accès effectifs afin de vérifier leur sécurité et leur conformité.
Anthropic a commencé à fournir à une équipe de l’organisation à but non lucratif METR un accès interne élargi afin d’évaluer ses modèles et ses pratiques de sécurité, METR s’engageant à publier les résultats de ses évaluations sans que l’entreprise puisse en empêcher la publication. L’entreprise travaille également avec SecureBio, Accenture et Faculty dans le cadre de dispositifs d’évaluation offrant différents degrés d’accès et d’indépendance.
Dario Amodei, président-directeur général d’Anthropic, a présenté un plan en trois étapes visant à réduire les risques liés à l’évolution de l’intelligence artificielle. Celui-ci prévoit notamment la participation d’organismes d’évaluation indépendants ainsi qu’une coordination élargie entre les entreprises et les gouvernements. La proposition s’appuie sur les préoccupations suscitées par l’accélération de la capacité des modèles à développer des systèmes ultérieurs et par le risque d’utilisation abusive d’agents intelligents dans des attaques cybernétiques ou biologiques.