Anthropic a annoncé le 18 septembre 2026 un partenariat avec Accenture afin de réaliser une évaluation indépendante de modèles avancés d’intelligence artificielle, dans une démarche visant à faire intervenir des évaluateurs indépendants au sein de l’entreprise qui développe les modèles, plutôt que de se limiter à des examens externes une fois ceux-ci achevés. Faculty, l’unité spécialisée dans l’intelligence artificielle d’Accenture, dirigera le travail commun.
Le partenariat couvre l’évaluation des modèles et leur mise à l’épreuve au moyen de méthodes de simulation offensive, la réalisation d’évaluations de l’alignement et l’examen des dispositifs de protection. Anthropic a déclaré que l’expérience d’Accenture dans le déploiement de l’intelligence artificielle auprès des entreprises et des gouvernements, ainsi que dans plusieurs secteurs, apporterait une perspective pratique à l’évaluation de la sécurité et de l’utilisation des modèles.
Les deux parties prévoient d’investir chacune au moins un milliard de dollars dans le développement des capacités liées à ce domaine au cours des cinq prochaines années. L’entreprise n’a pas précisé dans l’annonce le calendrier des dépenses ni les mécanismes de mesure de ces investissements.
Que signifie l’évaluation intégrée ?
Par évaluation intégrée, on entend le fait que des évaluateurs indépendants travaillent au sein de l’entreprise d’intelligence artificielle avec un niveau d’accès proche de celui des employés. Cela leur permet de suivre les modèles pendant leur entraînement, d’examiner les décisions qui influencent leur développement et leur déploiement, et d’échanger directement avec les personnes qui y travaillent. Selon Anthropic, cette position pourrait aider les évaluateurs à vérifier que l’entreprise respecte ses engagements en matière de sécurité, à détecter les vulnérabilités, à signaler les incidents et à fournir au public une vision mieux informée des bénéfices et des risques.
Anthropic souligne que la présence d’évaluateurs indépendants ne lui transfère pas la responsabilité de la sécurité et ne diminue pas son obligation de rendre des comptes : la sécurité de ses modèles demeure sa responsabilité directe. La valeur pratique de l’initiative consiste à rendre cette responsabilité davantage vérifiable grâce à un accès indépendant aux étapes de développement et aux décisions internes.
Des lacunes encore non résolues
Il n’existe pour l’instant aucune norme consensuelle définissant les informations auxquelles les évaluateurs intégrés devraient avoir accès, ni la manière dont ils devraient transmettre leurs conclusions. Il n’existe pas non plus de système stable pour financer l’évaluation indépendante à long terme. Anthropic estime que le financement devrait à l’avenir provenir de sources mutualisées ou gouvernementales, mais elle financera directement le travail d’Accenture au stade actuel, ces solutions de remplacement n’étant pas disponibles.
L’entreprise mène également des discussions avec METR et d’autres organisations à but non lucratif afin d’expérimenter certains éléments de l’évaluation intégrée avec son propre financement. Elle a aussi annoncé que le partenariat avec Accenture n’était pas exclusif et qu’elle collaborerait avec d’autres évaluateurs, dont les noms seront annoncés dans les prochaines semaines, tandis qu’Accenture travaillera de son côté avec d’autres développeurs d’intelligence artificielle.
Analyse de certi.news
L’importance de cette annonce réside dans le fait qu’elle déplace le débat sur la sécurité des modèles, des rapports d’évaluation séparés vers la surveillance du processus de développement lui-même. Cela pourrait donner aux évaluateurs une meilleure capacité à repérer les décisions et les risques précoces, mais soulève en parallèle des questions cruciales concernant l’indépendance de l’évaluateur, les limites de son accès, le mécanisme de protection des informations et la manière de publier les résultats. Puisqu’Anthropic reconnaît l’absence de normes ou de modèle de financement stable, le partenariat constitue davantage une expérience fondatrice qu’un cadre définitif de gouvernance.