Chris Lehane, responsable des politiques mondiales chez OpenAI, a confirmé que son entreprise menait depuis plusieurs semaines des discussions avec Anthropic et Google DeepMind au sujet de la sécurité de l’intelligence artificielle. Cette déclaration a été faite lors d’une rencontre avec des journalistes mardi, alors que Lehane se trouve à Washington pour travailler avec les législateurs américains sur le traitement des risques catastrophiques liés à l’intelligence artificielle.
Cette annonce confirme des informations précédentes faisant état d’une coopération non déclarée entre les trois entreprises et donne une dimension pratique aux appels généraux en faveur de la sécurité. L’article n’a pas précisé les modalités des discussions ni les décisions auxquelles elles ont abouti. La source n’a pas non plus rapporté de commentaire d’Anthropic, de Google ou d’OpenAI en réponse aux demandes de TechCrunch.
De l’appel à la coopération institutionnelle
Ces discussions interviennent après la publication d’un article de Dario Amodei, directeur général d’Anthropic, dans lequel il a appelé le secteur de l’intelligence artificielle à travailler ensemble afin de ralentir le rythme de développement des modèles avancés d’intelligence artificielle et d’éviter les risques catastrophiques. Cet appel a reçu le soutien de personnalités éminentes, notamment Sam Altman d’OpenAI, Demis Hassabis de Google et Elon Musk de SpaceXAI.
Altman a déclaré qu’OpenAI se joindrait à Anthropic pour faire intervenir des organismes d’évaluation indépendants tiers chargés de surveiller la sécurité. D’autres informations ont également indiqué que les trois entreprises travaillaient à la création d’un organisme de normalisation pour le secteur, une initiative qui, selon ce qu’Altman a dit à ses employés, pourrait devoir avancer sans le soutien du gouvernement américain.
Hassabis avait appelé en juillet à la création d’un nouvel organisme américain de normalisation chargé de jouer le rôle d’autorité de surveillance de l’intelligence artificielle, avec le pouvoir d’examiner les modèles les plus avancés et de coordonner un ralentissement collectif du développement si les risques s’aggravaient.
La coordination confrontée à la question de la concurrence
La coopération entre les plus grands laboratoires d’intelligence artificielle n’est pas dépourvue de complexité juridique. Certaines parties, dont Altman, ont souligné que la coordination entre les entreprises pourrait soulever des risques liés au droit de la concurrence si elle était considérée comme un moyen de limiter la concurrence. Amodei a proposé une exemption gouvernementale limitée permettant ce type de coopération sur les questions de sécurité, mais Lehane a déclaré que les entreprises n’avaient pas besoin d’une telle exemption.
Que signifie cette évolution en pratique ?
Cette évolution marque le passage d’une demande adressée à chaque entreprise pour qu’elle évalue ses modèles en interne à l’examen de dispositifs communs comprenant des parties indépendantes et des normes sectorielles. Si ces discussions débouchent sur un mécanisme officiel, elles pourraient influencer la manière dont les modèles avancés sont testés avant leur lancement ou l’élargissement de leur utilisation. Toutefois, la source ne confirme pas encore l’existence d’un organisme commun ni d’un accord contraignant, et ne précise pas comment garantir l’indépendance des évaluateurs ou empêcher l’utilisation des normes de sécurité pour restreindre la concurrence.
Lors de la même réunion de mardi, Lehane a annoncé le soutien d’OpenAI à une disposition du projet de loi FRONTIER Act qui obligerait les laboratoires d’intelligence artificielle avancée à autoriser des « organisations de vérification indépendantes » à entrer dans leurs entreprises afin de vérifier que les modèles sont développés en toute sécurité.
Cette orientation est contraire à la position du président Trump, qui a qualifié les préoccupations en matière de sécurité de supercherie et rejeté la nécessité d’une réglementation plus stricte, estimant que tout ralentissement pourrait donner un avantage à la Chine. David Sacks, son conseiller pour l’intelligence artificielle, a repris l’idée selon laquelle les inquiétudes concernant les risques existentiels de l’intelligence artificielle sont exagérées. La prochaine étape reste donc liée à la capacité des entreprises à transformer la coopération volontaire en normes applicables, ainsi qu’à la position des législateurs américains sur les limites de cette coordination.