Le roi Charles a appelé les dirigeants d’entreprises d’intelligence artificielle et les responsables gouvernementaux à trouver des moyens suffisants de contrôler cette technologie « avant qu’il ne soit trop tard », lors d’un sommet privé qu’il a accueilli le jeudi 17 septembre à Dumfries House, dans le comté de l’Ayrshire, en Écosse.
La réunion a réuni Jensen Huang, directeur général de Nvidia, des dirigeants d’OpenAI et d’Anthropic, ainsi que le nouveau ministre britannique de l’Intelligence artificielle, Kanishka Narayan, aux côtés du chef du service britannique de renseignement extérieur. Paolo Benanti, qui conseille le pape sur l’intelligence artificielle, était également présent. OpenAI a envoyé sa directrice financière, Sarah Friar, tandis qu’Anthropic était représentée par son responsable des affaires mondiales, Tino Cuéllar.
Mise en garde contre les avantages et les risques
Le roi a déclaré que l’intelligence artificielle possède un immense potentiel pour améliorer et sauver des vies, notamment dans les domaines de la médecine et des sciences. Il a toutefois souligné dans le même temps que les développeurs de ces technologies mettent de plus en plus en garde contre la possibilité qu’elles acquièrent des « capacités plus sombres », voire la capacité de tuer.
Charles a relié ces inquiétudes à ce qu’il a appelé les « risques existentiels » liés au fait que cette technologie puisse tomber entre de mauvaises mains et être utilisée de manière potentiellement catastrophique. Il a également décrit le développement rapide de l’intelligence artificielle comme « fascinant et profondément préoccupant », appelant les participants à garantir que la technologie reste au service de l’être humain, de la société et du monde naturel.
Selon les informations disponibles, le roi n’est resté qu’environ 20 minutes, avant de laisser les participants poursuivre les discussions entre eux. Cuéllar a déclaré qu’Anthropic était honorée d’avoir participé et a remercié le roi d’avoir réuni des dirigeants du secteur ainsi que des voix issues de différents secteurs de la société afin de discuter du rôle de l’intelligence artificielle au service de l’intérêt général.
Pourquoi cette réunion est-elle importante ?
La réunion ne constitue ni l’annonce d’une nouvelle politique réglementaire ni un accord contraignant, mais elle montre que le débat sur les risques de l’intelligence artificielle s’étend à un espace réunissant les entreprises qui développent les modèles, les gouvernements, les services de renseignement ainsi que des personnalités religieuses et de la société civile. Ce croisement prend de l’importance alors que le désaccord persiste sur la question de savoir s’il faut ralentir le développement des modèles avancés ou le poursuivre à un rythme plus rapide.
Le sommet intervient quelques jours après la démission d’un chercheur d’Anthropic qui avait publiquement mis en garde contre la course des entreprises pour construire des machines plus intelligentes que les humains, ainsi qu’après des appels de Sam Altman, Elon Musk et Dario Amodei à ralentir le développement. À l’inverse, Jensen Huang et le président américain Donald Trump ont rejeté ces appels. Trump a déclaré que les États-Unis devançaient la Chine dans le domaine de l’intelligence artificielle et que celui qui remporterait cette compétition gagnerait la compétition plus large.
Une coopération internationale sans détails opérationnels
Charles a également appelé à une coopération internationale et à un consensus sur la manière d’orienter l’intelligence artificielle vers des bénéfices publics. Toutefois, la source ne mentionne ni résultats officiels du sommet, ni mécanismes de supervision précis, ni calendrier pour traduire cet appel en politiques publiques. Le débat sur la souveraineté de l’intelligence artificielle se poursuit également, notamment après qu’Anthropic a limité l’accès à ses deux modèles, Fable et Mythos, aux clients situés aux États-Unis, selon l’article.
Lecture de certi.news : la valeur réelle du sommet réside dans l’élargissement du cercle des parties qui discutent de la gouvernance de l’intelligence artificielle, et non dans l’adoption d’une nouvelle décision. Il reflète une confrontation claire entre les impératifs de sécurité, la concurrence géopolitique et les intérêts des entreprises technologiques, tandis que la question centrale reste ouverte : qui définit les limites du contrôle et comment les appliquer à l’échelle internationale avant que la vitesse du développement ne dépasse la capacité des institutions à réagir ?