Anthropic appelle les gouvernements à mettre à jour leurs politiques afin de suivre l’accélération des capacités de l’intelligence artificielle, au moyen de deux propositions couvrant la gouvernance des modèles avancés et la préparation à l’impact de la technologie sur les travailleurs et l’économie. L’entreprise estime que la rapidité d’évolution des modèles rend la transparence seule insuffisante et que les autorités gouvernementales ont besoin de pouvoirs accrus pour gérer les déploiements susceptibles de présenter des risques catastrophiques, tout en mettant en place des garanties empêchant l’utilisation abusive de ces pouvoirs.
La première proposition est constituée du cadre pour l’intelligence artificielle avancée, qui se concentre sur les modèles les plus puissants et les risques qui peuvent en découler. La seconde proposition, le cadre économique, porte sur la manière de préparer les travailleurs et l’économie à l’impact de l’intelligence artificielle et de garantir un large partage de ses bénéfices financiers. Anthropic affirme que les deux cadres traitent deux aspects d’un même défi : orienter la technologie de manière responsable à mesure qu’elle progresse et se préparer aux changements qu’elle apportera à la société.
Champ d’application des règles proposées
Le cadre avancé propose d’appliquer les règles aux modèles entraînés au moyen de plus de 1025 opérations en virgule flottante et développés par des entreprises réalisant plus de 500 millions de dollars de revenus liés à l’intelligence artificielle ou dépensant plus d’un milliard de dollars en recherche et développement dans ce domaine. Anthropic affirme que ce champ d’application vise les modèles de frontière, plutôt que d’imposer les mêmes exigences à tous les systèmes d’intelligence artificielle.
L’entreprise relie la nécessité de ce type de réglementation à la forte tendance à la hausse des capacités des modèles. Elle indique qu’il y a quelques années, les modèles étaient à peine capables d’écrire du code, tandis que le modèle Claude Mythos Preview a découvert, selon Anthropic, des milliers de vulnérabilités logicielles à haut risque, notamment des vulnérabilités dans chaque système d’exploitation et navigateur majeur. L’entreprise en conclut que la poursuite de cette tendance pourrait accroître les risques de dommages catastrophiques.
Quatre types de risques
Le cadre se concentre sur quatre grands domaines de risque :
- Risques biologiques : des systèmes non protégés pourraient rendre le développement d’armes biologiques plus facile et moins coûteux, même si ces mêmes capacités peuvent accélérer la découverte de médicaments.
- Risques cybernétiques : les modèles d’intelligence artificielle avancés peuvent découvrir des vulnérabilités critiques à grande échelle, ce qui peut contribuer à défendre les systèmes, mais accroît également le niveau de menace pesant sur les infrastructures essentielles, comme les hôpitaux et les réseaux électriques.
- Risques de perte de contrôle : il pourrait devenir plus difficile de contrôler les systèmes qui agissent en dehors du champ de contrôle de leurs développeurs à mesure que leurs capacités s’améliorent.
- Recherche et développement automatisés : les systèmes peuvent automatiser la recherche et le développement en intelligence artificielle, ce qui pourrait amplifier les trois risques précédents.
Exigences applicables aux développeurs de modèles avancés
Anthropic propose que les développeurs de modèles avancés testent leurs systèmes et publient un résumé des résultats, ainsi qu’un cadre de sécurité expliquant comment évaluer les risques catastrophiques et des fiches système décrivant les capacités et les risques des modèles. Le cadre appelle également à publier périodiquement des rapports sur la situation générale des risques et à effectuer régulièrement des évaluations indépendantes. L’entreprise indique que certaines exigences de transparence sont déjà imposées par des lois en Californie et à New York, mais estime que sa proposition va plus loin sur certains aspects.
En vertu de la proposition, chaque développeur de modèles avancés devrait faire appel à au moins un évaluateur indépendant qualifié, lequel publierait un examen des évaluations de l’entreprise et de ses rapports sur les risques. Anthropic appelle également les gouvernements et le secteur technologique à développer un écosystème d’évaluateurs indépendants en établissant des normes qui leur sont destinées, en fournissant des financements et en garantissant un accès suffisant aux modèles.
Le cadre comprend également des exigences de sécurité visant à protéger les poids des modèles et l’infrastructure utilisée pour l’entraînement, considérés comme des cibles de valeur pour les attaquants, y compris des acteurs gouvernementaux disposant de ressources importantes. L’entreprise propose de sécuriser l’ensemble de l’environnement de développement contre les menaces externes et internes, de décrire publiquement le programme de sécurité à un niveau général, de fournir des détails à une autorité gouvernementale déterminée sur demande, de créer des canaux de signalement des attaques par imitation de modèles et de tester régulièrement les défenses.
Pouvoirs gouvernementaux assortis de garde-fous
Anthropic estime que les gouvernements devraient disposer du pouvoir légal d’empêcher ou de dissuader le déploiement de modèles présentant un risque important de causer des dommages catastrophiques, avec des sanctions civiles liées aux revenus annuels mondiaux et augmentées en cas de violations répétées. Elle met toutefois en garde contre des pouvoirs réglementaires trop vastes ou trop lourds et propose un mécanisme précis pour empêcher les déploiements dangereux ainsi que des garanties concrètes destinées à limiter l’utilisation abusive de ce pouvoir.
Le cadre est principalement axé sur le gouvernement fédéral américain, mais il ne préconise pas d’annuler les lois des États, sauf si une loi fédérale au moins aussi stricte que la proposition est adoptée. Anthropic affirme que la suppression des pouvoirs des États devrait être limitée, afin qu’ils puissent continuer à réglementer des questions telles que la sécurité des enfants et la protection des consommateurs, tant qu’elles restent en dehors des fonctions de sécurité précises couvertes par la loi fédérale.
Renforcer la résilience de la société
La deuxième partie du cadre propose des mesures destinées à accroître la capacité de la société à faire face aux risques. Dans le domaine biologique, les recommandations comprennent le dépistage de la synthèse de gènes, la surveillance des nouvelles flambées épidémiques au moyen de systèmes d’alerte précoce et la préparation grâce au stockage d’équipements de protection et de moyens de limiter la transmission par voie aérienne.
Dans le domaine cybernétique, Anthropic appelle à renforcer les logiciels dont dépend Internet, à fournir un soutien technique aux opérateurs des infrastructures essentielles et à remplacer les anciens systèmes qu’ils utilisent. Elle propose également de créer une fonction gouvernementale dédiée au suivi des capacités cybernétiques des modèles avancés, ainsi qu’une coopération entre le gouvernement et le secteur technologique pour développer des moyens de protection permettant un partage à grande échelle des capacités cybernétiques.
L’entreprise reconnaît que le programme de résilience face aux risques de perte de contrôle et à la recherche et au développement automatisés est encore moins avancé et qu’il nécessite davantage de travail dans l’ensemble du secteur. Parmi les orientations qu’elle mentionne figurent le développement de capacités permettant de détecter les systèmes qui agissent en dehors du contrôle de leurs développeurs et d’y répondre, ainsi que la construction d’une infrastructure destinée à contenir ou à arrêter ces systèmes.
Anthropic s’attend à un débat approfondi sur ses propositions, mais exhorte les décideurs politiques à s’engager dès maintenant sur ces questions, alors que les capacités de l’intelligence artificielle continuent de s’améliorer au cours des prochains mois. Elle affirme que la gouvernance de la technologie devrait suivre cette évolution, tout en précisant que les propositions présentées restent soumises au débat et à l’évaluation.