La vision d'Anthropic pour la régulation fédérale
Des rapports récents ont révélé qu'Anthropic a soumis un projet de loi aux législateurs américains visant à établir un cadre réglementaire pour l'intelligence artificielle. Cette initiative intervient alors que les pressions mondiales s'intensifient pour contrôler le rythme de développement des modèles avancés, l'entreprise cherchant à définir des scénarios clairs justifiant l'interdiction de la mise sur le marché de tout modèle d'intelligence artificielle.
Critères de risques catastrophiques
Le projet de loi proposé définit des cas spécifiques classés comme « risque imminent et catastrophique », à savoir des situations pouvant entraîner la mort de plus de 50 personnes ou causer des dommages matériels dépassant un milliard de dollars. Le projet exige que ces risques découlent de :
- La création ou le déploiement d'armes biologiques.
- La perte de contrôle du modèle par les développeurs.
- Le lancement de cyberattaques à grande échelle.
Ces critères sont largement similaires à ceux figurant dans la loi de l'État de Californie (Senate Bill 53), ce qui indique une tentative d'unifier les normes de sécurité au niveau fédéral.
Qu'est-ce qui change concrètement ?
Le point le plus controversé réside dans le mécanisme d'application ; le projet de loi propose de s'appuyer sur des « évaluateurs indépendants » enregistrés auprès du département du Commerce des États-Unis pour évaluer les risques des modèles. Cependant, la loi accorde aux développeurs le droit de rémunérer ces évaluateurs, à condition que les honoraires ne soient pas liés aux résultats de l'évaluation, ce qui soulève des questions sur l'indépendance de ce processus.
En outre, la loi impose des restrictions strictes aux agences fédérales ; elle leur interdit de prendre une décision unilatérale pour arrêter le lancement d'un modèle. Au lieu de cela, en cas de détection d'un risque imminent, l'agence doit en informer le département du Commerce dans les 72 heures, lequel doit à son tour demander une injonction à un juge de Washington D.C. pour bloquer le lancement. Cela signifie retirer le pouvoir discrétionnaire direct des organismes de réglementation technique pour le limiter à la voie judiciaire.
Contexte de la concurrence réglementaire
Cette initiative s'inscrit dans un contexte de division au sein du secteur technologique ; alors que certaines entreprises appellent à des cadres réglementaires volontaires basés sur des observateurs internes, d'autres leaders de l'industrie, comme Jensen Huang, PDG de Nvidia, estiment que le secteur n'a pas besoin de nouvelles lois restreignant l'innovation. La démarche d'Anthropic constitue une tentative proactive des grandes entreprises pour façonner les règles auxquelles elles seront soumises, plutôt que de les laisser aux législateurs qui pourraient imposer des restrictions plus strictes ou globales.