Garry Tan, PDG de Y Combinator, estime que les États-Unis pourraient devoir autoriser les petits laboratoires d’intelligence artificielle à distiller les connaissances de modèles américains avancés, afin de constituer un ensemble plus solide de modèles à poids ouverts qui ne dépendent pas de laboratoires chinois. Cette position intervient alors qu’Anthropic accuse des laboratoires chinois de mener des attaques illégales de distillation contre des modèles avancés.
Dans une interview accordée à CNBC, Tan a déclaré qu’il n’interviendrait pas sur le plan réglementaire concernant l’utilisation de techniques de distillation par des laboratoires chinois, mais il a évoqué la possibilité de créer un « système américain de distillation ». Il a expliqué à TechCrunch que l’objectif serait de permettre à des laboratoires américains développant des modèles à poids ouverts d’utiliser ces techniques, en leur donnant accès aux modèles ciblés « par la grande porte » et selon des conditions d’accès claires, et non par usurpation d’identité, fraude ou vol d’identifiants.
Qu’entend-on par distillation de modèles ?
La distillation de modèles consiste à entraîner un nouveau modèle en tirant parti des sorties d’un autre modèle, généralement en lui envoyant un grand nombre de requêtes et en analysant ses réponses et sa méthode de raisonnement. Les laboratoires d’intelligence artificielle utilisent légitimement cette technique dans certains scénarios d’entraînement et d’amélioration des modèles, mais les limites de son utilisation deviennent controversées lorsque le modèle ciblé est consulté sans autorisation ou lorsque l’identité de l’entité utilisatrice est dissimulée.
Selon l’article, Anthropic a publié cette semaine son deuxième rapport accusant des laboratoires chinois de mener des « attaques illégales de distillation ». L’entreprise affirme que ces opérations comprenaient la dissimulation de l’identité ainsi que le recours à la fraude et à des identifiants volés pour accéder aux modèles. Dario Amodei, PDG d’Anthropic, avait publiquement appelé les autorités de régulation américaines à prendre des mesures plus strictes contre ce type de distillation.
Pourquoi Tan défend-il une position différente ?
L’argument de Tan ne se limite pas à la concurrence entre les États-Unis et la Chine. Il estime que les laboratoires d’intelligence artificielle ne devraient pas disposer d’un pouvoir étendu pour contrôler ce que les clients font des informations qu’ils obtiennent par l’intermédiaire des interfaces de programmation d’applications. Selon lui, imposer de fortes restrictions à l’utilisation des sorties des modèles fermés pourrait limiter la capacité des chercheurs et des développeurs à créer des alternatives ouvertes.
Tan relie également cette position à l’histoire de l’entraînement des modèles commerciaux eux-mêmes. Il souligne que les laboratoires de modèles fermés ont rassemblé de grandes quantités de connaissances humaines largement accessibles pour entraîner leurs systèmes, y compris des contenus protégés par le droit d’auteur, sans toujours obtenir l’autorisation des titulaires de droits de propriété intellectuelle. Il soutient donc que l’accès à une intelligence entraînée sur de vastes données publiques devrait davantage relever d’un bien public, plutôt que de rester entièrement régi par les conditions d’utilisation imposées par des entreprises privées.
Qu’est-ce qui changerait concrètement ?
Si cette idée se transformait en politique, la bataille porterait sur les conditions d’accès, les limites d’utilisation et la preuve du consentement du modèle ciblé, et non sur l’autorisation de tout type de copie de modèles. La distinction établie par Tan entre la distillation autorisée et la distillation fondée sur le vol d’identifiants est importante : il ne défend pas les opérations qu’Anthropic attribue aux laboratoires chinois, mais la possibilité pour de petits laboratoires américains d’utiliser légalement les sorties de modèles avancés.
Pour les développeurs de modèles à poids ouverts, cette approche pourrait réduire l’écart de ressources qui les sépare des laboratoires disposant des capitaux, des chercheurs et de l’infrastructure nécessaires pour développer des modèles Frontier à partir de zéro. Les laboratoires commerciaux avancés pourraient, quant à eux, y voir une menace pour la valeur de leurs modèles fermés et pour leur capacité à contrôler l’utilisation de leurs interfaces et de leurs sorties.
Opinion et faits
Tan présente sa position comme un moyen de préserver le pluralisme sur le marché de l’intelligence artificielle. Il met en garde contre un scénario dans lequel une seule entreprise, disposant du meilleur accès aux capitaux et aux meilleurs chercheurs, deviendrait propriétaire du modèle le plus puissant et l’unique portail vers les capacités avancées. Il estime que les modèles à poids ouverts offrent aux utilisateurs une liberté et un accès plus larges, tandis que les laboratoires avancés garantissent la poursuite des investissements dans le développement de nouvelles capacités.
Cependant, l’article ne fournit aucune preuve de l’existence d’un accord réglementaire américain concernant un « système de distillation » de ce type et ne tranche pas les questions relatives à la propriété intellectuelle, aux conditions contractuelles ou à la manière de vérifier l’utilisation autorisée. La proposition de Tan demeure donc une position politique et intellectuelle dans un débat où s’entremêlent sécurité économique, droits des entreprises, intérêts des chercheurs et risques de détournement des modèles, et non l’annonce d’une politique en vigueur.