25 éminents mathématiciens ont signé une lettre ouverte avertissant que la course des laboratoires d’intelligence artificielle pour réaliser des avancées dans des problèmes mathématiques célèbres pourrait nuire à la structure ouverte sur laquelle repose la recherche scientifique. Tous les signataires sont titulaires de la médaille Fields, considérée comme l’une des plus prestigieuses récompenses en mathématiques.
La lettre intervient alors que le conflit s’intensifie entre OpenAI et plusieurs chercheurs universitaires. Tristan Buckmaster, professeur à l’Université de New York (NYU), a accusé l’entreprise de lui avoir fait pression pour qu’il n’attribue pas le mérite à un collaborateur travaillant chez Anthropic, après la résolution d’un problème mathématique important. Il s’est également demandé si OpenAI avait utilisé des travaux réalisés via Codex pour produire sa propre preuve au cours d’une longue période de raisonnement. Selon l’article, la preuve d’OpenAI n’est toujours ni documentée ni vérifiée.
Dans un autre développement, OpenAI a retiré cette semaine son parrainage d’un événement mathématique au California Institute of Technology (Caltech), après les critiques formulées par des chercheurs de l’institut. La source ne fournit pas davantage de détails sur les raisons de ce retrait ni sur la nature des critiques, mais elle inscrit cette décision dans le contexte de tensions croissantes entre les laboratoires et les universités.
Le problème ne réside pas uniquement dans la résolution du problème
La lettre reconnaît que la capacité des modèles à résoudre des problèmes mathématiques ouverts peut être bénéfique pour l’humanité, mais elle lie cette utilité à la capacité de la communauté mathématique à comprendre les solutions, à les expliquer et à les intégrer aux connaissances existantes. Les signataires avertissent que l’annonce rapide des résultats pourrait laisser trop peu de temps pour préparer une présentation mathématique susceptible d’être examinée, isoler les méthodes et les idées nouvelles et faire référence aux travaux antérieurs.
Cela soulève, selon la lettre, des questions aiguës concernant l’attribution du mérite et le risque de plagiat, en particulier lorsqu’un résultat généré avec l’aide de l’intelligence artificielle est présenté avant que d’autres chercheurs aient pu le vérifier ou déterminer son lien avec des travaux antérieurs. La lettre souligne également que les mathématiques ne se composent pas uniquement de preuves ; elles reposent sur un processus plus vaste qui comprend l’enseignement aux étudiants, la formulation de nouvelles questions, le développement des idées et leur transmission entre les générations.
Pourquoi cette information est-elle importante ?
La question pratique mise en évidence par le conflit est le déséquilibre des incitations. Les laboratoires d’intelligence artificielle capables de dépenser des dizaines de millions de dollars pour faire fonctionner les modèles peuvent parvenir à une piste utile pour un problème avant les chercheurs qui ont commencé à travailler dessus. Si les règles d’attribution, de documentation et d’utilisation réciproque des outils ne sont pas claires, cela pourrait inciter les chercheurs à moins partager leurs travaux ou à éviter d’utiliser des outils d’intelligence artificielle, par crainte que leurs résultats soient intégrés à des modèles ultérieurs ou attribués à une autre entité.
La lettre fait suite à la « Déclaration de Leiden », publiée par un groupe de mathématiciens en juin, qui abordait également l’impact des preuves produites par les modèles de langage sur la profession et formulait des recommandations à l’intention des mathématiciens, des institutions et des décideurs politiques. Cela indique que le débat ne concerne plus un incident isolé, mais une tentative précoce d’établir des normes en matière de transparence, d’examen et d’attribution du mérite.
Des questions fondamentales restent ouvertes, notamment la manière de prouver la source des idées utilisées dans une preuve générée avec l’aide d’un modèle, la personne responsable de sa vérification et la façon de protéger la culture de la recherche ouverte sans entraver les bénéfices des nouveaux outils. Le site estime que ces questions ne concernent pas uniquement les mathématiques : la tension entre la rapidité des systèmes d’intelligence artificielle et les exigences d’un travail créatif susceptible d’être documenté pourrait se manifester de la même manière dans d’autres domaines scientifiques et professionnels.