25 destacados matemáticos firmaron una carta abierta en la que advierten que la carrera de los laboratorios de inteligencia artificial por lograr avances en problemas matemáticos célebres podría perjudicar la estructura abierta sobre la que se basa la investigación científica. Todos los firmantes poseen una Medalla Fields, considerada uno de los máximos reconocimientos en matemáticas.
La carta llega en un momento en que aumenta la disputa entre OpenAI y varios investigadores académicos. Tristan Buckmaster, profesor de la Universidad de Nueva York (NYU), acusó a la empresa de presionarlo para que no atribuyera el mérito a un colaborador que trabaja en Anthropic, después de la resolución de un problema matemático importante. También se preguntó si OpenAI había utilizado trabajos realizados mediante Codex para producir su propia demostración durante un largo periodo de razonamiento. Según el artículo, la demostración de OpenAI todavía no está documentada ni verificada.
En otro acontecimiento, OpenAI retiró esta semana su patrocinio de un evento matemático en el Instituto de Tecnología de California (Caltech), después de las críticas formuladas por investigadores del instituto. La fuente no ofrece detalles adicionales sobre los motivos de la retirada ni sobre la naturaleza de las críticas, pero sitúa la medida en el contexto de la creciente tensión entre los laboratorios y las universidades.
El problema no consiste únicamente en resolver el problema
La carta reconoce que la capacidad de los modelos para resolver problemas matemáticos abiertos puede ser beneficiosa para la humanidad, pero vincula ese beneficio con la capacidad de la comunidad matemática para comprender las soluciones, explicarlas e integrarlas en el conocimiento existente. Los firmantes advierten que el anuncio rápido de resultados podría dejar un tiempo insuficiente para preparar una exposición matemática susceptible de revisión, aislar los métodos y las ideas nuevas y hacer referencia a trabajos anteriores.
Según la carta, esto plantea preguntas contundentes sobre la atribución del mérito y la posibilidad de plagio, especialmente cuando se presenta un resultado generado con ayuda de la inteligencia artificial antes de que otros investigadores puedan verificarlo o determinar su relación con trabajos anteriores. La carta también subraya que las matemáticas no están compuestas únicamente por demostraciones; existe un proceso más amplio que incluye enseñar a los estudiantes, plantear nuevas preguntas, desarrollar ideas y transmitirlas entre generaciones.
¿Por qué importa esta noticia?
El problema práctico que pone de relieve la disputa es el desequilibrio de incentivos. Los laboratorios de inteligencia artificial capaces de gastar decenas de millones de dólares en ejecutar modelos podrían alcanzar una vía útil para resolver un problema antes que los investigadores que comenzaron a trabajar en él. Si las reglas de atribución, documentación y uso recíproco de las herramientas no son claras, esto podría llevar a los investigadores a compartir menos sus trabajos o a evitar el uso de herramientas de inteligencia artificial por temor a que sus resultados se incorporen a modelos posteriores o se atribuyan a otra entidad.
La carta llega después del «Manifiesto de Leiden», publicado por un grupo de matemáticos en junio, que también abordó el impacto de las demostraciones de los modelos lingüísticos en la profesión y ofreció recomendaciones para matemáticos, instituciones y responsables de políticas. Esto indica que el debate ya no está relacionado con un incidente aislado, sino con un intento temprano de establecer normas de transparencia, revisión y atribución del mérito.
Siguen abiertas preguntas fundamentales, entre ellas cómo demostrar el origen de las ideas utilizadas en una demostración generada con ayuda de un modelo, quién asume la responsabilidad de verificarla y cómo proteger la cultura de investigación abierta sin obstaculizar el aprovechamiento de las nuevas herramientas. El sitio considera que estas preguntas no conciernen únicamente a las matemáticas; la tensión entre la velocidad de los sistemas de inteligencia artificial y los requisitos del trabajo creativo susceptible de documentación podría aparecer de la misma manera en otros ámbitos científicos y profesionales.