25 importantes matemáticos assinaram uma carta aberta alertando que a corrida dos laboratórios de inteligência artificial para obter avanços em problemas matemáticos célebres pode prejudicar a estrutura aberta na qual se baseia a pesquisa científica. Todos os signatários receberam a Medalha Fields, considerada uma das mais importantes premiações da matemática.
A carta surge em um momento de intensificação da disputa entre a OpenAI e vários pesquisadores acadêmicos. Tristan Buckmaster, professor da Universidade de Nova York (NYU), acusou a empresa de pressioná-lo a não atribuir o crédito a um colaborador que trabalha na Anthropic, após a solução de um problema matemático importante. Ele também questionou se a OpenAI havia usado trabalhos realizados por meio do Codex para produzir sua própria prova durante um longo período de raciocínio. Segundo a matéria, a prova da OpenAI ainda não foi documentada nem verificada.
Em outro acontecimento, a OpenAI retirou nesta semana seu patrocínio a um evento de matemática no Instituto de Tecnologia da Califórnia (Caltech), após críticas feitas por pesquisadores do instituto. A fonte não apresenta detalhes adicionais sobre os motivos da retirada nem sobre a natureza das críticas, mas situa a medida no contexto da tensão crescente entre laboratórios e universidades.
O problema não está apenas em resolver a questão
A carta reconhece que a capacidade dos modelos de resolver problemas matemáticos em aberto pode ser útil para a humanidade, mas relaciona esse benefício à capacidade da comunidade matemática de compreender as soluções, explicá-las e integrá-las ao conhecimento existente. Os signatários alertam que o anúncio rápido dos resultados pode deixar tempo insuficiente para preparar uma exposição matemática passível de revisão, isolar os métodos e as ideias novas e fazer referência aos trabalhos anteriores.
Isso, segundo a carta, suscita questões graves sobre a atribuição de crédito e a possibilidade de plágio, especialmente quando um resultado gerado com a ajuda da inteligência artificial é apresentado antes que outros pesquisadores possam verificá-lo ou determinar sua relação com trabalhos anteriores. A carta também enfatiza que a matemática não é constituída apenas por provas; há um processo mais amplo que inclui ensinar estudantes, formular novas perguntas, desenvolver ideias e transmiti-las entre gerações.
Por que esta notícia é importante?
A questão prática destacada pela disputa é o desequilíbrio dos incentivos. Laboratórios de inteligência artificial capazes de gastar dezenas de milhões de dólares para operar modelos podem conseguir chegar a um caminho útil para um problema antes dos pesquisadores que começaram a trabalhar nele. Se as regras de atribuição, documentação e uso recíproco das ferramentas não forem claras, isso poderá levar os pesquisadores a reduzir o compartilhamento de seus trabalhos ou a evitar o uso de ferramentas de inteligência artificial, por medo de que seus resultados sejam incorporados a modelos posteriores ou atribuídos a outra entidade.
A carta surge após o “Manifesto de Leiden”, publicado por um grupo de matemáticos em junho, que também abordou o impacto das provas produzidas por modelos de linguagem na profissão e apresentou recomendações para matemáticos, instituições e formuladores de políticas. Isso indica que o debate já não está relacionado a um incidente isolado, mas a uma tentativa inicial de estabelecer padrões de transparência, revisão e atribuição de crédito.
Continuam em aberto questões fundamentais, entre elas como comprovar a origem das ideias usadas em uma prova gerada com a ajuda de um modelo, quem é responsável por verificá-la e como proteger a cultura da pesquisa aberta sem impedir o aproveitamento das novas ferramentas. O site considera que essas questões não dizem respeito apenas à matemática; a tensão entre a velocidade dos sistemas de inteligência artificial e as exigências de um trabalho criativo passível de documentação pode surgir da mesma forma em outras áreas científicas e profissionais.