Aceleração sem precedentes no desenvolvimento de modelos
Um relatório publicado pela organização de pesquisa em segurança de inteligência artificial (METR) mostrou que a Anthropic está testemunhando uma aceleração significativa no ritmo de desenvolvimento de seus modelos inteligentes, com dados indicando que a empresa alcançou no ano passado um progresso equivalente a dois anos de evolução histórica. De acordo com a investigação de 11 semanas, essa aceleração não se deve apenas ao aumento da capacidade computacional, mas também à contribuição da própria inteligência artificial no processo de desenvolvimento.
Funcionários da empresa relataram que o uso dos modelos internos mais recentes aumentou sua produtividade em 12 vezes em comparação ao trabalho sem assistência tecnológica, o dobro da taxa registrada há apenas alguns meses. O relatório também revelou que a empresa concluiu o treinamento de três novos modelos que ainda não foram lançados ao público, refletindo uma velocidade extremamente alta nos ciclos de desenvolvimento.
Por que esta notícia preocupa os pesquisadores?
A crise reside na contradição entre os apelos do CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o ritmo de desenvolvimento da inteligência artificial, e a realidade que indica que a empresa está liderando uma corrida em direção a sistemas capazes de se autoaperfeiçoar (Recursive Self-Improvement) sem grande intervenção humana. Os pesquisadores acreditam que esse desenvolvimento pode superar a capacidade dos procedimentos atuais de segurança de acompanhar o ritmo, colocando a sociedade diante de desafios técnicos e éticos complexos.
Transparência e restrições editoriais
O relatório gerou ampla polêmica devido à decisão da Anthropic de ocultar grandes partes dos resultados obtidos pela organização METR, sob o pretexto de proteger segredos comerciais e impedir que concorrentes explorem o roteiro técnico da empresa. Especialistas em segurança de inteligência artificial criticaram esse apagão, argumentando que ele impede o público e os órgãos reguladores de avaliar os riscos reais de forma independente.
Por sua vez, Sam McCandlish, cofundador da Anthropic, defendeu a decisão de censura, enfatizando que a divulgação de detalhes sobre os motores de aceleração pode piorar os riscos que a empresa tenta evitar. No entanto, persistem dúvidas sobre a capacidade de empresas privadas de gerenciar a segurança de tecnologias dessa magnitude sem supervisão governamental ou independente adequada, especialmente com o aumento das pressões políticas nos Estados Unidos para impor restrições mais rígidas ao desenvolvimento de inteligência artificial.