A empresa de inteligência artificial "Anthropic" revelou um sinal marcante nos detalhes minuciosos de suas divulgações financeiras revisadas (S-1/A), nas quais adverte que está prestes a desenvolver um modelo com capacidades de autoaperfeiçoamento recursivo (RSI), o ponto em que a inteligência artificial se torna capaz de treinar e desenvolver a si mesma de uma maneira que impulsiona uma aceleração massiva em suas capacidades técnicas.
O conceito de autoaperfeiçoamento recursivo é visto nos círculos de desenvolvedores e pesquisadores como uma faca de dois guinhes; até onde os otimistas conseguem ver, esse desenvolvimento representa uma ferramenta promissora para aumentar a produtividade da pesquisa e acelerar descobertas científicas sem precedentes, enquanto, por outro lado, levanta preocupações entre pesquisadores e interessados na segurança tecnológica sobre a possibilidade de perder o controle humano sobre sistemas de inteligência artificial capazes de construir versões avançadas de si mesmos independentemente da supervisão.
O que mudou na prática de acordo com as divulgações?
A empresa explicou na seção de fatores de risco de seus documentos regulatórios que já utilizou sistemas de inteligência artificial para acelerar processos de pesquisa e desenvolvimento, o que às vezes levou a saltos de capacidade que a empresa só conseguiu monitorar com precisão posteriormente. A "Anthropic" indicou que suas estimativas internas apontam para a possibilidade de atingir o limite de "progresso dramaticamente acelerado associado à inteligência artificial", conforme definido em sua Política de Escalabilidade Responsável (Responsible Scaling Policy).
Apesar desses avisos, a empresa confirmou que nenhum de seus modelos atuais ultrapassou esse limite ainda, enfatizando seu compromisso em manter o elemento humano no centro das operações de pesquisa e desenvolvimento no futuro previsível. A empresa explicou que está considerando atualizações em suas políticas para evitar qualquer uso totalmente independente do modelo "Claude" no projeto e na construção das próximas gerações de modelos líderes sem supervisão humana e compreensão real.
Por que esta notícia importa?
Este aviso surge em um momento em que as capacidades dos modelos "Claude" nas áreas de programação, matemática e segurança cibernética estão testemunhando desenvolvimentos notáveis e rápidos. A divulgação também ganha importância especial por vir de uma das principais empresas de inteligência artificial generativa, destacando a lacuna potencial entre a velocidade de desenvolvimento dos modelos e a capacidade das instituições regulatórias e humanas de acompanhar e controlar as medidas de segurança e proteção associadas a eles.