Um relatório de pesquisa elaborado com a participação de mais de 20 pesquisadores e especialistas alerta para a possibilidade de a inteligência artificial entrar em uma fase conhecida como «explosão da inteligência», caso os sistemas consigam automatizar a pesquisa e o desenvolvimento e melhorar repetidamente suas capacidades com um grau limitado de intervenção humana. Esse cenário poderia condensar anos de progresso tecnológico em alguns meses ou menos.
O relatório tem o título «E se a automação da pesquisa e do desenvolvimento em inteligência artificial levasse a uma explosão da inteligência?». Participam de sua elaboração o cientista da computação canadense Yoshua Bengio, o ganhador do Prêmio Nobel Geoffrey Hinton, Jack Clark, cofundador da Anthropic, e Jakub Pachocki, cientista-chefe da OpenAI.
Como a aceleração poderia começar?
Os pesquisadores se concentram no conceito de «autoaperfeiçoamento iterativo», ou seja, a capacidade dos sistemas de inteligência artificial de contribuir para o desenvolvimento de novos sistemas e melhorar suas capacidades sem intervenção humana direta em cada etapa. O relatório considera que a automação da pesquisa e do desenvolvimento em inteligência artificial é o caminho mais provável para que essa aceleração ocorra, porque os sistemas atuais já são usados para ajudar no desenvolvimento de tecnologias de inteligência artificial, e as versões aprimoradas também podem ser implantadas rapidamente.
Se os sistemas atingirem o nível de especialistas em pesquisa e desenvolvimento, um único desenvolvedor poderá operar uma força de pesquisa equivalente a «milhões» de pesquisadores humanos especializados, segundo o relatório. Mas o resultado potencial não seria apenas um aumento da produtividade; a velocidade do desenvolvimento poderia superar a capacidade de governos, empresas e instituições de ajustar os mecanismos de supervisão e distribuir o poder.
Por que esta notícia é importante?
A importância do alerta está no fato de que o debate não se limita a um novo modelo ou a uma capacidade comercial específica, mas aborda a possibilidade de a própria dinâmica de desenvolvimento da inteligência artificial mudar. Caso o cenário se concretize, o intervalo entre a descoberta de uma nova capacidade e a implementação de controles para ela poderá se tornar muito menor do que os períodos regulatórios habituais.
O relatório aponta benefícios potenciais, incluindo a aceleração de descobertas médicas e do progresso tecnológico. Mas, por outro lado, alerta para o uso de sistemas extremamente poderosos no desenvolvimento de ameaças biológicas ou cibernéticas em um ritmo superior à capacidade humana de criar meios de enfrentamento. Os países também poderiam explorar uma rápida superioridade em inteligência artificial para transformar um avanço limitado em áreas como o ciberespaço em uma vantagem decisiva.
Medidas propostas antes que seja tarde
Os autores do relatório instam os governos a agir antes do início de qualquer possível explosão, porque a janela de intervenção poderá se estreitar depois que o processo começar. As propostas incluem:
- Obrigar as empresas de inteligência artificial a apresentar relatórios transparentes sobre o desenvolvimento de suas pesquisas.
- Permitir que auditores independentes monitorem os processos de pesquisa e desenvolvimento dentro das empresas.
- Estabelecer limites para a velocidade de desenvolvimento dos sistemas.
- Cooperar com centros de dados para permitir a interrupção de alguns projetos de pesquisa e desenvolvimento quando necessário.
- Isolar os sistemas automatizados de pesquisa e desenvolvimento de caminhos que possam tirá-los do âmbito do controle humano.
- Preparar planos de resposta a emergências para diferentes cenários.
2028 como estimativa temporal, não como data confirmada
O relatório indica que projetos de pesquisa e desenvolvimento que exigem meses de trabalho humano poderão ser totalmente automatizados até 2028. Mas esclarece que os atuais ganhos de produtividade ainda não atingiram o nível necessário para desencadear uma «explosão da inteligência», embora os sistemas mais recentes estejam se aproximando desse limite.
Leitura editorial: O relatório não apresenta uma data confirmada para a ocorrência desse cenário e reconhece que as cadeias de suprimentos, os materiais especializados e as aprovações regulatórias podem desacelerar o desenvolvimento. Portanto, o valor prático do alerta está em incentivar os tomadores de decisão a testar mecanismos de transparência, interrupção e resposta antes que a própria velocidade do desenvolvimento se torne um obstáculo à supervisão, e não em considerar 2028 um ponto de virada definido.