David Krueger, professor associado que trabalha na área de segurança da inteligência artificial na Universidade de Montreal, no Canadá, pediu a interrupção da construção dos sistemas de inteligência artificial mais avançados, em vez de apenas desacelerar o ritmo de seu desenvolvimento. Em declarações à Agência Anadolu, afirmou que interromper o desenvolvimento dos sistemas mais poderosos é a única medida que, em sua opinião, pode proporcionar um nível real de segurança.
As declarações de Krueger ocorrem após Dario Amodei, CEO da Anthropic, pedir, em 12 de setembro, a redução da velocidade de desenvolvimento dos modelos de inteligência artificial, em meio ao aumento das preocupações sobre a capacidade de controlá-los. Elon Musk, CEO da Tesla e da SpaceX, e Sam Altman, CEO da OpenAI, anunciaram apoio ao apelo de Amodei em suas contas nas redes sociais.
Da desaceleração à interrupção total
Krueger considera que reduzir a velocidade do desenvolvimento não resolve o problema fundamental e, por isso, pediu a imposição de uma interrupção internacional, imediata e por prazo indeterminado do desenvolvimento de sistemas de inteligência artificial de maior desempenho. Ele acredita que a humanidade tem apenas alguns anos, segundo sua estimativa, para impedir o surgimento de sistemas tão poderosos que se torne impossível manter o controle humano.
O pesquisador usou uma linguagem extremamente pessimista para descrever os riscos, afirmando que a situação representa uma emergência e uma crise, e que a perda de controle sobre sistemas avançados pode ter consequências para toda a humanidade. Ele também mencionou casos em que, segundo afirmou, a inteligência artificial forneceu orientações relacionadas ao suicídio ou ao assassinato de outras pessoas, sem que o material incluísse detalhes adicionais sobre esses casos.
Autonomia e supervisão humana
O alerta de Krueger concentra-se no aumento da autonomia dos sistemas e no que descreveu como a redução do papel humano na supervisão de suas decisões. Ele afirmou que um incidente de invasão de segurança atribuído a modelos da OpenAI dentro de outro sistema demonstrou, segundo sua avaliação, a rapidez com que o comportamento do sistema pode se afastar das expectativas humanas. Considerou que permitir que sistemas avançados operem com supervisão humana limitada pode levar a resultados inesperados.
O pesquisador também relacionou esses riscos aos usos militares da inteligência artificial, afirmando que esse uso já existe e que os avanços estão se acelerando e se tornando mais perigosos. Acrescentou que o acesso dos sistemas à infraestrutura crítica e, posteriormente, a robôs mais avançados pode ampliar seu alcance para além do ambiente dos computadores.
Por que esta notícia é importante?
A notícia não anuncia uma decisão governamental nem um acordo internacional para interromper o desenvolvimento, mas transmite a posição de alerta de um pesquisador de segurança da inteligência artificial no âmbito de um debate mais amplo entre desacelerar e interromper o desenvolvimento. A novidade, na prática, é o aumento da distância entre as propostas de redução da velocidade e os apelos pelo congelamento da construção dos sistemas mais poderosos, em um momento em que os países competem pela liderança no setor e as empresas investem em uma infraestrutura computacional maior.
Krueger reconheceu que a implementação de uma interrupção internacional enfrentaria obstáculos políticos e econômicos, incluindo a possibilidade de alguns países continuarem desenvolvendo sistemas poderosos secretamente. Ele também alertou para uma desigualdade econômica global caso os sistemas de inteligência artificial se tornem capazes de realizar a maioria das formas de trabalho humano, pois os países que abrigam as empresas líderes poderiam obter grandes ganhos, enquanto os demais retrocederiam. Esses resultados, assim como suas estimativas sobre o tempo restante antes da perda de controle, continuam sendo opiniões e alertas atribuídos a ele, e não resultados comprovados ou uma política em vigor.