O debate político e científico sobre os riscos da «inteligência artificial superinteligente» (ASI) intensificou-se após uma sessão realizada no Parlamento britânico, durante a qual autoridades e pesquisadores alertaram para a possibilidade de esses sistemas alcançarem um nível de capacidades difícil de controlar pelos seres humanos. Des Browne, ex-ministro da Defesa britânico, afirmou que a ameaça potencial poderia ser equivalente ao risco de uma guerra nuclear e talvez superá-lo.
Participou da sessão a coalizão Control AI, que defende o estabelecimento de regras internacionais para a inteligência artificial e apoia um projeto de lei discutido pelo Parlamento britânico para proibir o desenvolvimento da inteligência artificial superinteligente. Stuart Russell, cientista da computação da Universidade da Califórnia, em Berkeley, alertou para a possibilidade de uma catástrofe de grande escala e para um cenário em que a humanidade perderia o controle sobre os sistemas de inteligência artificial de forma irreversível.
Estimativas divergentes sobre a dimensão do risco
Evan Hubinger, responsável pela pesquisa de alinhamento na empresa Anthropic, provocou controvérsia ao afirmar que existe uma probabilidade superior a 10% de que essa tecnologia leve à morte de todos os seres humanos durante a próxima década. Esse número não representa um resultado consensual entre os especialistas, mas uma estimativa atribuída a Hubinger no âmbito de um debate mais amplo sobre riscos futuros.
Isso coincidiu com a demissão de Jacob Koxon, de 28 anos, da Anthropic, depois de ter trabalhado anteriormente na OpenAI. Koxon afirmou que as duas empresas não estão agindo com responsabilidade e que estão presas em uma corrida para alcançar primeiro a inteligência artificial superinteligente, mas expressou esperança de que os principais laboratórios americanos possam coordenar-se para desacelerar essa corrida. Não há consenso entre os especialistas sobre quando essas capacidades surgirão; alguns falam em poucos anos, enquanto outros preveem mais de uma década.
Do alerta às regras internacionais
O deputado trabalhista Darren Jones defendeu um «tratado multilateral para o desenvolvimento regulamentado e seguro da inteligência superinteligente», ressaltando que o objetivo, segundo sua proposta, não é interromper a pesquisa e a inovação, mas dar prioridade à segurança à medida que o desenvolvimento se acelera. O governo britânico também manifestou preocupação com o fato de a Anthropic não ter apresentado seu modelo mais recente, Mythos 5.1, ao Instituto Britânico de Segurança da Inteligência Artificial para testes prévios ao lançamento. O Gabinete do Conselho de Ministros afirmou que um número limitado de instituições americanas obteve acesso ao modelo, enquanto a cooperação entre o instituto e as empresas continua.
Nos Estados Unidos, o senador Bernie Sanders pediu que o Congresso agisse, baseando-se em uma pesquisa que afirmou que 81% dos americanos consideram necessário que os políticos tomem medidas sobre a inteligência artificial. Sanders relaciona o debate ao futuro da economia, do meio ambiente, da democracia e da privacidade.
Por que esta notícia é importante?
O debate revela uma lacuna entre riscos de longo prazo, cujas probabilidades são difíceis de verificar, e riscos existentes que podem ser observados hoje. Andrew Rogoyevsky alertou que os sistemas atuais ainda estão longe da flexibilidade humana e que as tecnologias avançadas de inteligência artificial podem ser caras ou ter utilidade limitada. David Barber afirmou que o problema prático pode se agravar quando os sistemas obtiverem acesso irrestrito à internet e a diferentes sistemas, enquanto Sandra Wachter apontou a desinformação, o impacto ambiental e os empregos como questões reais e urgentes.
Gary Marcus considera que a diferença decisiva estará entre uma inteligência artificial superinteligente alinhada aos interesses humanos e outra não alinhada a eles, embora reconheça que o debate atual contém ruído midiático e falta de cautela e responsabilidade. Assim, a fonte não comprova que um cenário de extinção da humanidade seja iminente ou certo, mas mostra que a divergência sobre o nível de risco já não é apenas acadêmica; ela passou a estar ligada à legislação, aos testes prévios ao lançamento e aos limites de acesso dos modelos aos sistemas.