O rei Charles pediu aos líderes de empresas de inteligência artificial e a autoridades governamentais que encontrem meios suficientes para controlar essa tecnologia «antes que seja tarde demais», durante uma cúpula privada que ele sediou na quinta-feira, 17 de setembro, na Dumfries House, no condado de Ayrshire, na Escócia.
Participaram da reunião Jensen Huang, diretor-executivo da Nvidia, dirigentes da OpenAI e da Anthropic, e o novo ministro britânico da Inteligência Artificial, Kanishka Narayan, além do chefe do serviço britânico de inteligência externa. Também esteve presente Paolo Benanti, que aconselha o papa sobre inteligência artificial. A OpenAI enviou sua diretora financeira, Sarah Friar, enquanto a Anthropic foi representada pelo responsável por assuntos globais, Tino Cuéllar.
Alerta sobre benefícios e riscos ao mesmo tempo
O rei disse que a inteligência artificial tem grande capacidade de melhorar e salvar vidas, especialmente na medicina e nas ciências, mas observou, ao mesmo tempo, que os desenvolvedores dessas tecnologias alertam cada vez mais para a possibilidade de elas possuírem «capacidades mais sombrias» e, talvez, a capacidade de tirar vidas.
Charles relacionou essas preocupações ao que chamou de «riscos existenciais» decorrentes de a tecnologia cair em mãos erradas e ser usada de maneiras potencialmente catastróficas. Ele também descreveu o rápido desenvolvimento da inteligência artificial como «interessante e profundamente preocupante» e pediu aos presentes que garantissem que a tecnologia permanecesse a serviço das pessoas, da sociedade e do mundo natural.
Segundo relatos, o rei permaneceu por apenas cerca de 20 minutos e depois deixou os participantes continuarem a discussão entre si. Cuéllar disse que a Anthropic se sentiu honrada por participar e agradeceu ao rei por reunir líderes do setor e vozes de setores da sociedade para discutir o papel da inteligência artificial a serviço do bem comum.
Por que essa reunião é importante?
A reunião não representa o anúncio de uma nova política regulatória nem um acordo vinculante, mas mostra a transferência do debate sobre os riscos da inteligência artificial para um espaço que reúne empresas desenvolvedoras de modelos, governos, serviços de inteligência e figuras religiosas e da sociedade civil. Essa convergência ganha importância à medida que continua o desacordo sobre a necessidade de desacelerar o desenvolvimento de modelos avançados ou prosseguir em um ritmo mais acelerado.
A cúpula ocorre dias depois da renúncia de um pesquisador da Anthropic que alertou publicamente sobre a corrida das empresas para construir máquinas mais inteligentes que os seres humanos, e depois de apelos de Sam Altman, Elon Musk e Dario Amodei para desacelerar o desenvolvimento. Em contrapartida, Jensen Huang e o presidente americano Donald Trump rejeitaram esses apelos; Trump afirmou que os Estados Unidos estão à frente da China na inteligência artificial e que quem vencer nesse campo vencerá a competição mais ampla.
Cooperação internacional sem detalhes de implementação
Charles também pediu cooperação internacional e consenso sobre como orientar a inteligência artificial para benefícios públicos. Mas a fonte não menciona resultados oficiais da cúpula, mecanismos específicos de supervisão ou um cronograma para transformar esse apelo em políticas. O debate sobre a soberania da inteligência artificial também continua, especialmente depois de a Anthropic ter limitado o acesso aos modelos Fable e Mythos a clientes nos Estados Unidos, segundo o material.
Leitura da certi.news: o valor efetivo da cúpula está na ampliação do círculo de partes que discutem a governança da inteligência artificial, não na emissão de uma nova decisão. Ela reflete um choque claro entre considerações de segurança, competição geopolítica e interesses das empresas de tecnologia, enquanto permanece em aberto a questão central: quem define os limites do controle e como eles podem ser aplicados internacionalmente antes que a velocidade do desenvolvimento ultrapasse a capacidade de resposta das instituições?