A Google e o Google DeepMind lançaram, em 17 de setembro de 2026, o «DeepMind Institute», com o objetivo de ampliar o debate sobre a inteligência artificial geral (AGI) e destacar as diferenças entre as posições da Google, do Google DeepMind e de pesquisadores de todo o mundo. O instituto é liderado por Shane Legg, cofundador do DeepMind, ao lado de James Manyika, executivo da Google, e Demis Hassabis, chefe do Google DeepMind, enquanto Legg também exerce a função de editor-chefe.
O instituto se apresenta como um espaço para expor pontos de vista que nem sempre coincidem e que podem mudar com o surgimento de novos dados e informações em um campo em rápida evolução. A iniciativa ocorre em um momento em que o debate sobre a segurança da inteligência artificial passa de declarações gerais para propostas mais específicas relacionadas à divulgação, à auditoria externa e à desaceleração do desenvolvimento de modelos avançados caso não sejam acompanhados pelas salvaguardas adequadas.
Quatro ângulos do debate
A coleção inaugural do instituto inclui quatro artigos que abordam políticas para lidar com possíveis perturbações econômicas que a inteligência artificial geral pode causar, a preservação da compreensibilidade do raciocínio dos modelos para os seres humanos, princípios para promover a prosperidade humana e uma estrutura para avaliar modelos de inteligência artificial de ponta.
Em um dos artigos, os pesquisadores de segurança do DeepMind Rohin Shah e Anca Dragan alertam que a redução da capacidade dos pesquisadores de observar e verificar as etapas do raciocínio do modelo não é inevitável. À medida que arquiteturas que tornam os modelos mais poderosos ficam mais difíceis de monitorar evoluem, os pesquisadores convocam desenvolvedores e órgãos reguladores a lidar diretamente com os compromissos relacionados à segurança.
Entre as opções apresentadas está limitar a «profundidade serial opaca» (opaque serial depth), ou seja, a quantidade de computação sequencial que o modelo consegue executar sem produzir uma cadeia de raciocínio legível, ou exigir que os desenvolvedores comprovem que sistemas menos transparentes continuam sendo monitoráveis no mesmo nível.
Uma estrutura americana para avaliar modelos
Em outro artigo, Hassabis propõe a criação de uma autoridade de padrões para inteligência artificial avançada, liderada pelos Estados Unidos, para avaliar os modelos mais sofisticados. De acordo com a proposta, os desenvolvedores apresentariam voluntariamente seus modelos para análise até 30 dias antes do lançamento, e a aprovação nos testes se tornaria posteriormente uma condição para publicar modelos de ponta dentro dos Estados Unidos, caso o sistema de avaliação demonstrasse eficácia.
A autoridade elaboraria inicialmente os testes de avaliação em consulta com empresas de inteligência artificial e, depois, passaria a realizar testes independentes não anunciados previamente, ou os chamados «testes reservados» (held-out tests), para impedir que os laboratórios aperfeiçoassem seus modelos com base em testes conhecidos de antemão. A proposta também menciona a possibilidade de intensificar gradualmente os procedimentos, chegando a uma desaceleração coordenada entre os desenvolvedores de modelos avançados caso a gravidade da situação exigisse.
Por que esta notícia é importante?
A importância prática da iniciativa não se limita à criação de uma nova plataforma de publicação, mas está na reunião dos debates da Google e do Google DeepMind sobre questões que podem afetar a maneira como os modelos são desenvolvidos e avaliados. Os artigos colocam a transparência, a monitorabilidade e a auditoria independente no âmbito de questões operacionais, e não apenas de princípios gerais.
Entretanto, o instituto não representa uma autoridade reguladora independente, e a estrutura de avaliação proposta começa de forma voluntária e ainda não se transformou em uma política em vigor. Questões como a independência da autoridade, a natureza dos testes não anunciados e os critérios para determinar a necessidade de desacelerar o desenvolvimento continuam em aberto, dentro dos limites do que foi apresentado no material.