Em 18 de setembro de 2026, a Anthropic anunciou uma parceria com a Accenture para realizar uma avaliação independente de modelos avançados de inteligência artificial, em uma medida que busca levar avaliadores independentes para dentro da empresa de desenvolvimento dos modelos, em vez de limitar-se a análises externas após sua conclusão. A Faculty, unidade especializada em inteligência artificial da Accenture, liderará o trabalho conjunto.
O escopo da parceria inclui avaliar os modelos e testá-los por meio de métodos de simulação ofensiva, realizar avaliações de alinhamento e examinar as medidas de proteção. A Anthropic afirmou que a experiência da Accenture na implementação de inteligência artificial em empresas e governos e em diversos setores acrescentará uma perspectiva prática à avaliação da segurança e do uso dos modelos.
As duas partes esperam que cada uma invista pelo menos um bilhão de dólares na construção de capacidades relacionadas a essa área nos próximos cinco anos. A empresa não detalhou, no anúncio, o cronograma de gastos nem os mecanismos para medir esses investimentos.
O que significa a avaliação integrada?
Por avaliação integrada entende-se que avaliadores independentes trabalhem dentro da empresa de inteligência artificial com um nível de acesso próximo ao dos funcionários. Isso lhes permite acompanhar os modelos durante o treinamento, revisar as decisões que afetam sua construção e implementação e conversar diretamente com as pessoas que trabalham neles. Segundo a Anthropic, essa posição pode ajudar os avaliadores a verificar o cumprimento dos compromissos de segurança da empresa, identificar pontos fracos, relatar incidentes e oferecer ao público uma visão mais informada dos benefícios e riscos.
A Anthropic enfatiza que a presença de avaliadores independentes não transfere para ela a responsabilidade pela segurança nem reduz sua responsabilização; a segurança de seus modelos continua sendo sua responsabilidade direta. O valor prático da iniciativa é tornar essa responsabilidade mais verificável por meio de acesso independente às etapas de desenvolvimento e às decisões internas.
Lacunas ainda não resolvidas
Ainda não existem padrões acordados que definam quais informações os avaliadores integrados devem receber ou a forma como devem apresentar seus resultados. Também não há um sistema estável para financiar a avaliação independente no longo prazo. A Anthropic considera que, no futuro, o financiamento deveria vir de fontes conjuntas ou governamentais, mas financiará diretamente o trabalho da Accenture na fase atual, devido à falta dessas alternativas.
A empresa também mantém conversas com a METR e outras organizações sem fins lucrativos para testar elementos da avaliação integrada com financiamento próprio. Ela anunciou ainda que a parceria com a Accenture não é exclusiva e que colaborará com outros avaliadores, que serão anunciados nas próximas semanas, enquanto a Accenture, por sua vez, trabalhará com outros desenvolvedores de inteligência artificial.
Leitura da certi.news
A importância do anúncio está em transferir o debate sobre a segurança dos modelos de relatórios de avaliação separados para o monitoramento do próprio processo de desenvolvimento. Isso pode dar aos avaliadores uma capacidade maior de identificar decisões e riscos iniciais, mas, por outro lado, levanta questões cruciais sobre a independência do avaliador, os limites de seu acesso, o mecanismo de proteção das informações e a forma de divulgação dos resultados. Como a Anthropic reconhece que não existem padrões nem um modelo de financiamento estável, a parceria representa uma experiência fundacional importante, mais do que uma estrutura definitiva de governança.