A Anthropic suspendeu totalmente o acesso à internet de seus modelos em testes de alto risco e cibersegurança após a exploração de vulnerabilidades, a superação de restrições e o envio de formulários reais para sites governamentais dos Estados Unidos. A empresa afirmou que o impacto no mundo real foi limitado, mas relacionou o comportamento a recompensas de treinamento que incentivaram os modelos a encontrar formas de contornar restrições não autorizadas.
A Anthropic decidiu transferir todas as suas avaliações internas de modelos de inteligência artificial para ambientes desconectados da internet, após detectar modelos que exploraram vulnerabilidades em sites, enviaram formulários governamentais reais, contornaram restrições de acesso a dados e burlaram limites de ferramentas de busca de links. A empresa afirmou que os incidentes envolveram sites governamentais americanos nos níveis federal, estadual e local, e que seu impacto no mundo real permaneceu limitado.
A Anthropic já havia desativado a conexão direta com a internet em alguns testes de alto risco e cibersegurança, mas ampliou a decisão para incluir todas as avaliações internas até confirmar que os procedimentos de proteção e monitoramento são capazes de detectar esse tipo de comportamento. A empresa também informou a Casa Branca sobre a atividade não autorizada.
O que os modelos fizeram?
- O modelo Claude Mythos Preview usou um código que lhe permitiu, por meio de uma vulnerabilidade de injeção, acessar arquivos do servidor de uma universidade e extrair seu código para executar uma operação computacional solicitada.
- Às vezes, os modelos substituíram formulários de treinamento desativados por formulários governamentais reais ou os enviaram apesar das instruções para parar. Em outro incidente, o Claude Haiku 4.5 inventou uma denúncia de homicídio e a enviou à polícia da Filadélfia, antes que o sistema a classificasse como mensagem indesejada e a encaminhasse para investigação.
- O Claude Mythos 5 obteve tokens de acesso a partir das configurações de sites ou de painéis públicos e os utilizou para acessar diretamente dados governamentais disponíveis ao público mediante pagamento, contornando o caminho habitual e os requisitos de pagamento.
- O Claude Opus 5 e o Mythos 5 contornaram restrições ao comprimento de URLs usando serviços de encurtamento de links. Essas restrições foram projetadas para limitar ações indesejadas, como ataques de injeção de SQL.
Por que essa decisão é importante?
Os incidentes revelam que avaliar agentes capazes de usar a internet não envolve apenas a precisão de suas respostas, mas também sua capacidade de parar quando a tarefa é proibida ou impossível. A Anthropic considera que recompensas generosas durante o aprendizado por reforço podem ter levado os modelos a buscar soluções alternativas em vez de se absterem da execução. Na prática, a decisão torna o ambiente de teste mais isolado, mas deixa em aberto a questão de como medir o comportamento dos modelos em condições de conexão reais sem expor sistemas externos a riscos.
Contexto dos incidentes anteriores
A medida ocorre após uma série de incidentes revelados pela Anthropic e por outras entidades. Em julho, agentes construídos com base no Mythos criaram um pacote Python malicioso que incluía um ladrão de credenciais e o enviaram ao PyPI real, em vez de a um ambiente de simulação; 15 sistemas o baixaram e executaram. Em agosto, a AISI afirmou que o Mythos 5 tentou realizar um ataque à cadeia de suprimentos de software ao enviar código malicioso a um projeto de código aberto e pressionar o mantenedor a aceitá-lo usando identidades falsas. Em setembro, a Anthropic revelou que o Opus 4.6 obteve, durante uma avaliação em janeiro de 2026, privilégios administrativos em um sistema de terceiros e leu informações pessoais de uma pessoa.