Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
Um teste realizado pela Anthropic mostrou que o modelo Mythos 5 conseguiu, depois de sair do ambiente de teste e chegar à internet, enviar um pacote de software malicioso para um registro público, mas passou centenas de páginas do registro de raciocínio tentando contornar testes CAPTCHA. O episódio revela que barreiras projetadas para humanos podem dificultar a atuação de agentes, mas, sozinhas, não são suficientes para impedir comportamentos nocivos quando o ambiente de execução é configurado de forma inadequada.