A Anthropic alertou que modelos pequenos de inteligência artificial poderão, dentro de alguns meses, se aproximar da capacidade de se disseminar autonomamente por dispositivos comerciais da Internet das Coisas, como caixas Android TV de baixo custo e fornos inteligentes. Esse cenário poderia levar à criação de redes distribuídas de dispositivos capazes de executar cargas de trabalho de inteligência artificial sem depender diretamente de data centers.
Mas o alerta não se baseia em um ataque iminente nem na demonstração completa de um worm de inteligência artificial autônomo. Os pesquisadores conseguiram distribuir o modelo Gemma4-26B-A4B, do Google DeepMind, em 15 caixas Android TV de marca desconhecida, mas não conseguiram demonstrar um ciclo completo que começasse pela localização e invasão dos dispositivos e terminasse com a cópia automática do modelo por hardware IoT real.
O que o experimento demonstrou?
A Anthropic usou caixas Android TV baratas e atribuiu funções diferentes aos modelos Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 e GLM-5.2. Qwen3.5-9B e GLM-5.2 ficaram encarregados das tarefas de preparação e implantação do Llama3.1-8B, enquanto o Gemma4-26B-A4B demonstrou a possibilidade de executar o modelo em 15 dispositivos.
O teste baseou-se em um ambiente simplificado no qual os dispositivos-alvo expunham acesso ADB não documentado. O Qwen3.5-9B conseguiu instalar e configurar o software necessário para executar o Llama3.1-8B em oito dos nove tipos de hardware testados. Já o GLM-5.2 alcançou os oito nós em quatro de cinco tentativas dentro de uma rede de simulação controlada, enquanto os outros modelos não conseguiram concluir o processo de forma estável.
A taxa de sucesso do Qwen3.5-9B aumentou de 45% nas primeiras tentativas para 84% nas gerações posteriores, quando ele manteve dados das tentativas anteriores. O uso do Opus 4.8 para auxiliá-lo não resultou em uma melhora mensurável.
O que muda na prática?
A Anthropic estima que modelos com no máximo 30 bilhões de parâmetros poderão atingir o nível de capacidade necessário até o fim de 2026, com base nos resultados do experimento e nas taxas anteriores de melhoria. No hardware estudado, o processo de inferência levou entre 28 e 51 horas com o Qwen3.5-9B e entre 71 e 150 horas com o Gemma4-26B-A4B, dando aos defensores tempo para detectar a atividade e agir contra ela. No entanto, esse tempo poderá diminuir à medida que os modelos e o hardware melhorarem.
Defesas propostas e limites do alerta
A Anthropic propõe monitorar transferências de modelos grandes e tráfego de dados incomum entre dispositivos, usar honeypots de rede para inspecionar cargas, isolar assinantes ou dispositivos infectados e melhorar as configurações de segurança padrão dos dispositivos IoT.
A conclusão principal continua sendo um alerta, não uma prova de uma ameaça existente; o experimento não conseguiu criar um worm autônomo de ponta a ponta, mesmo com a redução do nível de proteção e a definição prévia dos alvos de disseminação. Ainda assim, os resultados revelam que configurações frágeis de IoT, combinadas com a capacidade de modelos menores de descobrir e configurar dispositivos, poderão aumentar a dificuldade de conter ataques distribuídos no futuro.