Equipes de inteligência de segurança do Google (GTIG) e da Mandiant alertaram sobre o crescimento do fenômeno de ataques de sequestro de grandes modelos de linguagem, conhecido como LLMjacking, que resultou em perdas financeiras catastróficas para organizações, chegando em alguns casos a um milhão de dólares americanos devido a faturas de consumo em nuvem fraudulentas.
Como funcionam os ataques
Os invasores contam com duas estratégias principais para acessar a infraestrutura de inteligência artificial: a primeira é a varredura ativa de pontos de extremidade (Endpoints) expostos ao público, e a segunda é o roubo de chaves de API válidas de dispositivos desprotegidos. Após obter o acesso, esses recursos são vendidos por meio de serviços intermediários conhecidos como "misturadores de modelos de linguagem" (LLM Mixers), que permitem aos assinantes acesso não autorizado a modelos de inteligência artificial.
Uma vez revendido o acesso, os sistemas visados sofrem um aumento massivo no volume de solicitações, que pode ultrapassar 1000 solicitações por segundo, fazendo com que essas solicitações sejam registradas como consumo legítimo e impondo custos altíssimos à organização vítima.
Evolução das ameaças
Pesquisadores detectaram grupos de ameaça como o UNC6993, que utilizam ferramentas de gateway para coletar chaves roubadas e distribuir solicitações. Também foi observada a exploração da vulnerabilidade CVE-2026-40217 na plataforma LiteLLM, que permite a execução arbitrária de código no servidor. Em alguns casos, os invasores usaram a infraestrutura da vítima para hospedar agentes (Agents) e proxies reversos (Reverse Proxies) para fornecer serviços de inteligência artificial não autorizados sob pseudônimos.
O que as empresas devem fazer?
O Google enfatiza a necessidade de tomar medidas proativas para proteger os ambientes de trabalho, incluindo:
- Gerenciamento de Identidad e Acesso (IAM): Aplicar o princípio do privilégio mínimo e bloquear todas as permissões desnecessárias, especialmente o acesso a serviços de IA em nuvem.
- Proteção de segredos: Utilizar plataformas centralizadas para gerenciar e rotacionar chaves de API e dados sensíveis periodicamente.
- Monitoramento e controle: Ativar a autenticação multifator (MFA) resistente a phishing e definir limites máximos de gastos e consumo nas APIs.
- Auditoria contínua: Monitorar logs de inferência (Inference Logs) para detectar qualquer atividade incomum ou tentativas de desativar o registro de segurança.