Uma equipe de pesquisadores de segurança conseguiu demonstrar uma grave vulnerabilidade de segurança na plataforma Hugging Face, que permite aos invasores assumir o controle total das contas de desenvolvedores de modelos de inteligência artificial. Essa falha foi ilustrada por meio do sequestro da conta do modelo Kokoro, um popular modelo de conversão de texto em fala (Text-to-Speech) que desfruta de ampla popularidade e é usado em grandes projetos de tecnologia por empresas como Google, NVIDIA, AMD, Intel e Amazon Web Services.
Como ocorreu o processo de sequestro?
Os pesquisadores, liderados por Alon Hertz, exploraram a falta de mecanismos rigorosos de verificação de propriedade de contas na plataforma. A equipe registrou o domínio de internet que estava listado no arquivo de doações do projeto Kokoro e, em seguida, usou esse domínio para redefinir a senha da conta do desenvolvedor no Hugging Face, o que lhes deu acesso total à conta.
O que isso significa para os usuários?
Os pesquisadores explicaram que o verdadeiro perigo não reside apenas no roubo da conta, mas na capacidade de executar ataques à cadeia de suprimentos (Supply-Chain Attacks). Em vez de incluir software malicioso tradicional que pode ser detectado por programas antivírus, os pesquisadores modificaram os "pesos" (Weights) do próprio modelo neural. Essa modificação faz com que o modelo produza saídas de áudio diferentes do texto inserido, mantendo o código de execução e a infraestrutura do modelo inalterados, o que torna o ataque invisível aos sistemas tradicionais de verificação.
Por que esta notícia é importante?
Essa invasão destaca um problema mais amplo de confiança no ecossistema de modelos de código aberto. A plataforma Hugging Face atualmente não verifica a identidade dos criadores de modelos ou se a conta ainda está sob o controle de seu proprietário original. Como muitos sistemas de produção dependem de atualizações automáticas de modelos, qualquer atualização maliciosa enviada por uma conta comprometida chegará diretamente a milhares de sistemas que dependem desse modelo, sem levantar suspeitas por parte das ferramentas de segurança atuais.
Os pesquisadores enfatizam que o modelo Kokoro foi apenas um exemplo de destaque e que qualquer conta na plataforma pode estar vulnerável ao mesmo cenário, onde os invasores podem esperar um longo período antes de enviar uma atualização maliciosa para o modelo, tornando a detecção desses ataques extremamente difícil em ambientes de trabalho reais.