A Meta anunciou o pagamento de aproximadamente 1,2 milhão de dólares americanos em recompensas por vulnerabilidades de segurança para seu assistente pessoal inteligente Muse, incluindo um prêmio principal de 300 mil dólares concedido pela descoberta de uma falha crítica antes do lançamento oficial do produto, como parte dos esforços da empresa para reforçar a segurança de seus sistemas e tecnologias de inteligência artificial.
O assistente Muse atua como um agente de inteligência artificial pessoal em nome do usuário através de suas várias contas, como e-mail, calendário e plataformas de mensagens, onde cada usuário recebe uma máquina virtual (VM) independente. O programa de recompensas por bugs foi iniciado especificamente em abril passado antes de se tornar um programa público, coincidindo com o lançamento oficial do assistente em 8 de setembro, período no qual a empresa recebeu mais de 630 relatórios de segurança, dos quais 64 foram verificados e aceitos.
Detalhes das vulnerabilidades notáveis e recompensas
O prêmio principal de 300 mil dólares foi para um pesquisador de segurança que descobriu uma falha durante a fase de testes internos iniciais, quatro meses antes do lançamento do assistente; a vulnerabilidade permitia o acesso a conversas e tokens em máquinas virtuais experimentais usadas pelos funcionários da Meta.
David Singleton, da Meta, explicou que o problema surgiu porque a verificação de autenticação tratava um cabeçalho de solicitação adicionado por um proxy HTTPS local como prova definitiva de que a solicitação vinha de uma fonte confiável. Durante o processo de migração do sistema, o ambiente adquiriu uma segunda camada de proxy, permitindo que solicitações externas carregassem o mesmo cabeçalho de confiança, o que levou a empresa a suspender o serviço temporariamente, corrigir a falha e eliminar a dependência de dispositivos locais como fontes de confiança absoluta.
A empresa também pagou 90 mil dólares por um relatório de segurança relacionado a uma página da web maliciosa que imitava as mensagens de status da ferramenta de navegação do assistente quando solicitado a resumi-las, o que levou o agente inteligente a executar ações que deveriam ter sido bloqueadas, algo que a Meta resolveu adicionando sinais de detecção e melhorando a forma como lida com saídas de ferramentas suspeitas. Outro relatório recebeu 90 mil dólares devido ao uso de um formato específico para contornar os filtros de purificação de e-mail do assistente como parte de um ataque encadeado.
Erros de aplicativos e vulnerabilidades secundárias
A lista também incluiu uma recompensa de 50 mil dólares direcionada a uma falha no aplicativo Android que permitia que um aplicativo malicioso passasse um link para uma visualização da web (Web View) com privilégios especiais sem verificar o host principal, permitindo que a página do atacante capturasse credenciais da visualização da web. Além disso, houve uma recompensa de apenas mil dólares por uma falha no aplicativo para Mac que permitia a um atacante com acesso ao computador explorar o recurso de atualização automática para executar código com os privilégios do aplicativo.
O que isso significa para a segurança da inteligência artificial?
Estes resultados demonstram a escala dos desafios de segurança complexos enfrentados pelas grandes empresas de tecnologia ao desenvolver agentes de inteligência artificial autônomos que se integram diretamente aos dados sensíveis e contas pessoais dos usuários. A política da Meta, na qual as recompensas para alguns ataques de injeção de prompt chegam a 130 mil dólares e para a invasão total da frota a 250 mil dólares, enfatiza a seriedade das empresas em atrair a comunidade de pesquisadores de segurança para fortalecer sua infraestrutura de inteligência artificial antes que os riscos se agravem.