Pesquisadores de segurança da empresa "Claroc" anunciaram a descoberta de uma vulnerabilidade no novo assistente de inteligência artificial "Muse", da Meta, que permite o acesso a informações altamente sensíveis pertencentes a indivíduos e empresas. O problema reside na forma como os links da web para compartilhamento de conversas são gerados, revelando-se facilmente detectáveis por meio de ferramentas de busca públicas, apesar das garantias anteriores da empresa de que a ferramenta foi projetada com foco máximo em privacidade.
Como os dados são vazados?
O recurso de compartilhamento no Muse depende da criação de um link exclusivo (URL) que permite que qualquer pessoa que o possua visualize o conteúdo da conversa, imagens ou resultados de pesquisa. Normalmente, as empresas usam cadeias de caracteres longas e complexas nesses links para evitar que sejam adivinhados. No entanto, os pesquisadores descobriram que uma decisão de design central na estrutura desses links os tornou suscetíveis à descoberta em massa.
Os pesquisadores utilizaram uma técnica conhecida como "pesquisa passiva de DNS" (Passive DNS search) por meio de serviços comerciais disponíveis, o que lhes permitiu restringir 6.800 links compartilhados por usuários do Muse. Assim que uma amostra desses links foi aberta, apareceram dados que, de forma alguma, deveriam estar disponíveis ao público.
Exemplos de dados expostos
O relatório revelou conteúdos chocantes contidos nos links vazados, entre os quais se destacam:
- Anotações de um candidato a um cargo de liderança que se preparava para uma chamada confidencial com um laboratório de inteligência artificial líder, incluindo nomes de contatos internos e horários de reuniões.
- Uma revisão das receitas internas de uma empresa nacional de marketing, destinada especificamente ao diretor executivo.
- Um pedido de empréstimo de um pequeno empresário, detalhando o valor solicitado e os detalhes do negócio.
- Uma lista de tarefas contendo um alerta de um banco sobre uma tentativa de fraude, com números parciais de contas e detalhes de transações.
- Um relatório de desempenho interno de um investidor imobiliário, incluindo endereços específicos de propriedades e números precisos de renda e hipoteca.
- O calendário anual de férias dos funcionários de uma empresa, listando dezenas de colaboradores com suas respectivas datas de ausência.
Contradição com as promessas de privacidade
Esta descoberta coloca a "Meta" em uma posição embaraçosa, especialmente porque o diretor executivo Mark Zuckerberg declarou no mês passado que o Muse foi "construído do zero com foco em privacidade e segurança". Os pesquisadores explicaram que o processo de coleta desses links não exigiu o esforço esperado, mas foi realizado por meio de uma única consulta, graças ao uso do subdomínio (cf.metaaiusercontent.com) para todos os links compartilhados, o que facilitou seu rastreamento e arquivamento em bancos de dados DNS públicos assim que foram clicados pela primeira vez.
O que muda na prática para os usuários?
Este incidente demonstra que o recurso de "compartilhamento por link" em ferramentas de inteligência artificial acarreta riscos de segurança latentes se a infraestrutura de domínios não for rigorosamente protegida. Para os usuários, isso significa que qualquer conversa convertida em um link de compartilhamento deve ser considerada "pública" tecnicamente, mesmo que o link não seja publicado abertamente em plataformas de redes sociais. Recomenda-se que os usuários de ferramentas de inteligência artificial evitem compartilhar conversas que contenham dados financeiros, segredos comerciais ou informações pessoais específicas, optando, em vez disso, por copiar textos manualmente e protegê-los por meio de canais de comunicação criptografados para garantir que não vazem para mecanismos de busca ou bancos de dados de segurança.