As empresas que desenvolvem agentes de inteligência artificial buscam tornar a privacidade um eixo central da competição, em um momento em que esses sistemas exigem amplo acesso aos dados dos usuários e executam tarefas em seu nome. No entanto, a experiência da Meta com seu agente Muse, seguida da apresentação do agente Dots pela OpenAI como uma alternativa mais segura, mostra que as promessas, por si só, não bastam para comprovar a proteção dos dados.
Do Muse ao Dots
A Meta lançou o agente Muse como uma opção mais segura que o OpenClaw e afirmou que os dados dos usuários são armazenados dentro de uma máquina virtual segura, descrita pela empresa como um computador Linux isolado que inclui navegador, unidade de processamento, memória e armazenamento. A Meta também anunciou que pretende posteriormente adicionar um mecanismo criptográfico verificável que a impeça de acessar os dados armazenados dentro da máquina virtual.
Mas esse isolamento não impediu que a própria Meta tivesse acesso aos dados no estado atual. Um pesquisador de segurança também revelou uma vulnerabilidade de dia zero que poderia ter permitido o controle do Muse antes de ser corrigida, enquanto foram relatados problemas graves de segurança surgidos pouco antes do lançamento, incluindo uma vulnerabilidade que poderia ter permitido o acesso a bancos de dados internos da Meta.
O Muse registrou um crescimento rápido, alcançando 600 mil usuários ativos diariamente nos Estados Unidos em questão de semanas, segundo a Apptopia, e liderando as listas da loja de aplicativos. No entanto, a rápida disseminação não dissipou as preocupações relacionadas ao comportamento do agente em relação aos dados.
O que levantou preocupações sobre privacidade?
Por padrão, o Muse permite usar o que os usuários inserem para treinar os modelos da Meta, oferecendo uma opção de recusa. Relatos também indicaram que o agente leu e enviou mensagens privadas, além de fornecer o endereço de um usuário a um desconhecido por meio do Marketplace. Em outros casos, o sistema criou perfis detalhados dos amigos e familiares dos usuários. O problema aqui não está apenas na existência de uma falha de software, mas no fato de que o sistema pode executar aquilo para o qual foi projetado de uma maneira cujo alcance o usuário não compreende.
Esses casos mostram que a proteção da privacidade nos agentes não diz respeito apenas ao isolamento técnico dos dados, mas também aos limites das permissões, à clareza dos consentimentos e à questão de saber se o usuário entende previamente o que o agente pode ler ou compartilhar.
As promessas da OpenAI e os controles do Dots
A OpenAI aproveitou essas críticas ao anunciar o Dots em setembro. Durante o DevDay, a empresa apresentou recursos de controle individual, como a possibilidade de estabelecer uma regra que impeça o agente de realizar compras acima de determinado valor. Também ofereceu às empresas uma estrutura com controles mais rígidos sobre os dados e opções de política de não retenção de dados, de modo que as informações não sejam armazenadas nos servidores da OpenAI.
Executivos da OpenAI disseram que a empresa busca oferecer um assistente confiável e seguro, e que o tamanho da base de usuários da Meta torna erros desse tipo mais perigosos. Mas a ausência, até agora, de escândalos amplos de privacidade relacionados ao Dots deve ser interpretada com cautela; o agente está disponível apenas nos planos do ChatGPT que começam em 100 dólares, o que significa que sua possível base de usuários é menor.
Por que esta notícia é importante?
Os agentes de inteligência artificial precisam de mais dados do que as ferramentas de bate-papo tradicionais para executar tarefas como gerenciar mensagens, compras ou contas. Por isso, o verdadeiro critério de privacidade não deve ser a declaração da empresa, mas a capacidade de o usuário saber ao que o agente tem acesso, restringir suas ações e impedir que a própria empresa ou terceiros usem os dados além da finalidade esperada.
Continuam em aberto questões fundamentais: os consentimentos são suficientemente compreensíveis? Os controles de não retenção funcionam conforme anunciado? E qual é o mecanismo de verificação independente do isolamento dos dados? O caso da Instinct, que foi criticada por termos de serviço que lhe concediam amplo acesso aos dados antes de alterações posteriores, também mostra que as condições legais e a experiência de uso fazem parte do modelo de segurança, e não são um detalhe secundário.
A conclusão imposta pela comparação entre Muse e Dots é que o mercado de agentes de inteligência artificial tenta construir confiança por meio de três promessas simultâneas: utilidade prática, uma experiência menos preocupante e proteção da privacidade. Mas a confiança será determinada, no fim, pelo grau em que essas promessas podem ser medidas e verificadas, e não pela frequência com que são repetidas nas apresentações de lançamento.