O assistente pessoal de inteligência artificial Instinct está enfrentando um escrutínio inicial devido à amplitude de suas permissões e de seus termos de uso, embora ainda esteja disponível apenas em um teste privado e não tenha chegado ao público em larga escala. Usuários iniciais elogiaram sua capacidade de executar tarefas complexas, enquanto outros alertaram que o nível de acesso e autonomia concedido a ele pode ocorrer às custas da privacidade e do controle.
O Instinct foi desenvolvido por uma pequena equipe liderada por Noah Shinn, ex-pesquisador da Sierra, e é operado pela Spear Street Technology, empresa de São Francisco, segundo os termos de serviço e registros comerciais da Califórnia. A empresa atua em modo furtivo e, até a data de publicação da matéria, não respondeu aos pedidos de comentário enviados ao seu e-mail principal nem diretamente a Shinn. A TechCrunch também informou que investidores disseram a ela que a Kleiner Perkins e a Conviction investiram na empresa, sem que os detalhes ou o valor das rodadas fossem divulgados.
Permissões que vão além da execução de comandos
O Instinct se conecta aos aplicativos e dispositivos do usuário, incluindo e-mail, aplicativos de mensagens e calendário, além de áudio, localização, tela e outros recursos. É possível falar com ele por mensagens de texto ou pelo WhatsApp para solicitar reservas de compromissos e restaurantes, agendar uma viagem ao aeroporto, organizar a caixa de entrada, ordenar informações, fazer compras ou procurar voos de baixo custo.
Mas os termos de serviço concedem à empresa, segundo capturas de tela compartilhadas por usuários, uma licença “perpétua e irrevogável” para acessar, usar, hospedar, armazenar, copiar, transferir, exibir, publicar, distribuir e modificar o conteúdo do usuário, incluindo seu uso para treinar modelos de inteligência artificial. Os termos também indicam a possibilidade de coletar informações dos dispositivos, como capturas de tela, movimentos do cursor e entradas do teclado.
Os termos também estabelecem que o Instinct pode celebrar acordos, assumir obrigações ou realizar transações em nome do usuário, tornando-as vinculantes para ele. Isso não é apenas uma permissão técnica para executar uma etapa dentro de um aplicativo; trata-se de uma delegação que pode produzir efeitos contratuais ou financeiros, o que torna a clareza do consentimento e os mecanismos de verificação fatores centrais no design do serviço.
Experiências iniciais revelam pontos preocupantes
O usuário Peter Yang disse que o Instinct não excluiu os registros do Gmail quando solicitado, antes que a equipe posteriormente adicionasse uma ferramenta para excluir dados externos nas configurações, segundo Yang. Claire Vo constatou que o assistente continuou resumindo sua caixa de entrada depois que o acesso foi revogado; em seguida, o robô explicou a ela que os e-mails haviam sido armazenados em formato de texto simples para permitir pesquisas posteriores.
Outro usuário levantou preocupações depois que o assistente conseguiu extrair de seu e-mail um código de login para concluir uma reserva de restaurante pelo Resy. Alex Cohen, cofundador da Hello Patient, também disse que excluiu sua conta depois de descobrir como era fácil induzir o Instinct a cair em phishing. Katie Jacobs Stanton, fundadora da Moxxie Ventures, afirmou que o serviço enviou um e-mail em seu nome sem solicitar confirmação prévia.
Por que esta notícia é importante?
Esses casos mostram que o valor de um assistente pessoal não é determinado apenas por sua capacidade de executar tarefas, mas também pelos limites do que ele pode ler, armazenar, enviar e fazer em nome do usuário. Michael Mignano, fundador da Anchor e atualmente sócio-geral da Union Square Ventures, observou que esses produtos podem mudar os padrões de segurança dos consumidores, especialmente à medida que aumenta a probabilidade de entregar senhas a aplicativos externos sem saber como elas são armazenadas ou utilizadas.
As experiências relatadas não comprovam que o Instinct represente um risco generalizado, pois ele ainda está em um teste privado, e alguns problemas foram posteriormente corrigidos, segundo relatos de usuários. No entanto, a fonte não apresenta uma resposta pública da empresa às objeções nem esclarece adequadamente os limites da retenção de dados ou o mecanismo de consentimento antes da execução de ações sensíveis. Portanto, a questão central continua em aberto: as ferramentas de exclusão, a confirmação prévia e a limitação de permissões oferecem garantias práticas proporcionais ao nível de acesso exigido por esse tipo de assistente?