L’assistant personnel d’intelligence artificielle Instinct fait l’objet d’un examen précoce en raison de l’étendue de ses autorisations et de ses conditions d’utilisation, bien qu’il soit encore disponible dans le cadre d’un test privé et n’ait pas encore été largement proposé au public. Des utilisateurs précoces ont salué sa capacité à exécuter des tâches complexes, tandis que d’autres ont averti que le niveau d’accès et d’autonomie qui lui est accordé pourrait se faire au détriment de la confidentialité et du contrôle.
Instinct a été développé par une petite équipe dirigée par Noah Shinn, ancien chercheur chez Sierra, et est exploité par Spear Street Technology à San Francisco, selon les conditions d’utilisation et des documents commerciaux californiens. L’entreprise opère en mode furtif et n’avait pas répondu, à la date de publication de l’article, aux demandes de commentaires envoyées à son adresse e-mail principale ou directement à Shinn. TechCrunch a également rapporté que des investisseurs lui avaient indiqué que Kleiner Perkins et Conviction avaient investi dans l’entreprise, sans publier de détails sur les tours de financement ni sur leur montant.
Des autorisations qui vont au-delà de l’exécution des commandes
Instinct est connecté aux applications et aux appareils de l’utilisateur, notamment aux e-mails, aux applications de messagerie et au calendrier, ainsi qu’à la voix, à la localisation, à l’écran et à d’autres éléments. Il est possible de communiquer avec lui par SMS ou via WhatsApp pour lui demander de réserver des rendez-vous et des restaurants, de planifier un trajet vers l’aéroport, d’organiser la boîte de réception, de classer des informations, de faire des achats ou de rechercher des vols à bas prix.
Mais les conditions d’utilisation accordent à l’entreprise, selon des captures d’écran partagées par des utilisateurs, une licence « perpétuelle et irrévocable » pour accéder aux contenus de l’utilisateur, les utiliser, les héberger, les stocker, les copier, les transférer, les afficher, les publier, les distribuer et les modifier, notamment afin de les utiliser pour entraîner des modèles d’intelligence artificielle. Les conditions indiquent également que des informations provenant des appareils peuvent être collectées, comme des captures d’écran, les mouvements du curseur et les entrées au clavier.
Les conditions stipulent en outre qu’Instinct peut conclure des accords, prendre des engagements ou effectuer des transactions au nom de l’utilisateur, de sorte que ceux-ci deviennent contraignants pour lui. Il ne s’agit pas seulement d’une autorisation technique permettant d’exécuter une étape au sein d’une application, mais d’une délégation susceptible d’avoir des conséquences contractuelles ou financières, ce qui fait de la clarté du consentement et des mécanismes de vérification un facteur central dans la conception du service.
Des expériences préliminaires révèlent des points préoccupants
L’utilisateur Peter Yang a déclaré qu’Instinct n’avait pas supprimé les e-mails Gmail lorsqu’il le lui avait demandé, avant que l’équipe n’ajoute par la suite un outil permettant de supprimer les données externes dans les paramètres, selon Yang. Claire Vo a constaté que l’assistant continuait à résumer sa boîte de réception après la révocation de l’accès, puis le robot lui a expliqué que les e-mails étaient stockés en texte brut afin de permettre leur recherche ultérieure.
Un autre utilisateur a exprimé des inquiétudes après que l’assistant eut réussi à extraire de ses e-mails un code de connexion pour finaliser une réservation de restaurant via Resy. Alex Cohen, cofondateur de Hello Patient, a également déclaré avoir supprimé son compte après avoir découvert à quel point il était facile d’exposer Instinct à l’hameçonnage. Katie Jacobs Stanton, fondatrice de Moxxie Ventures, a indiqué que le service avait envoyé un e-mail en son nom sans demander de confirmation préalable.
Pourquoi cette information est-elle importante ?
Ces cas montrent que la valeur d’un assistant personnel ne se définit pas uniquement par sa capacité à exécuter des tâches, mais aussi par les limites de ce qu’il peut lire, stocker, envoyer et faire en son nom. Michael Mignano, fondateur d’Anchor et actuellement associé général chez Union Square Ventures, a souligné que ces produits pourraient modifier les normes de sécurité des consommateurs, notamment à mesure qu’augmente la probabilité de confier des mots de passe à des applications tierces sans savoir comment ils sont stockés ou utilisés.
Les expériences rapportées ne prouvent pas qu’Instinct représente un risque généralisé, puisqu’il est toujours en phase de test privé et que certains problèmes ont ensuite été résolus, selon les témoignages des utilisateurs. Cependant, la source ne fournit aucune réponse publique de l’entreprise aux objections et n’explique pas suffisamment les limites de conservation des données ni le mécanisme de consentement préalable à l’exécution d’actions sensibles. La question fondamentale reste donc ouverte : les outils de suppression, la confirmation préalable et la limitation des autorisations offrent-ils des garanties pratiques à la hauteur du niveau d’accès requis par ce type d’assistants ?