Les entreprises qui développent des agents d’intelligence artificielle cherchent à faire de la confidentialité un axe majeur de la concurrence, à une époque où ces systèmes nécessitent un accès étendu aux données des utilisateurs et l’exécution de tâches en leur nom. Mais l’expérience de Meta avec son agent Muse, puis la présentation par OpenAI de l’agent Dots comme une solution plus sûre, montrent que les promesses ne suffisent pas à prouver la protection des données.
De Muse à Dots
Meta a lancé l’agent Muse en le présentant comme une option plus sûre qu’OpenClaw, affirmant que les données des utilisateurs étaient stockées dans une machine virtuelle sécurisée, décrite par l’entreprise comme un ordinateur Linux isolé comprenant un navigateur, une unité de traitement, de la mémoire et du stockage. Meta a également annoncé son intention d’ajouter ultérieurement un mécanisme de chiffrement vérifiable l’empêchant d’accéder aux données présentes dans la machine virtuelle.
Mais cet isolement n’a pas empêché Meta elle-même d’accéder aux données dans la configuration actuelle. Un chercheur en sécurité a également révélé une vulnérabilité zero-day qui aurait pu permettre de prendre le contrôle de Muse avant sa correction. Par ailleurs, de graves problèmes de sécurité apparus peu avant le lancement ont été signalés, notamment une vulnérabilité qui aurait pu permettre d’accéder à des bases de données internes de Meta.
Muse a connu une croissance rapide, atteignant 600 000 utilisateurs actifs quotidiens aux États-Unis en quelques semaines, selon Apptopia, et s’est hissé en tête des classements de l’App Store. Toutefois, cette adoption rapide n’a pas dissipé les inquiétudes liées au comportement de l’agent à l’égard des données.
Qu’est-ce qui a suscité les inquiétudes concernant la confidentialité ?
Par défaut, Muse permet d’utiliser ce que les utilisateurs saisissent pour entraîner les modèles de Meta, tout en proposant une option de désactivation. Des rapports ont également fait état de la lecture et de l’envoi de messages privés par l’agent, ainsi que de la transmission de l’adresse d’un utilisateur à un inconnu via Marketplace. Dans d’autres cas, le système a créé des profils détaillés des amis et des membres de la famille des utilisateurs. Le problème ne réside donc pas seulement dans l’existence d’un défaut logiciel, mais aussi dans le fait que le système peut exécuter ce pour quoi il a été conçu d’une manière dont l’utilisateur ne mesure pas l’ampleur.
Ces cas montrent que la protection de la confidentialité des agents ne concerne pas uniquement l’isolement technique des données, mais aussi les limites des autorisations, la clarté des consentements et la question de savoir si l’utilisateur comprend à l’avance ce que l’agent peut lire ou partager.
Les promesses d’OpenAI et les contrôles de Dots
OpenAI a tiré parti de ces critiques lors de l’annonce de Dots en septembre. Pendant le DevDay, l’entreprise a présenté des possibilités de contrôle individuel, comme la définition d’une règle empêchant l’agent d’effectuer des achats dépassant un montant donné. Elle a également proposé aux entreprises un cadre comprenant des contrôles plus stricts sur les données et des options de politique de non-conservation des données, afin que les informations ne soient pas stockées sur les serveurs d’OpenAI.
Des responsables d’OpenAI ont déclaré que l’entreprise cherchait à proposer un assistant fiable et sûr, et que la taille de la base d’utilisateurs de Meta rendait les erreurs de ce type plus graves. Toutefois, l’absence, jusqu’à présent, de scandales de confidentialité d’ampleur liés à Dots doit être interprétée avec prudence : l’agent n’est accessible que dans le cadre des abonnements ChatGPT à partir de 100 dollars, ce qui signifie que sa base d’utilisateurs potentielle est plus réduite.
Pourquoi cette information est-elle importante ?
Les agents d’intelligence artificielle ont besoin de davantage de données que les outils conversationnels traditionnels pour exécuter des tâches telles que la gestion des messages, les achats ou l’utilisation de comptes. Le véritable critère de confidentialité ne devrait donc pas être la déclaration de l’entreprise, mais la capacité de l’utilisateur à savoir à quoi l’agent accède, à limiter ses actions et à empêcher l’entreprise elle-même ou des tiers d’utiliser les données au-delà de l’objectif attendu.
Des questions essentielles restent ouvertes : les consentements sont-ils suffisamment compréhensibles ? Les contrôles de non-conservation fonctionnent-ils comme annoncé ? Et quel est le mécanisme de vérification indépendante de l’isolement des données ? Le cas d’Instinct, critiqué pour des conditions d’utilisation lui accordant un accès étendu aux données avant des modifications ultérieures, montre également que les conditions juridiques et l’expérience utilisateur font partie du modèle de sécurité et ne constituent pas un détail secondaire.
La conclusion imposée par la comparaison entre Muse et Dots est que le marché des agents d’intelligence artificielle tente d’instaurer la confiance à travers trois promesses simultanées : une utilité concrète, une expérience moins préoccupante et une protection de la confidentialité. Mais la confiance sera finalement déterminée par la possibilité de mesurer et de vérifier ces promesses, et non par la fréquence à laquelle elles sont répétées lors des présentations de lancement.