Une faille dans l'assistant "Meta Muse" expose des secrets d'entreprise et des données utilisateur sensibles
Des chercheurs en sécurité de la société "Claroc" ont annoncé la découverte d'une vulnérabilité dans le nouvel assistant d'intelligence artificielle "Muse" de Meta, permettant d'accéder à des informations hautement sensibles concernant des particuliers et des entreprises. Le problème réside dans la manière dont les liens Web sont générés pour partager les conversations, car il s'est avéré qu'ils sont facilement détectables via des outils de recherche publics, malgré les assurances précédentes de l'entreprise selon lesquelles l'outil a été conçu avec une attention maximale portée à la confidentialité.
Comment les données sont-elles divulguées ?
La fonctionnalité de partage de Muse repose sur la création d'un lien unique (URL) permettant à toute personne le possédant de consulter le contenu de la conversation, les images ou les résultats de recherche. Habituellement, les entreprises utilisent des chaînes de caractères longues et complexes dans ces liens pour empêcher qu'ils ne soient devinés. Cependant, les chercheurs ont découvert qu'une décision de conception centrale dans la structure de ces liens les rendait vulnérables à une découverte massive.
Les chercheurs ont utilisé une technique appelée "recherche DNS passive" (Passive DNS search) via des services commerciaux disponibles, ce qui leur a permis de recenser 6 800 liens partagés par les utilisateurs de Muse. Une fois qu'un échantillon de ces liens a été ouvert, des données qui n'auraient dû être accessibles au public sous aucun prétexte sont apparues.
Exemples de données exposées
Le rapport a révélé un contenu choquant inclus dans les liens divulgués, dont les plus notables sont :
- Les notes d'un candidat à un poste de direction se préparant à un appel confidentiel avec un laboratoire d'intelligence artificielle de premier plan, incluant des noms de contacts internes et les dates des réunions.
- Une revue des revenus internes d'une entreprise nationale de marketing, destinée spécifiquement au directeur général.
- Une demande de prêt pour le propriétaire d'une petite entreprise, précisant le montant demandé et les détails de l'activité.
- Une liste de tâches incluant une alerte d'une banque concernant une opération de fraude, avec des numéros de compte partiels et des détails de transactions.
- Un rapport de performance interne pour un investisseur immobilier, comprenant des adresses de propriétés spécifiques ainsi que les chiffres des revenus et des prêts hypothécaires avec précision.
- Le calendrier annuel des congés des employés d'une entité professionnelle, listant des dizaines d'employés avec leurs dates d'absence.
Contradiction avec les promesses de confidentialité
Cette découverte place Meta dans une position embarrassante, d'autant plus que le directeur général Mark Zuckerberg avait déclaré le mois dernier que Muse avait été "construit de toutes pièces en mettant l'accent sur la confidentialité et la sécurité". Les chercheurs ont expliqué que le processus de collecte de ces liens n'a pas nécessité d'efforts importants comme prévu, mais a été réalisé via une seule requête grâce à l'utilisation du sous-domaine (cf.metaaiusercontent.com) pour tous les liens partagés, ce qui a facilité leur traçage et leur archivage dans les bases de données DNS publiques dès le premier clic.
Qu'est-ce qui change concrètement pour les utilisateurs ?
Cet incident démontre que la fonctionnalité de "partage par lien" dans les outils d'intelligence artificielle comporte des risques de sécurité latents si l'infrastructure des domaines n'est pas strictement sécurisée. Pour les utilisateurs, cela signifie que toute conversation transformée en lien de partage doit être considérée comme "publique" techniquement, même si le lien n'est pas publié ouvertement sur les plateformes sociales. Il est conseillé aux utilisateurs d'outils d'intelligence artificielle d'éviter de partager des conversations contenant des données financières, des secrets commerciaux ou des informations personnelles spécifiques, et de privilégier plutôt la copie manuelle des textes et leur sécurisation via des canaux de communication chiffrés pour garantir qu'ils ne soient pas divulgués aux moteurs de recherche ou aux bases de données de sécurité.