La société Meta a annoncé la réactivation de la fonction de partage de son agent d'intelligence artificielle « Muse », après avoir effectué des modifications de sécurité comprenant l'émission de nouveaux liens pour l'ensemble des fichiers et documents partagés précédemment. Cette décision fait suite à la découverte par des chercheurs en sécurité d'un dysfonctionnement technique ayant permis de trouver et d'accéder facilement à des liens de conversations publiques et à leur contenu sur le Web.
Détails de la faille et mécanisme d'exposition des données
L'incident a débuté au début de cette semaine lorsque des chercheurs en sécurité de la société Claroc ont révélé que les adresses Web (URL) attribuées aux conversations partagées depuis l'assistant Muse étaient dérivées automatiquement du titre de la conversation et enregistrées dans les journaux du système de noms de domaine public (DNS public). Cette erreur de configuration a permis de trouver des pages et des documents internes en ligne sans qu'il soit nécessaire de procéder à un piratage direct.
Les chercheurs ont indiqué avoir pu accéder à des fichiers sensibles, incluant l'examen des revenus internes d'une entreprise de marketing, ainsi qu'à une demande de prêt concernant le propriétaire d'une petite entreprise. À la suite des questions posées par le site Ars Technica pour enquêter sur ce problème, Meta a décidé de suspendre temporairement la fonction de partage afin d'enquêter sur l'incident et de combler la faille.
Résolution du problème et distinction entre conversations et artefacts
David Singleton, responsable chez Meta, a expliqué dans une publication sur la plateforme X que l'entreprise avait corrigé le dysfonctionnement fondamental et repris le fonctionnement de la fonction de partage. Singleton a souligné que le défaut de programmation était limité aux liens de ce que Meta appelle les « artefacts » — c'est-à-dire les documents et images créés ou enregistrés au sein de Muse — et ne constituait pas une faille dans le mécanisme de partage des conversations textuelles elles-mêmes.
La mise à jour de sécurité a inclus l'invalidation de tous les liens précédents générés avant la correction de la faille, ces fichiers disposant désormais de liens entièrement nouveaux. Tout utilisateur tentant de visiter un ancin lien verra s'afficher une notification lui demandant de contacter le créateur du contenu pour obtenir le nouveau lien. Singleton a commenté cette mesure en déclarant : « Nous comprenons que cette démarche puisse causer une certaine confusion et nous nous excusons pour ce désagrément, mais la protection des données des utilisateurs doit toujours passer en premier ».
Ce que cette évolution implique pour la sécurité des plateformes d'intelligence artificielle
Cet incident met en lumière un défi persistant auquel sont confrontés les outils d'intelligence artificielle générative interactive. Alors que les entreprises s'efforcent de simplifier les mécanismes de partage de résultats et de documents entre utilisateurs, des pratiques d'ingénierie laxistes — telles que la génération de liens prédictibles ou leur inclusion dans des registres DNS publics — peuvent entraîner la fuite involontaire de données financières et personnelles hautement sensibles. Cela impose aux équipes de développement d'isoler les liens de partage et de les doter d'identifiants cryptographiques impossibles à tracer avant de les rendre accessibles au public.