La Commission européenne a lancé un avertissement sévère contre la plateforme « TikTok », faisant état des résultats préliminaires d'une enquête approfondie accusant la plateforme de violer les règles numériques via son système de recommandation de contenu. L'accusation se concentre sur le flux de vidéos personnalisé connu sous le nom de « Pour vous » (For You), qui contribuerait à créer un environnement numérique non sécurisé pour les utilisateurs.
Le mécanisme de l'« effet terrier » et les risques comportementaux
L'enquête a révélé que l'algorithme de recommandation de TikTok suit un modèle qui renforce ce que l'on appelle techniquement l'« effet terrier » (rabbit hole effect). Ce mécanisme repose sur une analyse précise du comportement de l'utilisateur ; dès qu'un utilisateur manifeste un intérêt pour un sujet particulier, l'algorithme le pousse vers une série infinie de vidéos similaires, créant ainsi un état d'immersion numérique forcée. Ce comportement algorithmique peut conduire à enfermer les utilisateurs dans des « bulles de contenu » qui augmentent leur exposition à des sujets sensibles tels que les troubles de l'image corporelle ou les questions de santé mentale, exacerbant les sentiments d'anxiété et de dépression en raison de la répétition constante et intensive.
La Commission a souligné que la plateforme n'a pas suffisamment évalué les risques associés à cette conception, en particulier pour les catégories les plus vulnérables comme les enfants et les adolescents, où l'exposition continue à ces boucles de contenu peut entraîner des effets psychologiques négatifs à long terme.
Qu'est-ce qui change concrètement ?
Cette enquête représente un tournant majeur dans la surveillance numérique ; l'accent ne porte plus seulement sur « ce qui est publié » en termes de contenu, mais s'est déplacé vers « comment les contenus sont suggérés ». La responsabilité ne se limite plus à la suppression des contenus non conformes, mais s'étend désormais à l'ingénierie algorithmique qui pousse les utilisateurs vers certains parcours comportementaux. Si ces accusations sont prouvées, TikTok sera contrainte non seulement de modifier ses politiques de contenu, mais aussi de réorganiser son système de recommandation de base pour briser les boucles de répétition nocives, ce qui constitue un défi technique et réglementaire majeur.
Sanctions potentielles
Sur le plan juridique, la Commission européenne dispose de larges pouvoirs pour imposer des sanctions financières sévères en cas de confirmation des violations. La Commission a averti que TikTok pourrait faire face à des amendes allant jusqu'à 6 % de son chiffre d'affaires annuel mondial total, en plus de la possibilité d'être contrainte d'apporter des changements radicaux à la conception de son flux de vidéos afin de garantir la conformité aux normes numériques européennes.