Avertissements internes et négligence de la direction
De récents documents judiciaires ont révélé un fossé important entre les avertissements des employés de l'entreprise TikTok concernant la sécurité des enfants et la réponse de la direction face à ces risques. Selon les témoignages d'employés rapportés par des médias, plusieurs membres du personnel ont signalé à plusieurs reprises des failles fondamentales dans la manière dont la plateforme traite les questions d'exploitation des enfants, exprimant leur frustration face à l'absence de mesures correctives efficaces.
Ces documents s'inscrivent dans le cadre de centaines de poursuites judiciaires auxquelles l'entreprise fait face, qui se concentrent sur ses antécédents en matière de sécurité des jeunes utilisateurs. Les témoignages indiquent que les dirigeants étaient informés de l'apparition d'adolescents lors de diffusions en direct (TikTok Live) dans des contextes suscitant des inquiétudes quant à l'exploitation, où les spectateurs pouvaient verser des sommes d'argent par le biais de « cadeaux » numériques, ce que les employés considéraient comme une source importante de revenus bien que les règles de la plateforme interdisent l'apparition de mineurs dans de tels contenus.
Failles techniques dans les outils de contrôle
Les avertissements ne se sont pas limités au contenu, mais se sont également étendus à des failles techniques dans les outils de contrôle parental et les fonctionnalités de sécurité basées sur l'âge. Parmi les failles découvertes :
- Contournement de la vérification de l'âge : existence d'une faille permettant aux mineurs de contourner les restrictions d'âge lors de l'inscription en utilisant des comptes Facebook, Instagram ou Google.
- Désactivation du contrôle parental : présence d'un lien caché permettant aux adolescents de se retirer de la fonctionnalité « Connexion Famille » (Family Pairing) à l'insu des parents.
Algorithmes de recommandation et risques de contenus préjudiciables
Les documents ont également fait état d'un rapport interne rédigé par Eric Han, ancien responsable de la sécurité chez TikTok, datant de 2020, dans lequel il mettait en garde contre les risques d'algorithmes qui entraînent les utilisateurs dans des « terriers de lapin » (rabbit holes), où des contenus préjudiciables sont recommandés de manière répétée, tels que des publications liées au suicide, créant ainsi ce qu'il a décrit comme un « effet de contagion ».
Dans un contexte connexe, l'entreprise fait l'objet d'un examen minutieux concernant une fonctionnalité lancée en 2021 destinée à réduire la répétition de certains types de contenus. Les documents révèlent en effet que l'entreprise a testé la fonctionnalité en la bloquant pour des millions d'utilisateurs, une expérience qui a été liée, dans l'une des poursuites judiciaires, au décès d'un adolescent exposé de manière répétée à des contenus d'automutilation.
Réponse de TikTok
Pour sa part, TikTok a réfuté ces allégations, qualifiant les documents d'« extraits sélectifs » choisis par les avocats de l'accusation pour déformer l'histoire de l'entreprise. Un porte-parole de l'entreprise a affirmé que TikTok a investi des milliards de dollars dans les domaines de la confiance et de la sécurité, et a développé plus de 50 paramètres de confidentialité et de sécurité pour les adolescents, soulignant l'engagement inébranlable de l'entreprise envers la sécurité de sa communauté.