Alertas internos e negligência administrativa
Documentos judiciais recentes revelaram uma grande lacuna entre os alertas dos funcionários da TikTok sobre a segurança infantil e a resposta da administração a esses riscos. De acordo com depoimentos de funcionários citados em reportagens da mídia, vários trabalhadores relataram repetidamente falhas fundamentais na forma como a plataforma lida com questões de exploração infantil, expressando frustração com a falta de medidas corretivas eficazes.
Esses documentos surgem em meio a centenas de processos enfrentados pela empresa, que se concentram em seu histórico de segurança de jovens usuários. Os depoimentos indicam que os executivos estavam cientes de adolescentes aparecendo em transmissões ao vivo (TikTok Live) em contextos que levantavam preocupações sobre exploração, onde os espectadores podiam pagar quantias em dinheiro por meio de "presentes" digitais, o que os funcionários consideravam uma fonte importante de receita, apesar de as regras da plataforma proibirem a aparição de menores em tal conteúdo.
Falhas técnicas nas ferramentas de controle
Os alertas não se limitaram ao conteúdo, mas estenderam-se a falhas técnicas nas ferramentas de controle parental e recursos de segurança baseados na idade. Entre as falhas descobertas estão:
- Contorno da verificação de idade: A existência de uma falha que permite aos menores burlar as restrições de idade no registro usando contas do Facebook, Instagram ou Google.
- Desativação do controle parental: A existência de um link oculto que permite aos adolescentes removerem-se do recurso "Emparelhamento Familiar" (Family Pairing) sem o conhecimento dos pais.
Algoritmos de recomendação e riscos de conteúdo nocivo
Os documentos também apontaram para um relatório interno preparado por Eric Han, ex-chefe de segurança do TikTok, datado de 2020, no qual ele alertava sobre os riscos de algoritmos que empurram os usuários para "tocas de coelho" (rabbit holes), onde conteúdo nocivo é sugerido repetidamente, como postagens relacionadas ao suicídio, criando o que ele descreveu como um "efeito de contágio".
Em um contexto relacionado, a empresa enfrenta escrutínio sobre um recurso lançado em 2021 para reduzir a frequência de certos padrões de conteúdo, com documentos revelando que a empresa testou o recurso bloqueando-o para milhões de usuários, um experimento que em um processo foi associado à morte de um adolescente que havia sido exposto a conteúdo repetido sobre automutilação.
Resposta do TikTok
Por sua vez, o TikTok negou essas alegações, descrevendo os documentos como "trechos seletivos" escolhidos a dedo por advogados de acusação para deturpar a história da empresa. Um porta-voz da empresa enfatizou que o TikTok investiu bilhões de dólares nas áreas de confiança e segurança e desenvolveu mais de 50 configurações de privacidade e segurança para adolescentes, enfatizando o firme compromisso da empresa com a segurança de sua comunidade.