内部の警告と経営陣の無視
最近の司法文書により、TikTokの従業員による子どもの安全に関する警告と、これらのリスクに対する経営陣の対応との間に大きな乖離があることが明らかになった。報道された従業員の証言によると、多くの従業員が子どもの搾取問題に対するプラットフォームの対応方法における根本的な欠陥について繰り返し報告し、効果的な是正措置の欠如に対するフラストレーションを表明していた。
これらの文書は、同社が直面している、若年ユーザーの安全に関する実績に焦点を当てた数百件の訴訟の中に含まれている。証言によると、経営幹部は、視聴者がデジタル「ギフト」を通じて金銭を支払うことができた状況で、搾取に関する懸念を引き起こす文脈において十代の若者たちがTikTokライブ（TikTok Live）に登場していることを認識していた。これは、プラットフォームの規約がこのようなコンテンツへの未成年者の出演を禁止しているにもかかわらず、従業員にとっては重要な収益源であるとみなされていた。
管理ツールの技術的欠陥
警告はコンテンツにとどまらず、ペアレンタルコントロールツールや年齢ベースのセキュリティ機能における技術的欠陥にも及んだ。発見された欠陥には以下が含まれる：
- 年齢確認の回避： 未成年者がFacebook、Instagram、またはGoogleのアカウントを使用して登録する際に年齢制限をバイパスできる欠陥。
- ペアレンタルコントロールの無効化： 十代の若者が親の知らぬ間に「ファミリーペアリング（Family Pairing）」機能から自分自身を外すことができる隠しリンクの存在。
推薦アルゴリズムと有害コンテンツのリスク
文書はまた、TikTokの元安全責任者であるエリック・ハンによって2020年に作成された内部報告書にも言及している。この中で彼は、自殺に関連する投稿などの有害なコンテンツが繰り返し提案される「ラビットホール（rabbit holes）」へとユーザーを誘導するアルゴリズムのリスクについて警告し、「伝染効果」と表現する現象を生み出していると指摘した。
これに関連して、同社は特定のコンテンツパターンの頻度を減らすために2021年に開始した機能について精査を受けている。文書によると、同社はこの機能を何百万人ものユーザーに対して非表示にしてテストを行ったが、ある訴訟では、この実験が自傷行為に関するコンテンツに繰り返しさらされていた十代の若者の死亡に関連付けられている。
TikTokの反論
一方、TikTokはこれらの主張を否定し、これらの文書は会社の歴史を歪めるために原告側弁護士によって選別された「選択的な抜粋」であると表現した。同社の広報担当者は、TikTokが信頼と安全の分野に何十億ドルも投資し、十代の若者向けに50以上のプライバシーおよびセキュリティ設定を開発したと強調し、コミュニティの安全に対する同社の揺るぎないコミットメントを強調した。