欧州委員会は、TikTokプラットフォームに対し、コンテンツのレコメンデーション・システムを通じてデジタル規則に違反しているとして、広範な調査の予備結果に基づき、強い警告を発した。非難の焦点は、「おすすめ（For You）」として知られるパーソナライズされた動画フィードにあり、これがユーザーにとって安全でないデジタル環境の構築に寄与していると考えられている。
「ラビットホール」のメカニズムと行動リスク
調査により、TikTokのレコメンデーション・アルゴリズムは、技術的に「ラビットホール効果（rabbit hole effect）」として知られるパターンを強化していることが明らかになった。このメカニズムは、ユーザーの行動を精密に分析することに基づいている。ユーザーがある特定のトピックに興味を示した途端、アルゴリズムは類似した動画の終わりのない連鎖へとユーザーを押し進め、強制的なデジタル没入状態を作り出す。このアルゴリズムによる行動は、ユーザーを「コンテンツ・バブル」の中に閉じ込め、身体像の障害やメンタルヘルスに関する問題といったデリケートなトピックへの露出を増加させ、継続的かつ集中的な反復によって不安や抑うつを悪化させる可能性がある。
欧州委員会は、同プラットフォームがこの設計に関連するリスク、特に子供や青少年といった最も脆弱な層に関するリスクを十分に評価していないことを強調した。これらのコンテンツ・ループへの継続的な露出は、長期的な心理的悪影響を及ぼす可能性がある。
実務面では何が変わるのか？
この調査は、デジタル監視における根本的な転換を意味している。焦点はもはや「どのようなコンテンツが投稿されるか」だけでなく、「コンテンツがいかに提案されるか」へと移っている。責任の範囲は、違反コンテンツの削除にとどまらず、ユーザーを特定の行動経路へと押し進めるアルゴリズムの設計（エンジニアリング）にまで及んでいる。もしこれらの容疑が立証されれば、TikTokはコンテンツポリシーを修正するだけでなく、有害な反復のループを断ち切るために基幹となるレコメンデーション・システムを再設計することを余儀なくされる。これは、技術的および規制上の大きな挑戦である。
潜在的な制裁
法的には、欧州委員会は違反が確認された場合に厳しい金銭的制裁を科す広範な権限を持っている。欧州委員会は、TikTokが全世界の年間総売上高の最大6%に達する罰金に直面する可能性があることに加え、欧州のデジタル基準への準拠を確保するために、動画フィードの設計に抜本的な変更を行うよう命じられる可能性があると警告した。