Внутренние предупреждения и игнорирование со стороны руководства
Недавние судебные документы выявили огромный разрыв между предупреждениями сотрудников компании TikTok о безопасности детей и реакцией руководства на эти риски. Согласно показаниям сотрудников, приведенным в СМИ, многие работники неоднократно сообщали о существенных недостатках в том, как платформа справляется с проблемами эксплуатации детей, выражая разочарование отсутствием эффективных исправительных мер.
Эти документы фигурируют среди сотен судебных исков против компании, сосредоточенных вокруг ее практики обеспечения безопасности юных пользователей. Показания свидетельствуют о том, что руководители знали о появлении подростков в прямых эфирах (TikTok Live) в контексте, вызывающем опасения по поводу эксплуатации, причем зрители могли платить деньги через цифровые «подарки», что сотрудники считали важным источником доходов, несмотря на правила платформы, запрещающие несовершеннолетним появляться в таком контенте.
Технические уязвимости в инструментах контроля
Предупреждения касались не только контента, но и технических уязвимостей в инструментах родительского контроля и функциях проверки возраста. Среди обнаруженных уязвимостей:
- Обход проверки возраста: наличие уязвимости, позволяющей несовершеннолетним обходить возрастные ограничения при регистрации с использованием учетных записей Facebook, Instagram или Google.
- Отключение родительского контроля: наличие скрытой ссылки, позволяющей подросткам удалять себя из функции «Семейные настройки» (Family Pairing) без ведома родителей.
Алгоритмы рекомендаций и риски вредоносного контента
В документах также упоминается внутренний отчет, подготовленный бывшим главой отдела безопасности TikTok Эриком Ханом в 2020 году, в котором он предупреждал об опасности алгоритмов, затягивающих пользователей в пучину контента (rabbit holes), где им постоянно предлагают вредоносный материал, например публикации о суициде, создавая то, что он назвал «эффектом заражения».
В связи с этим компания сталкивается с проверкой из-за функции, запущенной в 2021 году для снижения частоты показа определенных типов контента. Документы показал, что компания тестировала эту функцию, скрывая ее от миллионов пользователей — эксперимент, который в одном из исков был связан со смертью подростка, подвергшегося воздействию повторяющегося контента о самоповреждении.
Ответ TikTok
В свою очередь, TikTok отверг эти обвинения, назвав документы «выборочными отрывками», отобранными адвокатами истцов для искажения истории компании. Представитель компании подчеркнул, что TikTok инвестировал миллиарды долларов в обеспечение доверия и безопасности, разработал более 50 настроек конфиденциальности и безопасности для подростков, а также подтвердил твердую приверженность компании безопасности своего сообщества.