Interne Warnungen und administrative Ignoranz
Jüngste Gerichtsdokumente haben eine große Lücke zwischen den Warnungen der Mitarbeiter von TikTok zur Kindersicherheit und der Reaktion des Managements auf diese Risiken aufgedeckt. Aussagen von Mitarbeitern in Medienberichten zufolge meldeten zahlreiche Beschäftigte wiederholt grundlegende Mängel im Umgang der Plattform mit Fällen von Kindesmissbrauch und äußerten Frustration über das Ausbleiben wirksamer Korrekturmaßnahmen.
Diese Dokumente sind Teil hunderter Klagen gegen das Unternehmen, die sich auf dessen Bilanz im Bereich der Sicherheit junger Nutzer konzentrieren. Die Aussagen deuten darauf hin, dass Führungskräfte wussten, dass Jugendliche in Livestreams (TikTok Live) in Zusammenhängen auftraten, die Bedenken hinsichtlich einer Ausbeutung aufweckten, da Zuschauer Geldbeträge über digitale „Geschenke“ zahlen konnten. Dies wurde von den Mitarbeitern trotz der Regeln der Plattform, die den Auftritt von Minderjährigen in solchen Inhalten verbieten, als wichtige Einnahmequelle angesehen.
Technische Lücken in den Kontrollinstrumenten
Die Warnungen beschränkten sich nicht nur auf Inhalte, sondern erstreckten sich auch auf technische Lücken in den elterlichen Kontrollinstrumenten und den altersbasierten Sicherheitsfunktionen. Zu den entdeckten Schwachstellen gehören:
- Umgehung der Altersüberprüfung: Eine Lücke, die es Minderjährigen ermöglicht, Altersbeschränkungen bei der Registrierung über Facebook-, Instagram- oder Google-Konten zu umgehen.
- Deaktivierung der elterlichen Kontrolle: Ein versteckter Link, der es Jugendlichen ermöglicht, sich ohne das Wissen ihrer Eltern aus der Funktion „Familien-Pairing“ (Family Pairing) zu entfernen.
Empfehlungsalgorithmen und Risiken schädlicher Inhalte
Die Dokumente verwiesen zudem auf einen internen Bericht von Eric Han, dem ehemaligen Leiter der Sicherheitsabteilung bei TikTok, aus dem Jahr 2020. Darin warnte er vor den Risiken von Algorithmen, die Nutzer in „Kaninchenbauten“ (rabbit holes) treiben, in denen schädliche Inhalte wie Beiträge zum Thema Selbstmord wiederholt vorgeschlagen werden, was einen von ihm als „Ansteckungseffekt“ beschriebenen Zustand erzeugt.
In diesem Zusammenhang sieht sich das Unternehmen einer Prüfung bezüglich einer Funktion aus dem Jahr 2021 ausgesetzt, die darauf abzielte, die Wiederholung bestimmter Inhaltemuster zu reduzieren. Dokumente enthüllten, dass das Unternehmen die Funktion testete, indem es sie für Millionen von Nutzern blockierte – ein Experiment, das in einer Klage mit dem Tod eines Jugendlichen in Verbindung gebracht wurde, der wiederholt Inhalten zu Selbstverletzung ausgesetzt gewesen war.
TikToks Reaktion
Seinerseits wies TikTok diese Vorwürfe zurück und bezeichnete die Dokumente als „selektive Auszüge“, die von den Anwälten der Kläger ausgewählt worden seien, um die Geschichte des Unternehmens in ein schlechtes Licht zu rücken. Ein Unternehmenssprecher betonte, dass TikTok Milliarden von Dollar in die Bereiche Vertrauen und Sicherheit investiert und mehr als 50 Datenschutz- und Sicherheitseinstellungen für Jugendliche entwickelt habe, und bekräftigte das feste Engagement des Unternehmens für die Sicherheit seiner Community.