Meta hat eine Reihe neuer KI-Tools angekündigt, die auf Methoden abzielen, bei denen Anzeigen nicht eindeutig als regelwidrig erscheinen, aber dazu verwendet werden, Nutzer zu externen Websites mit Material über sexuellen Kindesmissbrauch zu leiten. Parallel dazu erklärte das Unternehmen, auf Facebook und Instagram in der ersten Hälfte des Jahres 2026 Maßnahmen gegen 33,2 Millionen Inhalte im Zusammenhang mit sexuellem Kindesmissbrauch ergriffen zu haben, nachdem seine Systeme mehr als 97 % davon entdeckt hatten, bevor Nutzer sie meldeten.
In Indien bearbeitete Meta im selben Zeitraum 5,3 Millionen Inhalte und erklärte, mehr als 98 % davon proaktiv erkannt zu haben. Die im Ausgangsmaterial genannten Zahlen schlüsseln nicht auf, wie viele Konten oder Anzeigen mit diesen Inhalten verbunden waren. Sie spiegeln jedoch die zunehmende Abhängigkeit des Unternehmens von automatisierter Erkennung vor dem Eingang menschlicher Meldungen wider.
Das Ziel erkennen, nicht nur die Anzeige
Das wichtigste neue Tool basiert auf einem System mit einem Large Language Model, um das zu erkennen, was Meta als „verdeckte Wegweisung“ (signposting) bezeichnet. Der Begriff bezieht sich auf Anzeigen, die gewöhnlich erscheinen können, bei denen jedoch der Verdacht besteht, dass sie als Zugang zu illegalen Inhalten oder schädlichen Aktivitäten außerhalb der Plattformen des Unternehmens dienen.
Nach dem neuen Ansatz analysiert Meta nicht nur den Inhalt der Anzeige, sondern prüft auch das Ziel, zu dem der Nutzer weitergeleitet wird. Sollte sich herausstellen, dass die Website oder das Ziel gegen die Regeln des Unternehmens verstößt, kann Meta sie blockieren und Maßnahmen gegen die dahinterstehenden Konten ergreifen. Meta zufolge wurde diese Änderung vorgenommen, nachdem festgestellt worden war, dass missbräuchliche Akteure ihre Methoden weiterentwickeln, um herkömmliche Erkennungstools zu umgehen.
Angriffstests und die Verfolgung zurückkehrender Konten
Das Unternehmen setzt außerdem zusätzliche KI-gestützte Scans ein, um Material zu finden, das von seinen bisherigen Systemen möglicherweise nicht entdeckt wurde. Dabei werden neue Signale hinzugefügt, sobald das Unternehmen die Funktionsweise dieser Netzwerke besser versteht.
Meta hat außerdem einen „KI-Agenten für Angriffstests“ (red-teaming AI agent) entwickelt. Seine Aufgabe besteht darin, Schwachstellen in den internen Schutzsystemen zu finden und die Methoden zu simulieren, mit denen Täter versuchen könnten, diese zu umgehen. Das Unternehmen erklärte zudem, seine Fähigkeit verbessert zu haben, Personen zu erkennen, die nach der Entfernung ihrer früheren Konten mit neuen Konten auf die Plattformen zurückkehren.
Warum ist diese Nachricht wichtig?
Die praktische Änderung besteht darin, einen Teil der Sicherheitsüberwachung von der Analyse des Beitrags oder der Anzeige auf die Analyse des gesamten Pfads zu verlagern, der mit einer scheinbar rechtmäßigen Anzeige beginnen und auf einer schädlichen externen Website enden kann. Dadurch erweitert sich der Umfang der Prävention. Zugleich hängt die Wirksamkeit des Systems davon ab, ob es externe Ziele und die Beziehungen zwischen Konten bewerten kann – Bereiche, die bei einer Veränderung der Methoden missbräuchlicher Netzwerke möglicherweise kontinuierlich aktualisiert werden müssen.
Die Maßnahmen erfolgen vor dem Hintergrund anhaltenden rechtlichen und politischen Drucks auf Meta zum Schutz von Kindern. Im August einigte sich das Unternehmen auf eine Zahlung von bis zu 18 Milliarden US-Dollar zur Beilegung einer Klage zur Kindersicherheit, die von 29 US-Bundesstaaten eingereicht worden war. Im Laufe des Jahres führte Meta außerdem Funktionen ein, darunter elterliche Kontrolltools für Meta AI, spezielle Konten für Minderjährige auf WhatsApp sowie Benachrichtigungen an Eltern, wenn Kinder auf Instagram nach Inhalten im Zusammenhang mit Selbstverletzung suchen.
Lesart von certi.news: Die Ankündigung stellt eine klare Ausweitung der Rolle künstlicher Intelligenz dar – von der Erkennung regelwidriger Inhalte hin zur Analyse der Struktur, die zu ihnen führt. Die Quelle liefert jedoch keine unabhängigen Messungen zur Genauigkeit der Tools für „verdeckte Wegweisung“ und nennt auch nicht die Zahl der Websites oder Konten, die infolge der neuen Tools blockiert wurden. Daher bleiben die veröffentlichten quantitativen Ergebnisse an die eigenen Berichte von Meta gebunden.