Cybersicherheit

Meta setzt künstliche Intelligenz ein, um Anzeigen aufzuspüren, die heimlich zu Material über Kindesmissbrauch führen

Meta hat neue KI-Tools zur Erkennung von Anzeigen und Konten angekündigt, die dazu verwendet werden könnten, Nutzer außerhalb der Plattformen Facebook und Instagram zu Material über sexuellen Kindesmissbrauch zu leiten. Das Unternehmen erklärte, in der ersten Hälfte des Jahres 2026 33,2 Millionen entsprechende Inhalte bearbeitet zu haben; seine Systeme hätten mehr als 97 % davon vor Nutzerhinweisen entdeckt.

2026-10-07
4 Min. Lesezeit
234 Aufrufe
certi.news Editorial Team
Meta setzt künstliche Intelligenz ein, um Anzeigen aufzuspüren, die heimlich zu Material über Kindesmissbrauch führen

Meta hat eine Reihe neuer KI-Tools angekündigt, die auf Methoden abzielen, bei denen Anzeigen nicht eindeutig als regelwidrig erscheinen, aber dazu verwendet werden, Nutzer zu externen Websites mit Material über sexuellen Kindesmissbrauch zu leiten. Parallel dazu erklärte das Unternehmen, auf Facebook und Instagram in der ersten Hälfte des Jahres 2026 Maßnahmen gegen 33,2 Millionen Inhalte im Zusammenhang mit sexuellem Kindesmissbrauch ergriffen zu haben, nachdem seine Systeme mehr als 97 % davon entdeckt hatten, bevor Nutzer sie meldeten.

In Indien bearbeitete Meta im selben Zeitraum 5,3 Millionen Inhalte und erklärte, mehr als 98 % davon proaktiv erkannt zu haben. Die im Ausgangsmaterial genannten Zahlen schlüsseln nicht auf, wie viele Konten oder Anzeigen mit diesen Inhalten verbunden waren. Sie spiegeln jedoch die zunehmende Abhängigkeit des Unternehmens von automatisierter Erkennung vor dem Eingang menschlicher Meldungen wider.

Das Ziel erkennen, nicht nur die Anzeige

Das wichtigste neue Tool basiert auf einem System mit einem Large Language Model, um das zu erkennen, was Meta als „verdeckte Wegweisung“ (signposting) bezeichnet. Der Begriff bezieht sich auf Anzeigen, die gewöhnlich erscheinen können, bei denen jedoch der Verdacht besteht, dass sie als Zugang zu illegalen Inhalten oder schädlichen Aktivitäten außerhalb der Plattformen des Unternehmens dienen.

Nach dem neuen Ansatz analysiert Meta nicht nur den Inhalt der Anzeige, sondern prüft auch das Ziel, zu dem der Nutzer weitergeleitet wird. Sollte sich herausstellen, dass die Website oder das Ziel gegen die Regeln des Unternehmens verstößt, kann Meta sie blockieren und Maßnahmen gegen die dahinterstehenden Konten ergreifen. Meta zufolge wurde diese Änderung vorgenommen, nachdem festgestellt worden war, dass missbräuchliche Akteure ihre Methoden weiterentwickeln, um herkömmliche Erkennungstools zu umgehen.

Angriffstests und die Verfolgung zurückkehrender Konten

Das Unternehmen setzt außerdem zusätzliche KI-gestützte Scans ein, um Material zu finden, das von seinen bisherigen Systemen möglicherweise nicht entdeckt wurde. Dabei werden neue Signale hinzugefügt, sobald das Unternehmen die Funktionsweise dieser Netzwerke besser versteht.

Meta hat außerdem einen „KI-Agenten für Angriffstests“ (red-teaming AI agent) entwickelt. Seine Aufgabe besteht darin, Schwachstellen in den internen Schutzsystemen zu finden und die Methoden zu simulieren, mit denen Täter versuchen könnten, diese zu umgehen. Das Unternehmen erklärte zudem, seine Fähigkeit verbessert zu haben, Personen zu erkennen, die nach der Entfernung ihrer früheren Konten mit neuen Konten auf die Plattformen zurückkehren.

Warum ist diese Nachricht wichtig?

Die praktische Änderung besteht darin, einen Teil der Sicherheitsüberwachung von der Analyse des Beitrags oder der Anzeige auf die Analyse des gesamten Pfads zu verlagern, der mit einer scheinbar rechtmäßigen Anzeige beginnen und auf einer schädlichen externen Website enden kann. Dadurch erweitert sich der Umfang der Prävention. Zugleich hängt die Wirksamkeit des Systems davon ab, ob es externe Ziele und die Beziehungen zwischen Konten bewerten kann – Bereiche, die bei einer Veränderung der Methoden missbräuchlicher Netzwerke möglicherweise kontinuierlich aktualisiert werden müssen.

Die Maßnahmen erfolgen vor dem Hintergrund anhaltenden rechtlichen und politischen Drucks auf Meta zum Schutz von Kindern. Im August einigte sich das Unternehmen auf eine Zahlung von bis zu 18 Milliarden US-Dollar zur Beilegung einer Klage zur Kindersicherheit, die von 29 US-Bundesstaaten eingereicht worden war. Im Laufe des Jahres führte Meta außerdem Funktionen ein, darunter elterliche Kontrolltools für Meta AI, spezielle Konten für Minderjährige auf WhatsApp sowie Benachrichtigungen an Eltern, wenn Kinder auf Instagram nach Inhalten im Zusammenhang mit Selbstverletzung suchen.

Lesart von certi.news: Die Ankündigung stellt eine klare Ausweitung der Rolle künstlicher Intelligenz dar – von der Erkennung regelwidriger Inhalte hin zur Analyse der Struktur, die zu ihnen führt. Die Quelle liefert jedoch keine unabhängigen Messungen zur Genauigkeit der Tools für „verdeckte Wegweisung“ und nennt auch nicht die Zahl der Websites oder Konten, die infolge der neuen Tools blockiert wurden. Daher bleiben die veröffentlichten quantitativen Ergebnisse an die eigenen Berichte von Meta gebunden.

Nachrichtenquelle
c
Autor

certi.news Editorial Team

Das Wichtigste

Meta hat KI-Tools zur Analyse von Anzeigen und externen Zielseiten angekündigt, die heimlich genutzt werden könnten, um auf Material über sexuellen Kindesmissbrauch zuzugreifen. Außerdem setzt das Unternehmen einen Agenten ein, um Schwachstellen in Schutzsystemen zu testen. Nach eigenen Angaben ging Meta im ersten Halbjahr 2026 auf Facebook und Instagram gegen 33,2 Millionen Inhalte vor. Die veröffentlichten Ergebnisse beruhen jedoch auf Daten von Meta und enthalten keine unabhängigen Messungen des neuen Tools.

  • Die Tools zielen auf das, was Meta als „verdeckte Weiterleitung“ bezeichnet: Eine Anzeige wirkt gewöhnlich, kann aber zu einer schädlichen oder illegalen externen Website führen.
  • Meta prüft neben dem Anzeigeninhalt auch das Ziel, zu dem die Anzeige führt, und kann dieses blockieren sowie Maßnahmen gegen damit verbundene Konten ergreifen.
  • Das Unternehmen erklärte, im ersten Halbjahr 2026 auf Facebook und Instagram gegen 33,2 Millionen Inhalte im Zusammenhang mit sexuellem Kindesmissbrauch vorgegangen zu sein; mehr als 97 % davon seien entdeckt worden, bevor Nutzer sie meldeten.
  • In Indien erklärte Meta, im selben Zeitraum gegen 5,3 Millionen Inhalte vorgegangen zu sein und mehr als 98 % davon proaktiv erkannt zu haben.
  • Meta entwickelte einen KI-Agenten für offensive Tests, der Methoden zur Umgehung von Schutzsystemen simulieren und deren Schwachstellen finden soll.
  • Die Quelle nennt nicht, wie viele Websites oder Konten aufgrund der neuen Tools blockiert wurden, und liefert keine unabhängigen Messungen zu deren Genauigkeit.

FAQ

Was ist mit verdeckter Weiterleitung gemeint?

Damit ist die Nutzung von Anzeigen gemeint, die als scheinbar gewöhnliche Anzeigen als Zugang dienen, um Nutzer außerhalb der Meta-Plattformen zu illegalen Inhalten oder schädlichen Aktivitäten zu führen.

Analysiert Meta nur die Anzeige?

Nein. Meta erklärt, dass der neue Ansatz auch das Ziel prüft, zu dem der Nutzer weitergeleitet wird. Dazu können die Blockierung der Website und Maßnahmen gegen damit verbundene Konten gehören.

Gegen wie viele Inhalte ging Meta nach eigenen Angaben im ersten Halbjahr 2026 vor?

Das Unternehmen erklärte, auf Facebook und Instagram gegen 33,2 Millionen Inhalte vorgegangen zu sein, darunter 5,3 Millionen Inhalte in Indien.

Gibt es unabhängige Messungen zur Wirksamkeit der neuen Tools?

Die Quelle enthält keine unabhängigen Messungen zur Genauigkeit der Tools gegen verdeckte Weiterleitung und nennt auch nicht, wie viele Websites oder Konten aufgrund dieser Tools blockiert wurden.

Aus derselben Kategorie

Das könnte Sie interessieren

Alle Nachrichten anzeigen