Кибербезопасность

Meta использует искусственный интеллект для выявления рекламы, которая тайно ведёт к материалам эксплуатации детей

Meta объявила о новых инструментах искусственного интеллекта для выявления рекламы и аккаунтов, которые могут использоваться для направления пользователей к материалам сексуального насилия над детьми за пределами платформ Facebook и Instagram. Компания заявила, что обработала 33,2 миллиона таких материалов в первой половине 2026 года, а её системы обнаружили более 97% из них до поступления сообщений от пользователей.

2026-10-07
3 мин. чтения
234 просмотров
certi.news Editorial Team
Meta использует искусственный интеллект для выявления рекламы, которая тайно ведёт к материалам эксплуатации детей

Meta объявила о наборе новых инструментов искусственного интеллекта, нацеленных на методы, при которых реклама не выглядит явно нарушающей правила, но используется для направления пользователей на внешние сайты, размещающие материалы сексуального насилия над детьми. Параллельно компания сообщила, что приняла меры в отношении 33,2 миллиона материалов, связанных с сексуальной эксплуатацией детей, на Facebook и Instagram в первой половине 2026 года, после того как её системы обнаружили более 97% из них до того, как о них сообщили пользователи.

В Индии Meta обработала 5,3 миллиона материалов за тот же период и заявила, что более 98% из них были обнаружены проактивно. Приведённые в источнике цифры не уточняют количество аккаунтов или рекламы, связанных с этими материалами, однако отражают растущую зависимость компании от автоматического обнаружения до поступления сообщений от людей.

Выявление места назначения, а не только рекламы

Главный новый инструмент использует систему на основе большой языковой модели для выявления того, что Meta называет «скрытой навигацией» (signposting). Этот термин относится к рекламе, которая может выглядеть обычной, но, как предполагается, используется в качестве шлюза к незаконному контенту или вредоносной деятельности за пределами платформ компании.

В рамках нового подхода Meta анализирует не только содержание самой рекламы, но и место назначения, на которое она направляет пользователя. Если выясняется, что сайт или место назначения нарушает правила компании, она может заблокировать его и принять меры против аккаунтов, стоящих за ним. Meta заявляет, что это изменение стало результатом наблюдения: злоумышленники совершенствуют свои методы, чтобы обходить традиционные инструменты обнаружения.

Атакующее тестирование и отслеживание возвращающихся аккаунтов

Компания также использует дополнительные проверки с поддержкой искусственного интеллекта, чтобы находить материалы, которые могли не обнаружить её прежние системы, добавляя новые сигналы по мере более глубокого понимания принципов работы этих сетей.

Кроме того, Meta разработала «ИИ-агента для атакующего тестирования» (red-teaming AI agent), задачей которого является поиск уязвимостей во внутренних системах защиты и моделирование способов, которые злоумышленники могут использовать для их обхода. Компания также заявила об улучшении способности выявлять людей, которые возвращаются на платформы с новыми аккаунтами после удаления их прежних аккаунтов.

Почему это важно?

Практическое изменение заключается в переносе части контроля безопасности с анализа публикации или рекламы на анализ полного маршрута, который может начинаться с рекламы, выглядящей законной, и заканчиваться вредоносным внешним сайтом. Это расширяет масштабы превентивного вмешательства, однако делает эффективность системы зависимой от её способности оценивать внешние места назначения и связи между аккаунтами — аспекты, которые могут требовать постоянного обновления по мере изменения методов злоумышленнических сетей.

Эти меры принимаются на фоне продолжающегося юридического и политического давления на Meta по вопросу защиты детей. В августе компания достигла соглашения о выплате до 18 миллиардов долларов для урегулирования иска, связанного с безопасностью детей, который подали 29 американских штатов. Кроме того, в течение года компания запустила функции, включая инструменты родительского контроля для Meta AI, специальные аккаунты для лиц младше подросткового возраста в WhatsApp и уведомления для родителей, когда дети ищут в Instagram контент, связанный с причинением себе вреда.

Анализ certi.news: Объявление демонстрирует явное расширение роли искусственного интеллекта — от выявления нарушающего правила контента до анализа структуры, которая приводит к нему. Однако источник не предоставляет независимых показателей точности инструментов «скрытой навигации» и не уточняет количество сайтов или аккаунтов, заблокированных в результате работы новых инструментов, поэтому заявленные количественные результаты по-прежнему основаны на собственных отчётах Meta.

Источник новости
c
Автор

certi.news Editorial Team

Что важно знать

Meta объявила об инструментах искусственного интеллекта для анализа рекламы и внешних сайтов, которые могут тайно использоваться для доступа к материалам сексуального насилия над детьми, а также об использовании агента для тестирования уязвимостей систем защиты. Компания заявляет, что обработала 33,2 млн материалов на Facebook и Instagram в первой половине 2026 года, однако опубликованные результаты основаны на данных Meta и не включают независимых измерений эффективности нового инструмента.

  • Инструменты нацелены на то, что Meta называет «скрытым наведением», когда объявление выглядит обычным, но может вести на вредоносный или незаконный внешний сайт.
  • Meta проверяет сайт назначения, на который ведёт объявление, наряду с содержанием самого объявления, и может заблокировать сайт и принять меры против связанных с ним аккаунтов.
  • Компания заявила, что в первой половине 2026 года приняла меры в отношении 33,2 млн материалов, связанных с сексуальной эксплуатацией детей, на Facebook и Instagram и обнаружила более 97% из них до жалоб пользователей.
  • В Индии Meta заявила, что за тот же период обработала 5,3 млн материалов и выявила более 98% из них проактивно.
  • Meta разработала агента искусственного интеллекта для наступательного тестирования, имитирующего способы обхода систем защиты и поиска их уязвимостей.
  • Источник не уточняет количество сайтов или аккаунтов, заблокированных в результате работы новых инструментов, и не приводит независимых измерений их точности.

Частые вопросы

Что такое скрытое наведение?

Это использование объявлений, которые могут выглядеть обычными, но служат способом направить пользователей к незаконному контенту или вредоносной активности за пределами платформ Meta.

Meta анализирует только объявление?

Нет. Meta заявляет, что новый подход также проверяет сайт назначения, на который направляется пользователь, и может включать блокировку сайта и принятие мер против связанных с ним аккаунтов.

Сколько материалов, по заявлению Meta, компания обработала в первой половине 2026 года?

Компания заявила, что приняла меры в отношении 33,2 млн материалов на Facebook и Instagram, включая 5,3 млн материалов в Индии.

Существуют ли независимые измерения эффективности новых инструментов?

Источник не приводит независимых измерений точности инструментов для выявления скрытого наведения и не уточняет, сколько сайтов или аккаунтов было заблокировано благодаря им.

В той же категории

Вам также может понравиться

Все новости