Meta объявила о наборе новых инструментов искусственного интеллекта, нацеленных на методы, при которых реклама не выглядит явно нарушающей правила, но используется для направления пользователей на внешние сайты, размещающие материалы сексуального насилия над детьми. Параллельно компания сообщила, что приняла меры в отношении 33,2 миллиона материалов, связанных с сексуальной эксплуатацией детей, на Facebook и Instagram в первой половине 2026 года, после того как её системы обнаружили более 97% из них до того, как о них сообщили пользователи.
В Индии Meta обработала 5,3 миллиона материалов за тот же период и заявила, что более 98% из них были обнаружены проактивно. Приведённые в источнике цифры не уточняют количество аккаунтов или рекламы, связанных с этими материалами, однако отражают растущую зависимость компании от автоматического обнаружения до поступления сообщений от людей.
Выявление места назначения, а не только рекламы
Главный новый инструмент использует систему на основе большой языковой модели для выявления того, что Meta называет «скрытой навигацией» (signposting). Этот термин относится к рекламе, которая может выглядеть обычной, но, как предполагается, используется в качестве шлюза к незаконному контенту или вредоносной деятельности за пределами платформ компании.
В рамках нового подхода Meta анализирует не только содержание самой рекламы, но и место назначения, на которое она направляет пользователя. Если выясняется, что сайт или место назначения нарушает правила компании, она может заблокировать его и принять меры против аккаунтов, стоящих за ним. Meta заявляет, что это изменение стало результатом наблюдения: злоумышленники совершенствуют свои методы, чтобы обходить традиционные инструменты обнаружения.
Атакующее тестирование и отслеживание возвращающихся аккаунтов
Компания также использует дополнительные проверки с поддержкой искусственного интеллекта, чтобы находить материалы, которые могли не обнаружить её прежние системы, добавляя новые сигналы по мере более глубокого понимания принципов работы этих сетей.
Кроме того, Meta разработала «ИИ-агента для атакующего тестирования» (red-teaming AI agent), задачей которого является поиск уязвимостей во внутренних системах защиты и моделирование способов, которые злоумышленники могут использовать для их обхода. Компания также заявила об улучшении способности выявлять людей, которые возвращаются на платформы с новыми аккаунтами после удаления их прежних аккаунтов.
Почему это важно?
Практическое изменение заключается в переносе части контроля безопасности с анализа публикации или рекламы на анализ полного маршрута, который может начинаться с рекламы, выглядящей законной, и заканчиваться вредоносным внешним сайтом. Это расширяет масштабы превентивного вмешательства, однако делает эффективность системы зависимой от её способности оценивать внешние места назначения и связи между аккаунтами — аспекты, которые могут требовать постоянного обновления по мере изменения методов злоумышленнических сетей.
Эти меры принимаются на фоне продолжающегося юридического и политического давления на Meta по вопросу защиты детей. В августе компания достигла соглашения о выплате до 18 миллиардов долларов для урегулирования иска, связанного с безопасностью детей, который подали 29 американских штатов. Кроме того, в течение года компания запустила функции, включая инструменты родительского контроля для Meta AI, специальные аккаунты для лиц младше подросткового возраста в WhatsApp и уведомления для родителей, когда дети ищут в Instagram контент, связанный с причинением себе вреда.
Анализ certi.news: Объявление демонстрирует явное расширение роли искусственного интеллекта — от выявления нарушающего правила контента до анализа структуры, которая приводит к нему. Однако источник не предоставляет независимых показателей точности инструментов «скрытой навигации» и не уточняет количество сайтов или аккаунтов, заблокированных в результате работы новых инструментов, поэтому заявленные количественные результаты по-прежнему основаны на собственных отчётах Meta.