A Meta anunciou um conjunto de novas ferramentas de inteligência artificial voltadas para métodos nos quais os anúncios não parecem claramente violar as regras, mas são usados para direcionar usuários a sites externos que hospedam materiais de abuso sexual infantil. Paralelamente, a empresa afirmou ter tomado medidas contra 33,2 milhões de materiais relacionados à exploração sexual infantil no Facebook e no Instagram durante o primeiro semestre de 2026, depois que seus sistemas detectaram mais de 97% deles antes de serem denunciados pelos usuários.
Na Índia, a Meta lidou com 5,3 milhões de materiais durante o mesmo período e afirmou que mais de 98% deles foram detectados proativamente. Os números apresentados pela fonte não esclarecem quantas contas ou anúncios estavam relacionados a esses materiais, mas refletem a crescente dependência da empresa da detecção automatizada antes da chegada de denúncias humanas.
Detectar o destino, não apenas o anúncio
A principal nova ferramenta usa um sistema baseado em um modelo de linguagem grande para detectar o que a Meta chama de “signposting” — ou “orientação oculta”. O termo se refere a anúncios que podem parecer comuns, mas que são suspeitos de serem usados como uma porta de entrada para conteúdo ilegal ou atividade prejudicial fora das plataformas da empresa.
De acordo com a nova abordagem, a Meta não se limita a analisar o conteúdo do anúncio, mas também examina o destino para o qual o usuário é enviado. Se ficar constatado que o site ou destino viola as regras da empresa, ela pode bloqueá-lo e tomar medidas contra as contas responsáveis. A Meta afirma que essa mudança ocorreu depois que observou que agentes mal-intencionados estavam desenvolvendo métodos para evitar as ferramentas tradicionais de detecção.
Testes ofensivos e rastreamento de contas que retornam
A empresa também usa operações adicionais de varredura apoiadas por inteligência artificial para encontrar materiais que talvez não tenham sido detectados por seus sistemas anteriores, adicionando novos sinais à medida que entende melhor como essas redes operam.
A Meta também desenvolveu um “agente de inteligência artificial para testes ofensivos” (red-teaming AI agent), cuja tarefa é buscar pontos fracos nos sistemas internos de proteção e simular as formas que os abusadores poderiam explorar para contorná-los. A empresa também anunciou melhorias em sua capacidade de detectar pessoas que retornam às plataformas com novas contas depois que suas contas anteriores foram removidas.
Por que esta notícia é importante?
A mudança prática consiste em transferir parte do monitoramento de segurança da análise da publicação ou do anúncio para a análise do percurso completo, que pode começar com um anúncio aparentemente legal e terminar em um site externo prejudicial. Isso amplia o alcance da intervenção preventiva, mas torna a eficácia do sistema dependente de sua capacidade de avaliar destinos externos e as relações entre contas — aspectos que podem exigir atualizações contínuas à medida que os métodos das redes abusivas mudam.
As medidas ocorrem em meio a pressões jurídicas e políticas contínuas sobre a Meta relacionadas à proteção infantil. Em agosto, a empresa chegou a um acordo para pagar até 18 bilhões de dólares para resolver uma ação relacionada à segurança infantil movida por 29 estados americanos. A empresa também lançou, durante o ano, recursos que incluem ferramentas de controle parental para a Meta AI, contas específicas para menores de idade no WhatsApp e alertas aos pais quando crianças pesquisam no Instagram por conteúdo relacionado à automutilação.
Leitura da certi.news: O anúncio representa uma expansão clara do papel da inteligência artificial, que passa da detecção de conteúdo infrator à análise da estrutura que leva até ele. No entanto, a fonte não apresenta medições independentes da precisão das ferramentas de “orientação oculta” nem esclarece quantos sites ou contas foram bloqueados em decorrência das novas ferramentas. Por isso, os resultados quantitativos anunciados continuam vinculados aos próprios relatórios da Meta.