A Meta anunciou o reforço dos mecanismos de proteção padrão para os sistemas de recomendação da plataforma Instagram no mercado indiano, com o objetivo de reduzir a exibição de conteúdo indesejado e melhorar a experiência dos usuários. Esta medida surge em resposta aos comentários dos usuários e em conformidade com os avanços tecnológicos no campo da moderação de conteúdo.
A transição para a moderação proativa com IA
A nova estratégia do Instagram baseia-se no desenvolvimento de capacidades de detecção automática; a empresa começou a integrar modelos de inteligência artificial (IA) mais capazes para avaliar o conteúdo diretamente. Em vez de depender inteiramente de denúncias de usuários ou da ocultação manual de publicações, os sistemas aprimorados agora examinam o conteúdo proativamente em relação às diretrizes de recomendação da plataforma.
Esses sistemas foram ajustados especificamente para se adequarem ao contexto indiano, permitindo-lhes detectar e reduzir com maior precisão o conteúdo que contém insinuações sexuais ou cenas de violência. A Meta afirmou que essas melhorias levaram a resultados tangíveis, com uma redução de até 50% na taxa de denúncias de usuários sobre conteúdo recomendado em comparação com o ano passado.
Ferramentas de controle disponíveis para os usuários
Além das melhorias algorítmicas, a plataforma forneceu um conjunto de ferramentas que dão aos usuários maior controle sobre o que aparece em seus feeds, sendo as principais:
- Controle de conteúdo sensível: permite aos usuários reduzir a exibição de conteúdo sensível nos resultados de pesquisa, Reels e Explore.
- Controle de conteúdo político: uma opção para reduzir a visibilidade de publicações políticas de contas que o usuário não segue.
- Proteção de adolescentes: aplicação de configurações de conteúdo automáticas (13+) para adolescentes na Índia para garantir uma experiência adequada à sua idade.
- Filtros inteligentes: uso do recurso "Palavras Ocultas" (Hidden Words) para filtrar comentários e solicitações de mensagens com base em palavras ou emojis específicos.
O que muda na prática?
Esta atualização representa uma mudança do modelo de "resposta a denúncias" para o modelo de "prevenção proativa". Para o usuário na Índia, isso significa que o algoritmo funcionará como um filtro inicial que impede que conteúdo chocante ou inadequado chegue à interface do usuário antes que ele precise interagir com ele ou denunciá-lo. Essa tendência também reflete a pressão técnica e regulatória sobre as grandes empresas de tecnologia para cumprir as leis locais (como as Regras de Tecnologia da Informação da Índia de 2021) por meio de soluções de software inteligentes, em vez de intervenção humana intensiva.