Meta ha anunciado el refuerzo de los mecanismos de protección predeterminados para los sistemas de recomendación de la plataforma Instagram en el mercado indio, con el objetivo de reducir la aparición de contenido no deseado y mejorar la experiencia de los usuarios. Este paso se produce en respuesta a los comentarios de los usuarios y en consonancia con los avances tecnológicos en el campo de la moderación de contenidos.
Transición hacia la moderación proactiva con inteligencia artificial
La nueva estrategia de Instagram se basa en el desarrollo de capacidades de detección automática; la empresa ha comenzado a integrar modelos de inteligencia artificial (IA) más capaces para evaluar el contenido de forma directa. En lugar de depender totalmente de los informes de los usuarios o de ocultar las publicaciones manualmente, los sistemas desarrollados ahora examinan el contenido de forma proactiva frente a las directrices de recomendación de la plataforma.
Estos sistemas han sido ajustados específicamente para adaptarse al contexto indio, lo que les ha permitido detectar y reducir con mayor precisión el contenido que incluye sugerencias sexuales o escenas de violencia. Meta ha confirmado que estas mejoras han dado resultados tangibles, ya que la tasa de informes de los usuarios sobre contenido recomendado ha disminuido hasta un 50% en comparación con el año pasado.
Herramientas de control disponibles para los usuarios
Además de las mejoras algorítmicas, la plataforma ha proporcionado un conjunto de herramientas que otorgan a los usuarios un mayor control sobre lo que aparece en sus feeds, entre las que destacan:
- Control de contenido sensible: permite a los usuarios reducir la aparición de contenido sensible en los resultados de búsqueda, Reels y Explore.
- Control de contenido político: opción para reducir la visibilidad de publicaciones políticas de cuentas que el usuario no sigue.
- Protección de adolescentes: aplicación de ajustes de contenido automáticos (13+) para adolescentes en la India para garantizar una experiencia adecuada para su edad.
- Filtros inteligentes: uso de la función "Palabras ocultas" (Hidden Words) para filtrar comentarios y solicitudes de mensajes basándose en palabras o emojis específicos.
¿Qué cambia en la práctica?
Esta actualización representa un cambio de un modelo de "respuesta a informes" a un modelo de "prevención proactiva". Para un usuario en la India, esto significa que el algoritmo actuará como un filtro primario que evitará que el contenido impactante o inapropiado llegue a la interfaz del usuario antes de que este tenga que interactuar con él o denunciarlo. Asimismo, esta tendencia refleja la presión técnica y regulatoria sobre las grandes empresas tecnológicas para cumplir con las leyes locales (como las Reglas de Tecnología de la Información de la India de 2021) mediante soluciones de software inteligentes en lugar de una intervención humana intensiva.