La société Meta fait face à une pression croissante de la part de législateurs et de procureurs généraux aux États-Unis, après la suspension du compte de la No Kings Coalition sur la plateforme Instagram pendant quatre heures au pic de la campagne de vote anticipé. Alors que l'entreprise a justifié l'incident comme étant une erreur technique résultant de systèmes de modération automatisés, la coalition et des groupes de défense des droits estiment que la réalité pourrait dépasser le simple "bug technique" pour atteindre une éventuelle influence politique ou un biais dans les algorithmes de la plateforme.
Andy Stone, porte-parole de Meta, a expliqué que les systèmes de l'entreprise avaient détecté une activité intense sur le compte qui ressemblait à du trafic de robots (Bot traffic) plutôt qu'à une navigation humaine normale. Il a attribué cela à l'utilisation par le compte d'un outil basé sur le modèle d'intelligence artificielle Claude pour rechercher des mots-clés et des hashtags afin de suivre les conversations, ce qui a provoqué des pics d'activité déclenchant les alertes des systèmes automatisés de l'entreprise.
Pourquoi cette nouvelle est-elle importante ?
L'importance de cet incident réside dans la mise en lumière d'une lacune technique critique : l'incapacité des systèmes de modération automatisés à distinguer l'activité humaine assistée par l'IA des attaques automatisées malveillantes. Dans des contextes politiques sensibles tels que les élections, la suspension de comptes organisationnels pendant seulement quelques heures peut couper les moyens de communication avec des millions d'électeurs, affaiblissant ainsi la capacité à organiser des événements ou à diffuser des informations vitales sur le vote.
De plus, l'incident soulève des questions sur le degré de transparence des grandes entreprises technologiques dans leurs relations avec les administrations politiques. Une coalition de 14 procureurs généraux aux États-Unis a exigé que Meta révèle toute communication ayant eu lieu entre elle et l'administration Trump concernant ce compte, surtout compte tenu de l'historique controversé de l'entreprise en matière de protection des processus démocratiques et de modification des algorithmes.
Pressions juridiques et questions sur la transparence
L'affaire ne s'est pas limitée aux critiques de la coalition, mais s'est étendue à des actions législatives ; des membres du Congrès et des procureurs généraux ont exigé des éclaircissements sur la raison du retard dans le rétablissement de l'accès au compte, et pourquoi les systèmes de "prévention des erreurs" conçus par Meta n'ont pas réussi à détecter cette suspension erronée avant qu'elle ne se produise.
De son côté, le groupe No Kings a refusé l'offre de Meta de rencontrer des experts techniques, exigeant de rencontrer la haute direction de l'entreprise. Les organisateurs ont souligné que la dépendance envers des plateformes privées pour organiser des mouvements civiques les rend vulnérables à des pressions techniques et politiques pouvant mener à la suppression involontaire ou délibérée de contenu politique, ce qu'ils ont qualifié de "situation inacceptable" dans un contexte de dépendance croissante envers les outils d'intelligence artificielle pour la gestion du contenu numérique.