Компания Meta сталкивается с растущим давлением со стороны законодателей и генеральных прокуроров в Соединенных Штатах после блокировки аккаунта коалиции No Kings Coalition в социальной сети Instagram на четыре часа в разгар кампании по досрочному голосованию. В то время как компания объяснила инцидент технической ошибкой, вызванной автоматизированными системами проверки, коалиция и правозащитные группы считают, что ситуация может выходить за рамки простого «технического сбоя» и указывать на возможное политическое влияние или предвзятость в алгоритмах платформы.
Энди Стоун, представитель Meta, пояснил, что системы компании зафиксировали интенсивную активность в аккаунте, которая выглядела как трафик ботов, а не как обычный человеческий просмотр. Он объяснил это использованием аккаунтом инструмента на базе модели искусственного интеллекта Claude для поиска ключевых слов и хештегов с целью отслеживания дискуссий, что привело к всплескам активности, которые активировали автоматические системы оповещения компании.
Почему эта новость важна?
Значимость этого инцидента заключается в выявлении критического технического пробела: неспособности систем автоматизированного контроля отличать человеческую активность, поддерживаемую искусственным интеллектом, от вредоносных автоматизированных атак. В чувствительных политических контекстах, таких как выборы, блокировка организационных аккаунтов даже на несколько часов может перерезать каналы связи с миллионами избирателей, ослабляя способность организовывать мероприятия или распространять жизненно важную информацию о голосовании.
Более того, инцидент вызывает вопросы о степени прозрачности крупных технологических компаний в их взаимодействии с политическими администрациями. Коалиция из 14 генеральных прокуроров в США потребовала от Meta раскрыть любые контакты, которые могли иметь место между ней и администрацией Трампа по поводу этого аккаунта, особенно учитывая спорную историю компании в отношении защиты демократических процессов и корректировки алгоритмов.
Юридическое давление и вопросы прозрачности
Дело не ограничилось критикой со стороны коалиции, а переросло в законодательные действия; члены Конгресса и генеральные прокуроры потребовали разъяснений относительно того, почему восстановление доступа к аккаунту заняло так много времени и почему системы «предотвращения ошибок», разработанные Meta, не смогли обнаружить эту ошибочную блокировку до того, как она произошла.
Со своей стороны, группа No Kings отклонила предложение Meta о встрече с техническими экспертами, потребовав встречи с высшим руководством компании. Организаторы подчеркнули, что зависимость от частных платформ при организации гражданских движений делает их уязвимыми перед техническим и политическим давлением, которое может привести к непреднамеренному или преднамеренному подавлению политического контента, что они назвали «неприемлемой ситуацией» в условиях растущей зависимости от инструментов искусственного интеллекта при управлении цифровым контентом.