Искусственный интеллект

Дилемма «агентов»: как искусственный интеллект угрожает модели доверия и безопасности в Интернете?

Cloudflare анализирует проблемы безопасности и экономические вызовы, создаваемые агентами ИИ (AI Agents) как посредниками, скрывающими личности реальных пользователей, и предлагает техническое видение новых протоколов для обеспечения подотчетности и прозрачности.

2026-11-05
3 мин. чтения
1 просмотров
certi.news Editorial Team
Дилемма «агентов»: как искусственный интеллект угрожает модели доверия и безопасности в Интернете?

Интернет сталкивается с радикальным изменением характера трафика; в то время как взаимодействие раньше происходило напрямую между пользователем и сайтом, агенты искусственного интеллекта (AI Agents) начали появляться в качестве цифровых посредников, выполняющих задачи от имени миллионов людей. Этот сдвиг, несмотря на свою эффективность, создает глубокий технический и безопасный разрыв, поскольку сайты видят «агента», а не «реального пользователя», что приводит к потере возможности идентификации, предотвращения мошенничества и обеспечения подотчетности.

Эрозия отношений между сайтом и пользователем

Бизнес-модели и модели безопасности в Интернете в настоящее время зависят от способности сайтов распознавать пользователей и отслеживать их поведение. С появлением агентов (таких как Muse от Meta или dots от OpenAI) агент становится «посредником» (Intermediary), скрывающим основные данные. Эта неопределенность создает сложные технические проблемы, в том числе:

  • Дружественное мошенничество (Friendly Fraud): когда пользователь поручает агенту совершить покупку, а затем позже оспаривает транзакцию, утверждая, что не санкционировал ее, и сайтам трудно доказать обратное, поскольку данные поступают из облачной инфраструктуры агента, а не с устройства пользователя.
  • Смешивание трафика (Traffic Commingling): когда один пользователь злоупотребляет общим агентом, сайты могут быть вынуждены заблокировать агента целиком, что приведет к блокировке тысяч законных пользователей, связанных с ним.
  • Истощение ресурсов: способность агентов работать круглосуточно и со скоростью, превышающей человеческую, создает огромную нагрузку на дорогостоящие конечные точки (Endpoints), такие как поисковые системы и чат-сервисы.
  • Крах проверки личности: такие инструменты, как CAPTCHA, больше не эффективны, потому что агенты — не люди, а процессы проверки личности (KYC) предполагают наличие реального человека за экраном, что не подтверждается при использовании агента.

Почему это развитие важно с технической точки зрения?

Проблема заключается не в наличии автоматизации, а в принципе посредничества (The Intermediation Principle); коммерческие отношения и обязанности по обеспечению безопасности должны сохраняться между пользователем и сайтом даже при наличии посредника. Без новых протоколов сайты будут вынуждены либо полностью блокировать агентов (что снижает доступ пользователей к их услугам), либо принимать на себя непросчитанные риски безопасности и экономические риски.

На пути к новым протоколам сотрудничества

Cloudflare предлагает техническое видение, основанное на создании открытых стандартов, которые позволяют агентам и сайтам «сотрудничать», а не конфликтовать. Это видение включает в себя несколько технических путей:

  • Идентификация агента (Web Bot Auth - WBA): протокол, позволяющий агенту подписывать свои запросы в цифровом виде, что обеспечивает безопасный способ идентификации платформы и оператора, управляющего агентом.
  • Управление репутацией (MOLE): протокол, направленный на то, чтобы разрешить ограничение скорости запросов (Rate Limiting) на основе репутации пользователя без необходимости раскрытия его личной личности, что сохраняет конфиденциальность.
  • Коалиция TAD (Trusted Agent Delegation): Cloudflare объявила о создании этой коалиции для объединения представителей различных секторов (операторов, платежных провайдеров, издателей) для разработки глобальных стандартов, решающих эти пробелы в рамках организации IETF.

Что практически меняется для пользователей Cloudflare?

Cloudflare уже начала предоставлять конкретные инструменты для работы с этой новой реальностью, включая классификацию трафика «персональных помощников» в аналитике безопасности и предоставление политик контроля, позволяющих сайтам разрешать одних агентов и блокировать других на основе конкретных страниц, в дополнение к функции привязки агента к пользователю (через Account Abuse Protection), чтобы гарантировать возможность наказания злоупотребляющего пользователя без блокировки агента для остальных пользователей.

Источник новости
c
Автор

certi.news Editorial Team

В той же категории

Вам также может понравиться

Все новости