Видение Anthropic в отношении федерального регулирования
Согласно недавним отчетам, компания Anthropic представила законодателям США проект нового закона, направленного на создание нормативно-правовой базы для искусственного интеллекта. Этот шаг был предпринят в период растущего глобального давления с целью контроля темпов разработки передовых моделей, поскольку компания стремится определить четкие сценарии, оправдывающие запрет на выпуск любой модели ИИ на рынок.
Критерии катастрофических рисков
В предлагаемом законопроекте определены конкретные случаи, классифицируемые как «неминуемый и катастрофический риск», — ситуации, которые могут привести к гибели более 50 человек или причинению материального ущерба на сумму свыше одного миллиарда долларов. В проекте указано, что эти риски должны проистекать из:
- Создания или запуска биологического оружия.
- Выхода модели из-под контроля разработчиков.
- Осуществления широкомасштабных кибератак.
Эти критерии во многом схожи с теми, что содержатся в законе штата Калифорния (Senate Bill 53), что указывает на попытку унификации стандартов безопасности на федеральном уровне.
Что меняется на практике?
Наиболее спорный момент заключается в механизме реализации; закон предлагает полагаться на «независимых оценщиков», зарегистрированных в Министерстве торговли США, для оценки рисков моделей. Тем не менее, закон предоставляет разработчикам право оплачивать услуги этих оценщиков при условии, что оплата не будет зависеть от результатов оценки, что вызывает вопросы относительно независимости этого процесса.
Более того, закон накладывает строгие ограничения на федеральные агентства; он запрещает им принимать единоличное решение о приостановке запуска любой модели. Вместо этого, в случае обнаружения неминуемого риска, агентство должно уведомить Министерство торговли в течение 72 часов, которое, в свою очередь, обязано запросить судебный запрет у судьи в Вашингтоне, округ Колумбия, для остановки запуска. Это означает изъятие полномочий по прямому усмотрению у технических регулирующих органов и ограничение их судебным порядком.
Контекст регуляторной конкуренции
Эта инициатива появилась на фоне раскола внутри технологического сектора; в то время как некоторые компании призывают к добровольным регуляторным рамкам, основанным на внутренних наблюдателях, другие лидеры отрасли, такие как Дженсен Хуанг, генеральный директор Nvidia, считают, что сектор не нуждается в новых законах, ограничивающих инновации. Шаг Anthropic является упреждающей попыткой крупных компаний сформировать правила, которым они будут подчиняться, вместо того чтобы оставлять это на усмотрение законодателей, которые могут ввести более строгие или всеобъемлющие ограничения.