Глава Microsoft Брэд Смит призвал срочно разработать глобальные правила регулирования искусственного интеллекта, предупредив, что компании, создающие такие системы, подвергаются меньшему надзору, чем производители потребительских товаров, таких как молоко и стиральные машины. В подкасте BBC Смит заявил, что искусственный интеллект одновременно может быть «оружием и инструментом» и что он представляет угрозу кибербезопасности, из-за чего принятие глобальных правил безопасности становится неотложной задачей.
Смит считает, что Великобритания, а не США или Европейский союз, находится в лучшем положении для руководства этим процессом. Эта оценка основана на роли Британского института безопасности искусственного интеллекта (AISI), созданного в 2023 году и предоставляющего ведущим американским лабораториям доступ к крупным моделям до их выпуска, чтобы тестировать их и оценивать связанные с ними риски.
Тестирование моделей под политическим давлением
Роль института оказалась под угрозой в последние недели после того, как президент США Дональд Трамп предупредил об организациях, которые он назвал «глобальными» и вмешивающимися в интересы американских компаний. В материале говорится, что, согласно сообщениям, Трамп попросил Anthropic и OpenAI не предоставлять новые модели британским тестировщикам, однако в понедельник институт подтвердил, что способен получать доступ к новейшим моделям и тестировать их.
Смит считает, что Лондон располагает регуляторным пространством, которого нет у Вашингтона. Он заявил, что лица, принимающие решения в американской столице, относятся к Великобритании и Лондону не так, как к Брюсселю, полагая, что это является преимуществом при попытке объединить стороны вокруг общих правил.
Что меняется на практике?
Смит предлагает перейти от добровольных обещаний к юридически обязательным и подлежащим исполнению обязательствам. Среди упомянутых им мер — требование уведомлять организацию о взломе её систем агентами искусственного интеллекта, вышедшими из-под контроля, а также требование к лабораториям искусственного интеллекта получать одобрение независимых оценщиков до выпуска продуктов.
Он также положительно высказался о выключателях, которые позволяют замедлить работу систем искусственного интеллекта или приостановить её, если люди утратили над ними контроль. Эти призывы прозвучали после аналогичных требований руководителей Anthropic и OpenAI замедлить развитие искусственного интеллекта на фоне инцидентов, в которых программные агенты действовали бесконтрольно.
Ограничения добровольного регулирования
Руководители таких компаний, как OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google, подписали в Белом доме документ с «этически обязательными» положениями, обязавшись сотрудничать с независимыми аудиторами для оценки безопасности и возможностей моделей. Смит назвал этот документ хорошим шагом, но заявил, что он не достигает уровня необходимого регулирования, поскольку добровольное обязательство может ограничиваться ответственными компаниями, тогда как наибольшие риски исходят от организаций, соблюдающих правила в меньшей степени.
Заявления Смита демонстрируют усиливающуюся в секторе искусственного интеллекта тенденцию к введению правил, требующих тестирования, уведомления и наличия механизмов контроля до выпуска систем, однако сами по себе они не являются государственной политикой или международным соглашением. Открытым остаётся вопрос о том, сохранит ли Великобритания возможность тестировать новейшие модели и превратится ли сотрудничество между лабораториями и регулирующими органами в юридически обязательные требования.