17 сентября 2026 года Google и Google DeepMind запустили «DeepMind Institute» с целью расширить дискуссию об общем искусственном интеллекте (AGI) и подчеркнуть различия между позициями Google, Google DeepMind и исследователей по всему миру. Институт возглавляют Shane Legg, соучредитель DeepMind, James Manyika, руководитель Google, и Demis Hassabis, глава Google DeepMind, а Legg также исполняет обязанности управляющего редактора.
Институт представляет себя как пространство для публикации точек зрения, которые не всегда совпадают и могут меняться по мере появления новых данных и информации в быстро развивающейся области. Этот шаг предпринимается в момент, когда дискуссия о безопасности искусственного интеллекта переходит от общих заявлений к более конкретным предложениям, связанным с раскрытием информации, внешним аудитом и замедлением разработки передовых моделей, если её не сопровождают надлежащие гарантии.
Четыре направления дискуссии
В стартовую подборку института входят четыре статьи, посвящённые политике реагирования на потенциальные экономические потрясения, которые может вызвать общий искусственный интеллект, сохранению понятности рассуждений моделей для людей, принципам поддержки человеческого процветания, а также системе оценки ведущих моделей искусственного интеллекта.
В одной из статей исследователи безопасности DeepMind Rohin Shah и Anca Dragan предупреждают, что сокращение возможностей исследователей видеть и проверять этапы рассуждений модели не является неизбежным результатом. По мере развития архитектур, которые делают более мощные модели труднее для наблюдения, исследователи призывают разработчиков и регулирующие органы напрямую учитывать компромиссы, связанные с безопасностью.
Среди предлагаемых ими вариантов — ограничение «непрозрачной последовательной глубины» (opaque serial depth), то есть объёма последовательных вычислений, которые модель может выполнить без создания читаемого пути рассуждений, либо требование к разработчикам доказывать, что менее прозрачные системы по-прежнему поддаются мониторингу на том же уровне.
Американская система оценки моделей
В другой статье Hassabis предлагает создать возглавляемый Соединёнными Штатами орган по стандартам передового искусственного интеллекта для оценки наиболее развитых моделей. Согласно представленному замыслу, разработчики будут добровольно предоставлять свои модели на проверку за период до 30 дней до выпуска; впоследствии прохождение испытаний должно стать условием публикации ведущих моделей в США, если система оценки докажет свою эффективность.
Изначально орган будет разрабатывать оценочные тесты в консультации с компаниями, занимающимися искусственным интеллектом, а затем перейдёт к независимым испытаниям, о которых заранее не сообщается, — так называемым «отложенным тестам» (held-out tests), чтобы не допустить оптимизации лабораториями своих моделей под заранее известные тесты. В предложении также упоминается возможность постепенного ужесточения мер, вплоть до согласованного замедления работы разработчиков передовых моделей, если этого потребует серьёзность ситуации.
Почему эта новость важна?
Практическая значимость инициативы заключается не только в создании новой платформы для публикаций, но и в объединении дискуссий Google и Google DeepMind по вопросам, которые могут повлиять на способы разработки и оценки моделей. Статьи рассматривают прозрачность, возможность мониторинга и независимый аудит как операционные вопросы, а не только как общие принципы.
При этом институт не является независимым регулирующим органом, а предложенная система оценки начинается на добровольной основе и не превратилась в действующую политику. Открытыми остаются такие вопросы, как независимость органа, характер необъявленных тестов и критерии определения необходимости замедлить разработку, в рамках изложенного в материале.