Король Чарльз призвал руководителей компаний, занимающихся искусственным интеллектом, и правительственных чиновников найти достаточные способы контролировать эту технологию «до того, как станет слишком поздно». С таким призывом он выступил на закрытом саммите, который провёл в четверг, 17 сентября, в Dumfries House в графстве Эйршир, Шотландия.
Встречу посетили генеральный директор Nvidia Jensen Huang, руководители OpenAI и Anthropic, новый британский министр по вопросам искусственного интеллекта Kanishka Narayan, а также глава британской внешней разведки. На встрече также присутствовал Paolo Benanti, консультирующий папу римского по вопросам искусственного интеллекта. OpenAI направила финансового директора Sarah Friar, а Anthropic представлял руководитель отдела глобальных связей Tino Cuéllar.
Предупреждение одновременно о преимуществах и рисках
Король заявил, что искусственный интеллект обладает значительным потенциалом для улучшения и спасения жизней, особенно в медицине и науке. Однако одновременно он отметил, что разработчики этих технологий всё чаще предупреждают о возможности появления у них «более мрачных способностей», включая, возможно, способность лишать людей жизни.
Чарльз связал эти опасения с тем, что он назвал «экзистенциальными угрозами», возникающими в случае попадания технологии в чужие руки и её использования способами, которые могут иметь катастрофические последствия. Он также назвал стремительное развитие искусственного интеллекта «интересным и крайне тревожным» и призвал присутствующих обеспечить, чтобы технология оставалась на службе человека, общества и мира природы.
Согласно сообщениям, король пробыл на встрече около 20 минут, после чего оставил участников продолжать обсуждение между собой. Cuéllar заявил, что Anthropic была удостоена чести принять участие, и поблагодарил короля за то, что тот собрал лидеров отрасли и представителей различных общественных сфер для обсуждения роли искусственного интеллекта в служении общему благу.
Почему эта встреча важна?
Встреча не означает объявления новой регуляторной политики или заключения обязательного соглашения, однако она показывает, что обсуждение рисков искусственного интеллекта перешло в пространство, объединяющее компании — разработчики моделей, правительства, разведывательные службы, а также религиозных и общественных деятелей. Значение этого пересечения возрастает на фоне продолжающихся споров о том, следует ли замедлить разработку передовых моделей или продолжать её ещё более быстрыми темпами.
Саммит состоялся через несколько дней после отставки исследователя Anthropic, который публично предупредил о гонке компаний за создание машин, превосходящих людей по интеллекту, а также после призывов Sam Altman, Elon Musk и Dario Amodei замедлить разработку. В свою очередь, Jensen Huang и президент США Donald Trump отвергли эти призывы; Трамп заявил, что США опережают Китай в области искусственного интеллекта и что тот, кто победит в этой сфере, выиграет более широкое соревнование.
Международное сотрудничество без деталей реализации
Чарльз также призвал к международному сотрудничеству и достижению согласия относительно того, как направить искусственный интеллект на общественную пользу. Однако источник не сообщает об официальных итогах саммита, конкретных механизмах надзора или графике превращения этого призыва в политические меры. Споры о суверенитете в сфере искусственного интеллекта также продолжаются, особенно после того, как Anthropic ограничила доступ к своим моделям Fable и Mythos клиентами в США, согласно материалу.
Мнение certi.news: фактическая ценность саммита заключается в расширении круга сторон, обсуждающих управление искусственным интеллектом, а не в принятии нового решения. Он отражает явное столкновение между соображениями безопасности, геополитической конкуренцией и интересами технологических компаний, при этом центральный вопрос остаётся открытым: кто определяет границы контроля и как их можно применять на международном уровне, прежде чем скорость разработки превысит способность институтов реагировать?