Полемика о политических и научных рисках «сверхчеловеческого искусственного интеллекта» (ASI) усилилась после заседания, состоявшегося в британском парламенте. На нем чиновники и исследователи предупредили о возможности того, что эти системы достигнут уровня возможностей, который будет трудно контролировать людям. Бывший министр обороны Великобритании Дес Браун заявил, что потенциальная угроза может быть сопоставима с опасностью ядерной войны и, возможно, превзойти ее.
В заседании принял участие альянс Control AI, призывающий установить международные правила в сфере искусственного интеллекта и поддерживающий законопроект, обсуждаемый британским парламентом, о запрете разработки сверхчеловеческого искусственного интеллекта. Стюарт Рассел, компьютерный ученый из Калифорнийского университета в Беркли, предупредил о возможности масштабной катастрофы и сценарии, при котором человечество безвозвратно утратит контроль над системами искусственного интеллекта.
Разные оценки масштабов угрозы
Иван Хубингер, отвечающий за исследования согласования в компании Anthropic, вызвал споры, заявив, что вероятность того, что эта технология приведет к гибели всех людей в течение следующего десятилетия, превышает 10%. Эта цифра не является результатом консенсуса экспертов, а представляет собой оценку, приписываемую Хубингеру в рамках более широкой дискуссии о будущих рисках.
Это совпало с отставкой 28-летнего Джейкоба Коксона из Anthropic, ранее работавшего в OpenAI. Коксон заявил, что обе компании действуют безответственно и застряли в гонке за первенство в создании сверхчеловеческого искусственного интеллекта, однако выразил надежду на возможность координации между ведущими американскими лабораториями для замедления этой гонки. Среди экспертов нет согласия относительно сроков появления таких возможностей: одни говорят о нескольких годах, тогда как другие ожидают их появления более чем через десятилетие.
От предупреждений к международным правилам
Лейбористский депутат Даррен Джонс призвал к «многостороннему договору об упорядоченной и безопасной разработке сверхчеловеческого интеллекта», подчеркнув, что, согласно его предложению, цель заключается не в остановке исследований и инноваций, а в том, чтобы отдать приоритет безопасности по мере ускорения развития. Британское правительство также выразило обеспокоенность тем, что Anthropic не представила свою новейшую модель Mythos 5.1 Британскому институту безопасности искусственного интеллекта для проведения испытаний перед запуском. В канцелярии кабинета министров заявили, что ограниченное число американских организаций получило доступ к модели, а сотрудничество между институтом и компаниями продолжается.
В США сенатор Берни Сандерс призвал Конгресс принять меры, сославшись на опрос, согласно которому 81% американцев считают необходимыми действия политиков в отношении искусственного интеллекта. Сандерс связывает эту дискуссию с будущим экономики, окружающей среды, демократии и частной жизни.
Почему эта новость важна?
Эта дискуссия выявляет разрыв между долгосрочными рисками, вероятность которых трудно проверить, и существующими рисками, которые можно наблюдать уже сегодня. Эндрю Рогойевски предупредил, что нынешние системы по-прежнему далеки от человеческой гибкости, а передовые технологии искусственного интеллекта могут быть дорогостоящими или иметь ограниченную практическую пользу. Дэвид Барбер заявил, что практическая проблема может усугубиться, когда системы получат неограниченный доступ к интернету и различным системам, тогда как Сандра Вахтер назвала дезинформацию, воздействие на окружающую среду и занятость реальными и насущными вопросами.
Гэри Маркус считает, что решающим различием станет то, будет ли сверхчеловеческий искусственный интеллект согласован с интересами людей или нет, признавая при этом, что нынешняя дискуссия сопровождается медийным шумом и недостатком осторожности и ответственности. Таким образом, источник не доказывает, что сценарий вымирания человечества неизбежен в ближайшем будущем или гарантирован, однако показывает, что разногласия по поводу уровня риска больше не являются исключительно академическими: они связаны с законодательством, испытаниями перед запуском и ограничениями доступа моделей к системам.