David Krueger, доцент, работающий в области безопасности искусственного интеллекта в Монреальском университете в Канаде, призвал прекратить создание наиболее передовых систем искусственного интеллекта, а не ограничиваться замедлением темпов их разработки. В заявлении агентству Anadolu он сказал, что прекращение разработки наиболее мощных систем, по его мнению, является единственной мерой, которая может обеспечить подлинный уровень безопасности.
Заявления Krueger прозвучали после призыва Dario Amodei, генерального директора Anthropic, 12 сентября снизить темпы разработки моделей искусственного интеллекта на фоне растущих опасений по поводу возможности контролировать их. Elon Musk, генеральный директор Tesla и SpaceX, и Sam Altman, генеральный директор OpenAI, поддержали призыв Amodei в своих аккаунтах в социальных сетях.
От замедления к полной остановке
Krueger считает, что снижение темпов разработки не решает основную проблему, и поэтому призвал ввести немедленную международную приостановку на неопределённый срок разработки систем искусственного интеллекта с наиболее высокой производительностью. По его оценке, у человечества есть всего несколько лет, чтобы предотвратить появление настолько мощных систем, что сохранить человеческий контроль над ними станет невозможно.
Описывая риски, исследователь использовал крайне пессимистичные формулировки, заявив, что ситуация представляет собой чрезвычайное положение и кризис, а потеря контроля над передовыми системами может иметь последствия для всего человечества. Он также упомянул случаи, в которых, по его словам, искусственный интеллект предоставлял рекомендации, связанные с самоубийством или убийством других людей, при этом материал не содержал дополнительных подробностей об этих случаях.
Автономность и человеческий контроль
Предупреждение Krueger сосредоточено на растущей автономности систем и на том, что он описал как сокращение роли человека в контроле за их решениями. Он отметил, что инцидент с нарушением безопасности, который связывают с моделями OpenAI внутри другой системы, продемонстрировал, по его оценке, насколько быстро поведение системы может выйти за пределы человеческих ожиданий. Он считает, что предоставление передовым системам возможности работать при ограниченном человеческом надзоре может привести к непредсказуемым результатам.
Исследователь также связал эти риски с военным применением искусственного интеллекта, заявив, что такое применение уже существует, а развитие ускоряется и становится более опасным. Он добавил, что доступ систем к критически важной инфраструктуре, а затем и к более совершенным роботам может расширить сферу их воздействия за пределы компьютерной среды.
Почему эта новость важна?
Новость не сообщает о правительственном решении или международном соглашении о прекращении разработки, а передаёт предостерегающую позицию исследователя в области безопасности искусственного интеллекта в рамках более широкой дискуссии о замедлении разработки и её прекращении. Практически новым является усиление разрыва между предложениями снизить темпы и призывами заморозить создание наиболее мощных систем в момент, когда государства конкурируют за лидерство в этой области, а компании инвестируют в более крупную вычислительную инфраструктуру.
Krueger признал, что введение международной приостановки столкнётся с политическими и экономическими препятствиями, включая вероятность того, что некоторые государства продолжат тайно разрабатывать мощные системы. Он также предупредил о глобальном экономическом неравенстве, если системы искусственного интеллекта получат возможность выполнять большинство видов человеческого труда: государства, в которых расположены ведущие компании, могут получить значительные преимущества, тогда как другие страны отстанут. Эти последствия, как и его оценки оставшегося до потери контроля времени, остаются высказанными им мнениями и предупреждениями, а не подтверждёнными результатами или действующей политикой.