Сенат США заблокировал немедленное голосование по законопроекту, названному «Законом о кнопке экстренной остановки искусственного интеллекта», после того как сенатор Рэнд Пол отклонил запрос сенатора Джона Кеннеди о принятии законопроекта единогласным решением. Предложение обязывает компании в сфере искусственного интеллекта создать средство экстренной остановки для моделей «сверхинтеллектуального искусственного интеллекта» на фоне растущих опасений, что эти системы могут превратиться в самостоятельные сущности или выйти из-под контроля.
Согласно сообщению, которое информационное агентство Anadolu передало со ссылкой на газету The Hill, Кеннеди предложил провести голосование по своему законопроекту на фоне растущей обеспокоенности потенциальными рисками, связанными с передовыми системами. Однако Пол выступил против запроса, заявив, что действия Конгресса до достаточного понимания технологии могут навредить инновациям и отставить США от технического прогресса на десятилетия.
Пол заявил, что предоставление правительству неограниченных полномочий, связанных с распоряжением об остановке или устройством для отключения систем искусственного интеллекта, может навредить использованию технологии в американской экономике. Он предложил перенаправить инициативу на создание двухпартийной совместной комиссии для изучения рисков, которые может представлять сверхинтеллектуальный искусственный интеллект, однако Кеннеди отверг это предложение.
Что произошло с процедурной точки зрения?
Отклонение запроса на единогласное голосование не означает окончательного провала законопроекта. Согласно материалу, сенатор может возразить против запроса о вынесении законопроекта на голосование, однако впоследствии его может стать возможно включить в повестку Сената и вынести на голосование в рамках других процедур. В сообщении не указаны новая дата голосования или дополнительные сведения о тексте законопроекта, например о том, какой орган будет контролировать выполнение требования об остановке или какие технические стандарты для этого предлагаются.
Разногласия выходят за рамки «кнопки остановки»
Споры происходят в момент, когда в США растет число призывов замедлить развитие искусственного интеллекта, прежде чем он достигнет более опасных уровней. Дарио Амодеи, генеральный директор компании Anthropic, а также генеральный директор OpenAI Сэм Альтман и генеральный директор Tesla и SpaceX Илон Маск призвали замедлить усилия по разработке.
В свою очередь, администрация президента США Дональда Трампа придерживается подхода, ориентированного на поощрение инноваций, а не на введение новых правил, которые приведут к замедлению развития искусственного интеллекта. Трамп назвал опасения по поводу выхода технологии из-под контроля «патологическим заговором» и предупредил, что замедление разработки может дать Китаю преимущество.
Почему это развитие событий важно?
Заблокированное голосование выявляет нерешенный регуляторный вопрос: следует ли рассматривать возможность остановки передовых моделей как предварительное юридическое требование или оставить разработку механизмов контроля компаниям, пока риски не станут яснее? Фактически изменилось то, что предложение не получило ускоренного пути к голосованию, а не то, что разногласия по поводу безопасности искусственного интеллекта закончились. Эффективность любой «кнопки экстренной остановки», условия ее использования и пределы полномочий правительства остаются открытыми вопросами, которые источник не прояснил.