Нейт Соарес, бывший инженер компании Google и глава Института исследований машинного интеллекта (MIRI), вызвал широкие дискуссии в технологических кругах своими заявлениями об экзистенциальных рисках искусственного интеллекта. В подкасте, который вел Николас Томпсон, генеральный директор журнала The Atlantic, Соарес признался, что полностью перестал откладывать средства на пенсию. Он объяснил это своей убежденностью в том, что существует 50-процентная вероятность того, что человечество может перестать существовать через десять лет из-за стремительного и неконтролируемого развития этой технологии.
Что означает эта позиция?
Соарес пояснил, что у него остались пенсионные накопления с периода работы в Google, но он не вносил никаких новых средств на счета уже около десяти лет. Эта позиция отражает глубокий пессимизм некоторых экспертов, которые считают, что темпы развития искусственного интеллекта опережают нашу способность контролировать его или гарантировать его безопасность, что ставит под угрозу будущее человеческого рода.
Контекст споров о скорости развития
Заявления Соареса прозвучали в то время, когда в секторе искусственного интеллекта наблюдается острый раскол по поводу скорости инноваций. В то время как Дарио Амодеи, генеральный директор компании Anthropic, призвал к принятию более сбалансированного и совместного подхода для обеспечения безопасности моделей, эти призывы столкнулись с противодействием со стороны других сторон. Некоторые руководители компаний и политики опасаются, что любые попытки «замедлить» развитие приведут к усилению монополизации на технологическом рынке или предоставят стратегическое конкурентное преимущество таким странам, как Китай.
Политическая позиция США
На официальном уровне администрация Дональда Трампа в Соединенных Штатах придерживается подхода, ориентированного на стимулирование инноваций, а не на введение регуляторных ограничений, которые могут замедлить темпы развития. Трамп ранее называл опасения по поводу выхода искусственного интеллекта из-под контроля «болезненным заговором», подчеркивая, что замедление темпов работы в этой области пойдет на пользу международным конкурентам. Это ставит технологические тенденции в центр текущих геополитических и экономических конфликтов.