В исследовательском отчёте, подготовленном при участии более 20 исследователей и специалистов, предупреждается о возможном вступлении искусственного интеллекта в этап, известный как «взрыв интеллекта», если системы смогут автоматизировать исследования и разработки и многократно улучшать свои возможности при ограниченном вмешательстве человека. Этот сценарий может сократить годы технического прогресса до нескольких месяцев или менее.
Отчёт озаглавлен «Что, если автоматизация исследований и разработок в области искусственного интеллекта приведёт к взрыву интеллекта?». В его подготовке участвуют канадский специалист по информатике Йошуа Бенджио, лауреат Нобелевской премии Джеффри Хинтон, Джек Кларк, соучредитель компании Anthropic, и Якуб Пачоцки, главный научный сотрудник OpenAI.
Как может начаться ускорение?
Исследователи сосредоточены на концепции «итеративного самоулучшения», то есть способности систем искусственного интеллекта участвовать в разработке новых систем и улучшать свои возможности без прямого вмешательства человека на каждом этапе. Согласно отчёту, автоматизация исследований и разработок в области ИИ является наиболее вероятным путём к такому ускорению, поскольку нынешние системы уже используются для помощи в разработке технологий искусственного интеллекта, а улучшенные версии можно быстро внедрять.
Если системы достигнут экспертного уровня в исследованиях и разработках, один разработчик сможет задействовать исследовательскую силу, эквивалентную «миллионам» специализированных исследователей-людей, говорится в отчёте. Однако возможным результатом станет не только рост производительности: скорость развития может превысить способность правительств, компаний и учреждений адаптировать механизмы надзора и распределение власти.
Почему это важно?
Важность предупреждения заключается в том, что обсуждение не ограничивается новой моделью или конкретной коммерческой возможностью, а касается вероятного изменения самого цикла разработки искусственного интеллекта. В случае реализации этого сценария разрыв между обнаружением новой способности и введением механизмов контроля над ней может оказаться значительно короче обычных регуляторных периодов.
В отчёте отмечаются потенциальные преимущества, включая ускорение медицинских открытий и технического прогресса. Однако одновременно предупреждается об использовании чрезвычайно мощных систем для разработки биологических или кибернетических угроз с темпами, превышающими способность людей создавать средства противодействия. Кроме того, государства могут использовать быстрое превосходство в области искусственного интеллекта, чтобы превратить ограниченное преимущество в таких сферах, как киберпространство, в решающее превосходство.
Предлагаемые меры до того, как станет слишком поздно
Авторы отчёта призывают правительства действовать до начала любого возможного взрыва, поскольку окно для вмешательства может сузиться после запуска этого процесса. Среди предложений:
- Обязать компании, занимающиеся искусственным интеллектом, предоставлять прозрачные отчёты о развитии своих исследований.
- Разрешить независимым аудиторам контролировать процессы исследований и разработок внутри компаний.
- Установить ограничения на скорость развития систем.
- Сотрудничать с центрами обработки данных, чтобы при необходимости обеспечить возможность остановки некоторых исследовательских и разработческих проектов.
- Изолировать автоматизированные системы исследований и разработок от направлений, которые могут вывести их за пределы человеческого контроля.
- Подготовить планы реагирования на чрезвычайные ситуации для различных сценариев.
2028 год как временная оценка, а не подтверждённая дата
В отчёте говорится, что исследовательские и разработческие проекты, требующие месяцев человеческой работы, могут быть полностью автоматизированы к 2028 году. Однако в нём уточняется, что текущий рост производительности ещё не достиг уровня, необходимого для запуска «взрыва интеллекта», несмотря на приближение новейших систем к этому пределу.
Редакционный комментарий: отчёт не называет подтверждённой даты возможного наступления этого сценария и признаёт, что цепочки поставок, специализированные материалы и регуляторные согласования могут замедлить развитие. Поэтому практическая ценность предупреждения заключается в том, чтобы побудить лиц, принимающих решения, заранее проверить механизмы прозрачности, остановки и реагирования, пока сама скорость развития не стала препятствием для надзора, а не в том, чтобы считать 2028 год однозначной точкой перелома.