Обсуждения будущего искусственного интеллекта склоняются к третьему варианту между бесконтрольным ускорением разработки моделей и призывами замедлить прогресс: к достижению чёткого баланса между инновациями и безопасностью. Эти призывы прозвучали после предупреждений руководителей и исследователей из компаний, занимающихся искусственным интеллектом, о возможном превышении скоростью разработки систем способности соответствующих сторон понимать их и контролировать.
Dario Amodei, генеральный директор Anthropic, предупреждал, что новые системы могут развиваться быстрее, чем общество способно их осмыслить и контролировать. Elon Musk поддержал это предупреждение краткой фразой на платформе X, тогда как Sam Altman, генеральный директор OpenAI, заявил, что согласен с предложением, отметив, что его компания предпримет такой же шаг в отношении независимой оценки. В материале также цитируется исследователь Jacob Coxon, ранее работавший в Anthropic и OpenAI, который выразил аналогичные опасения по поводу темпов прогресса.
Между скоростью развития моделей и готовностью общества
Zafer Küçükşabanoğlu, председатель Ассоциации политики в сфере искусственного интеллекта (AIPA), заявил, что предупреждения сотрудников компаний-разработчиков заслуживают серьёзного отношения, но отверг прекращение разработки как решение. По его мнению, острая конкуренция между компаниями в сфере искусственного интеллекта ускорила прогресс, тогда как государственная политика, законодательство, системы образования, рынок труда и социальная инфраструктура не меняются с такой же скоростью.
Küçükşabanoğlu считает, что расширение разрыва между скоростью развития технологий и уровнем готовности государств и обществ может привести к последствиям, выходящим за рамки самих компаний. Крупные компании располагают не только экономическими возможностями, но и аккумулируют данные, технологии, опыт и человеческие ресурсы, что в будущем может повлиять на глобальный баланс сил. Поэтому он призвал поставить государства в центр координации, отвергнув как бесконтрольную разработку, так и чрезмерно жёсткое регулирование, способное парализовать инновации.
Что меняется на практике?
Предлагаемый в материале подход не призывает установить конкретную дату прекращения разработки моделей и не представляет подробной нормативной базы. Однако он определяет ряд балансов, которыми, по мнению авторов точки зрения, необходимо управлять: скорость и безопасность, инновации и регулирование, конкуренция и сотрудничество, технический прогресс и готовность общества.
Küçükşabanoğlu также призвал компании сотрудничать друг с другом и с правительствами по вопросам безопасности, этики и стандартов, сохранив ответственность за установление правил игры, границ безопасности и защиты общественных интересов в рамках подхода, который возглавляют государства.
Необходимость более широкого диалога
В свою очередь, Dr. Emel Sokullu из Института исследований в области медицинских наук и технологий Университета Medipol заявила, что этические принципы должны быть частью технического прогресса, а не предметом последующего обсуждения. Она предупредила, что быстрые темпы развития иногда могут привести к тому, что углублённые обсуждения этических, социальных аспектов и вопросов управления останутся без внимания.
Sokullu призвала создать совместные платформы и эффективные механизмы диалога с участием учёных, разработчиков технологий, лиц, принимающих решения, и общества, при активном участии организаций гражданского общества. Значение этого подхода заключается в переносе дискуссии от вопроса «кто быстрее?» к более широкому вопросу о том, как развивать искусственный интеллект в пределах, которые можно понимать, пересматривать и за соблюдение которых можно привлекать соответствующие стороны к ответственности. Детали этих границ и механизмы их применения в материале остаются неопределёнными; интервью также не содержат графика или практических обязательств со стороны компаний или правительств.