Chris Lehane, руководитель отдела глобальной политики OpenAI, подтвердил, что его компания уже несколько недель ведёт переговоры с Anthropic и Google DeepMind о безопасности искусственного интеллекта. Это заявление прозвучало во время встречи с журналистами во вторник, когда Lehane находился в Вашингтоне, чтобы работать с американскими законодателями над устранением катастрофических рисков, связанных с искусственным интеллектом.
Это объявление подтверждает более ранние сообщения о неафишируемом сотрудничестве между тремя компаниями и придаёт дискуссии практическое измерение, выходящее за рамки общих призывов к безопасности. В материале не уточняются детали механизма переговоров или принятые по их итогам решения; также источник не приводит комментариев Anthropic, Google или OpenAI на запросы TechCrunch.
От призыва к институциональному сотрудничеству
Переговоры проходят после публикации статьи Dario Amodei, генерального директора Anthropic, в которой он призвал сектор искусственного интеллекта совместно работать над замедлением темпов разработки передовых моделей искусственного интеллекта и предотвращением катастрофических рисков. Этот призыв поддержали видные фигуры, включая Sam Altman из OpenAI, Demis Hassabis из Google и Elon Musk из SpaceXAI.
Altman заявил, что OpenAI присоединится к Anthropic во внедрении независимых сторонних оценщиков для контроля безопасности. Другие сообщения также указывают, что три компании работают над созданием отраслевого органа по разработке стандартов — шагом, который, по словам Altman, сказанным его сотрудникам, возможно, придётся предпринять без поддержки правительства США.
В июле Hassabis призвал создать новый американский орган по разработке стандартов, который выполнял бы функции надзорного органа в сфере искусственного интеллекта, имел полномочия проверять наиболее передовые модели и координировал коллективное замедление разработки в случае усиления рисков.
Координация сталкивается с вопросом конкуренции
Сотрудничество между крупнейшими лабораториями искусственного интеллекта не лишено юридических сложностей. Некоторые стороны, включая Altman, указали, что координация между компаниями может повлечь риски, связанные с антимонопольным законодательством, если её сочтут способом ограничить конкуренцию. Amodei предложил ограниченное государственное освобождение, разрешающее такой вид сотрудничества по вопросам безопасности, однако Lehane заявил, что компаниям такое освобождение не требуется.
Что это означает на практике?
Это развитие событий означает переход от требования к каждой компании самостоятельно оценивать свои модели к поиску совместных механизмов, включающих независимые стороны и отраслевые стандарты. Если эти переговоры выльются в официальный механизм, они могут повлиять на порядок тестирования передовых моделей перед их выпуском или расширением сферы их применения. Однако источник пока не подтверждает существование совместного органа или обязательного соглашения и не объясняет, как будет обеспечиваться независимость оценщиков или предотвращаться использование стандартов безопасности для ограничения конкуренции.
На той же встрече во вторник Lehane объявил о поддержке OpenAI положения в законопроекте FRONTIER Act, которое обязывает передовые лаборатории искусственного интеллекта разрешать «независимым организациям по проверке» доступ в свои компании для подтверждения безопасной разработки моделей.
Этот курс противоречит позиции президента Trump, который назвал опасения по поводу безопасности уловкой и отверг необходимость более строгого регулирования, считая, что любое замедление может дать Китаю преимущество. David Sacks, его советник по вопросам искусственного интеллекта, повторил, что опасения по поводу экзистенциальных рисков искусственного интеллекта преувеличены. Поэтому следующий шаг по-прежнему зависит от способности компаний превратить добровольное сотрудничество в подлежащие исполнению стандарты, а также от позиции американских законодателей относительно границ такой координации.