Garry Tan, генеральный директор Y Combinator, считает, что Соединенным Штатам, возможно, следует разрешить небольшим лабораториям искусственного интеллекта дистиллировать знания из передовых американских моделей, чтобы создать более сильный набор моделей с открытыми весами, не зависящих от китайских лабораторий. Эта позиция прозвучала в момент, когда Anthropic обвиняет китайские лаборатории в незаконных атаках с целью дистилляции передовых моделей.
В интервью CNBC Tan заявил, что не стал бы регулировать использование китайскими лабораториями методов дистилляции, а вместо этого предложил возможность создания «американской системы дистилляции». Он пояснил TechCrunch, что речь идет о предоставлении американским лабораториям, разрабатывающим модели с открытыми весами, доступа к этим методам, причем к целевым моделям следует обращаться «через парадную дверь» и на четко определенных условиях доступа, а не путем выдачи себя за другое лицо, мошенничества или кражи учетных данных.
Что такое дистилляция моделей?
Дистилляция моделей — это обучение новой модели с использованием выходных данных другой модели, обычно путем отправки ей большого количества запросов и анализа ее ответов и способа рассуждения. Лаборатории искусственного интеллекта законно применяют эту технологию в некоторых сценариях обучения и улучшения моделей, однако границы ее использования становятся предметом споров, когда к целевой модели получают доступ без разрешения или скрывают личность использующей ее стороны.
Согласно материалу, на этой неделе Anthropic опубликовала свой второй отчет, в котором обвинила китайские лаборатории в осуществлении «незаконных атак с целью дистилляции». Компания утверждает, что эти операции включали сокрытие личности, мошенничество и использование украденных учетных данных для доступа к моделям. Ранее генеральный директор Anthropic Dario Amodei публично призывал американские регулирующие органы принять более жесткие меры против такого вида дистилляции.
Почему Tan предлагает иную позицию?
Аргумент Tan не ограничивается конкуренцией между США и Китаем. Он считает, что лаборатории искусственного интеллекта не должны обладать широкими полномочиями по контролю над тем, что клиенты делают с информацией, полученной через интерфейсы программирования приложений. По его мнению, строгие ограничения на использование выходных данных закрытых моделей могут ограничить возможности исследователей и разработчиков создавать открытые альтернативы.
Tan также связывает эту позицию с историей обучения самих коммерческих моделей. Он указывает, что лаборатории, разрабатывающие закрытые модели, собрали большие объемы широко доступных человеческих знаний для обучения своих систем, включая материалы, защищенные авторским правом, при этом не всегда получая разрешение владельцев интеллектуальной собственности. Поэтому он утверждает, что доступ к интеллекту, обученному на обширных общедоступных данных, должен быть ближе к общественному благу, а не полностью регулироваться условиями обслуживания, устанавливаемыми частными компаниями.
Что меняется на практике?
Если эта идея превратится в политику, борьба будет идти вокруг условий доступа, ограничений использования и подтверждения согласия целевой модели, а не вокруг разрешения любого вида копирования моделей. Различие, которое Tan проводит между разрешенной дистилляцией и дистилляцией с использованием украденных учетных данных, имеет важное значение: он не защищает операции, которые Anthropic приписывает китайским лабораториям, а выступает за предоставление небольшим американским лабораториям законной возможности использовать выходные данные передовых моделей.
Для разработчиков моделей с открытыми весами такой подход может сократить разрыв в ресурсах между ними и лабораториями, располагающими капиталом, исследователями и инфраструктурой, необходимыми для разработки Frontier-моделей с нуля. Передовые коммерческие лаборатории, напротив, могут рассматривать его как угрозу ценности своих закрытых моделей и возможности контролировать использование своих интерфейсов и выходных данных.
Мнение и факты
Tan представляет свою позицию как средство сохранения многообразия на рынке искусственного интеллекта. Он предупреждает о сценарии, при котором одна компания, обладающая лучшим доступом к капиталу и лучшими исследователями, станет владельцем самой мощной модели и единственным воротам к передовым возможностям. Он считает, что модели с открытыми весами дают пользователям более широкие свободу и доступ, тогда как передовые лаборатории обеспечивают продолжение инвестиций в развитие новых возможностей.
Однако материал не содержит доказательств существования американского регуляторного соглашения о подобной «системе дистилляции» и не разрешает вопросы интеллектуальной собственности, договорных условий или способа проверки разрешенного использования. Поэтому предложение Tan остается политической и идейной позицией в дискуссии, где переплетаются экономическая безопасность, права компаний, интересы исследователей и риски злоупотребления моделями, а не объявлением о вступившей в силу политике.