Выбор между закрытыми и открытыми моделями искусственного интеллекта больше не связан только со стоимостью доступа к интерфейсу программирования приложений. Доступность обученных весов для скачивания позволяет запускать модель на аппаратном обеспечении организации или адаптировать её под собственные потребности, но одновременно ставит перед инженерами по проектированию микросхем сложные вопросы, связанные с памятью, устойчивой производительностью, безопасностью развертывания и способностью аппаратного обеспечения адаптироваться к моделям, которые меняются за считанные недели, тогда как проектирование микросхемы занимает годы.
Именно эту тему рассматривает анализ Semiconductor Engineering, опирающийся на мнения экспертов из Expedera, Arteris, Axiomise, Synopsys, Siemens EDA, Cadence, Rambus и других компаний. Основной вывод заключается в том, что критерием успеха теперь является не количество операций TOPS на коротком пиковом отрезке, а способность платформы эффективно, быстро и безопасно запускать меняющийся набор моделей.
Открытые веса не означают полностью открытый исходный код
Модель с открытыми весами позволяет пользователю скачать обученные параметры и запускать или адаптировать их локально. Однако это не обязательно означает модель с открытым исходным кодом: обучающие данные, исходный код и права использования могут оставаться ограниченными. К этому направлению относятся такие модели, как Meta Llama, Alibaba Qwen, DeepSeek, Mistral, Google Gemma, Microsoft Phi и семейство OpenAI gpt-oss.
Варианты развертывания варьируются от крупных моделей, которым требуются серверы или современные ускорители, до небольших моделей, способных работать на устройствах с ограниченной памятью. Согласно материалу, gpt-oss-120b может работать на графическом процессоре с 80 гигабайтами памяти, тогда как gpt-oss-20b предназначена для устройств с 16 гигабайтами памяти при использовании квантования MXFP4. Однако соответствие модели объёму памяти само по себе не доказывает, что она обеспечит практически полезную производительность.
Гибкость вместо зависимости от одного поставщика
Локальный запуск или работа в частной облачной среде позволяют снизить зависимость от одного сервиса, а также помогают сохранять конфиденциальные данные внутри сети организации. Это особенно важно при проектировании микросхем и в регулируемых отраслях, где данные могут включать методы работы, схемы или информацию, представляющую коммерческую тайну.
Организации также могут использовать маршрутизацию моделей, поручая сложные задачи мощной коммерческой модели, а повторяющиеся или менее сложные задачи выполняя с помощью менее дорогой модели с открытыми весами. Однако анализ показывает, что открытые модели автоматически не гарантируют ни более низкую производительность, ни меньшую стоимость: затраты зависят от размера модели, способа её запуска и требований к времени отклика и могут превышать 10 тысяч долларов, когда в ежедневном рабочем процессе требуется постоянная интерактивная производительность.
Что практически меняется в проектировании микросхем?
Эксперты считают, что память, пропускная способность и передача данных могут стать более существенными ограничениями, чем необработанная вычислительная мощность. Проектным командам необходимо оценивать количество активных параметров, числовую точность, длину контекста, мультимодальность, параллелизм и время отклика, а не предполагать существование одной неизменной модели будущего.
- Пропускная способность памяти может стать главным ограничением вместо FLOPS.
- Возрастает значение разреженных активаций и низкоразрядного квантования.
- Гетерогенные системы, объединяющие разные типы процессоров, могут стать практичным средством развертывания.
- Необходимо тестировать нагрузку на память KV, контексты длиной до 128K и параллелизм агентов, а не только плотные операции GEMM.
Эти требования обусловлены разрывом между циклом разработки моделей и циклом производства микросхем. Модель может меняться еженедельно или ежемесячно, тогда как цикл разработки микросхемы в лучших случаях может занимать около 2,5 года. Поэтому адаптируемость программного и аппаратного обеспечения становится ценнее ускорения одной модели, которая может утратить актуальность ещё до завершения производства.
Искусственный интеллект в инструментах проектирования микросхем
Согласно приводимым в анализе сведениям Synopsys, общих моделей недостаточно для задач проектирования микросхем. Надёжность результатов зависит от чистых и документированных проектных данных, ясного контекста рабочего процесса и подтверждённого источника истины. Одна лишь настройка весов не устраняет нехватку специализированных данных или противоречия между ними.
Поэтому ценность открытых моделей в инструментах EDA может быть связана со способностью компаний хранить свои данные в защищённой среде, а затем добавлять собственные данные, рабочие процессы и специализированные уровни знаний. Что касается безопасности, она не ограничивается самой моделью, а включает проверку подлинности файлов весов и обновлений, защиту памяти и каналов DMA, изоляцию рабочих нагрузок и поддержку отката к безопасной версии.
Редакционный комментарий: настоящая перемена заключается не в том, что модели с открытыми весами немедленно заменят proprietary-модели, а в том, что они переводят решение об использовании искусственного интеллекта от выбора сервиса к проектированию целой экосистемы. Организациям придётся балансировать между производительностью, стоимостью, конфиденциальностью и возможностью развития, а разработчикам микросхем — создавать платформы, способные выдерживать изменения моделей, вместо оптимизации под один стандарт. Открытым остаётся вопрос о том, насколько открытые модели смогут сократить разрыв в качестве для специализированных задач, особенно когда надёжные данные и рабочий процесс важнее одного лишь размера модели.