Характер конкуренции в инфраструктуре искусственного интеллекта меняется. После многих лет, когда преимущество Nvidia в основном связывали с обладанием наиболее совершенными графическими процессорами GPU, этот анализ указывает на постепенное смещение центра внимания к тому, что окружает процессор: управлению памятью, маршрутизации данных, хранению, сетям и координации работы между компонентами системы. По мере расширения нагрузок искусственного интеллекта до гигаваттного масштаба одного лишь увеличения числа вычислительных операций уже недостаточно для достижения необходимой эффективности.
Этот анализ появляется в момент, когда крупные компании облачной инфраструктуры, такие как Amazon и Google, начали разрабатывать собственные чипы, что ослабило представление о Nvidia как о единственном варианте получения передового оборудования для искусственного интеллекта. Это вызвало вопросы о долгосрочной устойчивости превосходства компании, особенно после десятикратного роста её рыночной капитализации в период с начала 2023 года до середины 2025 года, до того как динамика её акций в следующем году стала более умеренной на фоне опасений по поводу конкуренции в сфере GPU.
От процессора к стойке как единой системе
Согласно материалу, Nvidia в настоящее время предлагает архитектуру Vera Rubin, объединяющую GPU Rubin с рядом других компонентов, среди которых CPU Vera, ускоритель инференса Groq 3 LPX, а также специализированные стойки для хранения и сетевого оборудования. Эти компоненты не обязательно сосредоточены непосредственно на выполнении токенов, а скорее обеспечивают поступление данных к GPU с нужной скоростью и в нужный момент.
GPU можно сравнить с двигателем, тогда как остальные компоненты системы выполняют функции автомобиля, обеспечивающие эффективное использование мощности двигателя. Чем выше мощность центров обработки данных, тем больше потребность в памяти, однако передача данных из памяти к процессору без узких мест стала отдельной проблемой. Эта проблема приобретает всё большее значение по мере того, как операторы инфраструктуры стремятся сократить количество токенов, производимых на каждый ватт.
Роль CPU Vera в маршрутизации данных
Jason Hardy, вице-президент Nvidia по технологиям хранения данных, заявил, что Vera важна, поскольку объём памяти, который можно разместить в одном сервере или вычислительной платформе, ограничен. Согласно приведённым в анализе его словам, операции показали улучшение до трёх раз, когда CPU Vera обеспечила их ускорение, что позволило использовать флеш-накопители на полную мощность вместо снижения производительности из-за узких мест при передаче данных.
Практический смысл заключается в том, что производительность центра обработки данных определяется не только характеристиками отдельного GPU. Даже быстрый процессор может не реализовать весь свой потенциал, если данные не поступают к нему вовремя или если память, хранилище и сети не способны справиться с рабочим потоком. Поэтому Nvidia пытается продавать комплексную систему, а не отдельный чип.
Иное решение OpenAI
Проблемой движения данных занимается не только Nvidia. Когда OpenAI разрабатывала чип Jalapeño, сокращение объёма данных, которые необходимо передавать между компонентами, было одним из главных принципов конструкции. Компания заявила, что большая площадь чипа позволяет удерживать всю рабочую нагрузку внутри одной связанной системы, что уменьшает движение данных и задержки связи, помогая поддерживать быструю и эффективную обработку запроса от начала до конца.
Эти два подхода различаются: экосистема Nvidia пытается эффективно управлять движением данных с помощью набора специализированных компонентов, тогда как OpenAI стремится сократить само движение, удерживая рабочую нагрузку внутри одного чипа или интегрированной системы. Однако целевой результат один — повышение эффективности вместо того, чтобы полагаться только на добавление вычислительных операций или большего числа чипов.
Почему этот переход важен?
Здесь возникает новый уровень конкуренции в сфере искусственного интеллекта. Теперь одного создания конкурирующего GPU уже не обязательно достаточно: компаниям также необходимо обеспечить эффективную работу всей системы. Это открывает производителям чипов и операторам облачных сервисов возможность конкурировать в проектировании стоек, координации памяти, управлении хранилищами и сетями, а не только в показателях необработанной вычислительной мощности.
Анализ certi.news: Действительно изменилось определение производительности в центрах обработки данных для искусственного интеллекта. Критерий смещается от вопроса «Насколько быстр чип?» к более широкому вопросу: «Насколько эффективно система в целом обеспечивает чип нужными данными и поддерживает его загрузку?». Это даёт Nvidia возможность расширить своё преимущество на уровень, который трудно отделить от остальной инфраструктуры, однако не решает исход конкуренции. Компания столкнётся с конкурентами как в сфере GPU, так и в управлении системами и координации, а источник не приводит исчерпывающих сравнительных данных между экосистемой Nvidia и решениями конкурентов и не доказывает, что нынешнее преимущество сохранится в долгосрочной перспективе.
Для операторов центров обработки данных это означает, что при принятии инфраструктурных решений может потребоваться учитывать эффективность всей системы, а не только цену или производительность одного процессора. Для разработчиков чипов задача расширяется: от увеличения вычислительной мощности к сокращению движения данных и узких мест. Анализ указывает, что на ранних этапах Nvidia, по-видимому, обладает сильным преимуществом на этом новом уровне, но это не означает окончания конкуренции или гарантии постоянного превосходства.