人工智能基础设施的竞争性质正在发生变化。多年来，Nvidia 的优势主要与拥有最先进的图形处理器（GPU）相关；而这份分析指出，竞争重心正逐步转向处理器周边的部分：内存管理、数据路由、存储、网络，以及系统组件之间的工作协调。随着人工智能负载扩大至千兆瓦级，仅增加处理周期已不足以实现所需的效率。
这一观点出现之际，Amazon 和 Google 等大型云基础设施公司已开始开发自己的芯片，从而削弱了 Nvidia 是获得先进人工智能硬件唯一选择这一看法。这也引发了对该公司优势可持续性的疑问，尤其是在 2023 年初至 2025 年年中，其市值增长了十倍；随后一年，在市场担忧 GPU 竞争加剧的背景下，其股价走势趋于温和。
从处理器到机架系统
据文章介绍，Nvidia 目前推出了 Vera Rubin 架构，将 Rubin GPU 与一组其他组件结合起来，其中包括 Vera CPU、Groq 3 LPX 推理加速器，以及专用于存储和网络的机架。这些组件不一定直接负责执行令牌，而是确保数据以适当的速度和时机抵达 GPU。
可以把 GPU 比作发动机，而系统的其他组件则承担汽车的各种功能，确保发动机动力得到高效利用。数据中心的能力越强，对内存的需求就越大；但如何在不出现瓶颈的情况下将数据从内存传输至处理器，已成为一项独立挑战。随着基础设施运营商寻求降低每瓦可生成的令牌数量，这一挑战的重要性也在上升。
Vera CPU 在数据路由中的作用
Nvidia 存储技术副总裁 Jason Hardy 表示，Vera 之所以重要，是因为单台服务器或计算平台所能配置的内存容量有限。据分析引用他的话称，在 Vera CPU 提供加速后，相关操作的性能提升最高可达三倍；这使闪存存储能够充分发挥潜力，而不是因数据传输瓶颈而导致性能受阻。
这里的实际含义是，数据中心的性能并不只取决于单个 GPU 的规格。即使处理器速度很快，如果数据无法及时抵达，或者内存、存储和网络无法跟上工作负载，处理器也可能无法充分发挥作用。因此，Nvidia 试图销售的是一个完整系统，而不只是一枚独立芯片。
OpenAI 的不同解决方案
数据流动问题并非只有 Nvidia 在处理。OpenAI 开发 Jalapeño 芯片时，减少组件之间需要传输的数据量就是设计重点之一。该公司表示，芯片的大面积设计能够让完整工作负载保留在一个相互连接的系统内，从而减少数据流动和通信延迟，并有助于让请求从头到尾保持快速且高效。
两种方式有所不同：Nvidia 试图通过一组专业化组件高效管理数据流动，而 OpenAI 则试图通过将工作负载保留在单个芯片或集成系统内，减少数据流动本身。但两者追求的结果相同，即提升效率，而不是仅仅依靠增加处理周期或更多芯片。
为什么这一转变很重要？
人工智能领域新的竞争层面正在显现。打造一款具有竞争力的 GPU 未必已经足够；企业还需要让整个系统高效运行。这为芯片制造商和云服务运营商在机架设计、内存协调、存储与网络管理等方面展开竞争创造了空间，而竞争不再只围绕原始处理能力展开。
certi.news 解读：真正发生变化的是人工智能数据中心对性能的定义。衡量标准正从“芯片有多快？”转向更广泛的问题：“整个系统让芯片持续获得合适数据的效率有多高？”这为 Nvidia 将优势扩展至一个难以与其他基础设施分离的层面提供了机会，但这并不能决定竞争结果。该公司将在 GPU 以及系统管理和协调方面面临竞争者；此外，来源并未提供 Nvidia 系统与竞争对手解决方案之间的全面对比数据，也没有证明当前优势将长期持续。
对于数据中心运营商而言，这意味着基础设施决策可能需要考察整个系统的效率，而不只是处理器本身的价格或性能。对于芯片设计者而言，挑战也从提升计算能力扩展到减少数据流动和瓶颈。分析指出，Nvidia 似乎在这一新层面处于早期的强势领先位置，但这并不意味着竞争结束，也不保证其永久保持优势。