各机构正在为人工智能加速器提供更广泛的选择,而不是将评估范围限定在英伟达(Nvidia),但这并不意味着它们准备立即离开当前平台。根据7月进行的VB Pulse调查,该调查涵盖170名人工智能基础设施领域的受访者,其中39.4%表示,他们更有可能在未来12个月内评估非英伟达加速器;相比之下,表示会对英伟达Blackwell(GB300)或英伟达下一代处理器采取同样行动的比例为25.3%,相差14个百分点。
调查提到的替代方案包括AWS Trainium、Google TPU、AMD Instinct和Intel Gaudi,以及各机构内部开发的ASIC芯片。不过,英伟达仍是大多数生产环境中的默认选择,因此这一结果更多表明评估范围正在扩大,而不是生产份额正在立即发生转变。
活动增加,但立即改变的意愿降低
芯片调查结果体现出一个更广泛的趋势:各机构更加密集地运行人工智能基础设施,并试图先优化现有设施,再决定是否更换主要平台。预计在0至3个月内更换平台的受访者比例从6月的38.3%降至7月的28.8%。与此同时,预计在3至6个月内更换的比例增加了4.1个百分点,预计在6至12个月内更换的比例增加了5.3个百分点。不计划进行任何改变的受访者比例基本稳定在40%左右。
多个平台的生产使用率有所上升。报告使用Microsoft Azure进行生产的比例从29%升至47.1%,而Google Gemini的使用率从41.1%升至47.6%。OpenAI的相应比例也从40.2%升至49.4%,Anthropic的使用率则从12.1%升至24.7%。Azure的大幅增长应谨慎解读,因为7月样本更倾向于大型机构:57%的受访者所在企业拥有超过1,000名员工,而6月这一比例为37%。
各机构对自主管理GPU的利用率也有所改善。在100名受访者的6月样本中,以一半或更低容量运行这些GPU的比例为83%;在155名受访者的7月样本中,该比例降至69%。运行容量超过50%的比例则从13%升至23%。
标准从平台规模转向工作负载性能
选择标准表明,采购决策与实际运营的关联越来越紧密。与云环境和企业数据的集成仍是最重要因素,7月为40.0%,6月为41.1%。但性能优先级从24.3%升至35.3%,每百万个token的成本优先级从7.5%升至15.9%,GPU可获得性的优先级则从18.7%升至23.5%。
相比之下,将总拥有成本作为主要因素的受访者比例从34.6%降至21.8%。这并不意味着成本失去了重要性,而是评估似乎更加贴近工作负载:推理在生产环境中的运行方式、可靠性,以及每单位有用工作的成本。
这一趋势为何重要?
对非英伟达替代方案的兴趣从6月的31.8%升至7月的39.4%。在拥有战略采购权的人员中,这一增长更加明显,尽管高级管理职位的样本较小:该群体的比例从42.9%(14人中的6人)升至57.1%(21人中的12人)。在最终决策者中,该比例则从35.4%升至50%。
这些数字表明,加速器多元化正从工程问题转变为战略基础设施决策。将替代方案列入评估名单,可以让各机构更有能力比较性能、成本和硬件可获得性,但这并不能证明这些替代方案已经实现生产优势,也不能证明各机构已经决定转向它们。
控制权并不局限于芯片
在连接模型与企业数据及服务的工具层中,也出现了同样的趋势。调查将该层描述为包括工具、数据、编排、评估、身份与安全以及可观测性。7月,36.6%的受访者更倾向于在模型之外保留各类别中最优的独立工具;另有36.6%倾向于将服务提供商的原生运行环境与独立工具结合使用。因此,79.2%的受访者支持在单一模型提供商之外保留一定程度架构控制的方式,而6月这一比例约为65.3%。
相比之下,偏好统一采用单一模型提供商原生上下文套件的比例从20.8%降至11.9%。这种控制权具有实际意义:7月有68.3%的受访者表示,他们曾因上下文缺失或不正确而得到自信但错误的答案,6月这一比例为57.4%。此外,62.4%的受访者表示,受治理的语义层或上下文层正在生产环境中运行或建设中。
专业云和开源组件
预计会更多使用人工智能专业云提供商(即所谓的neoclouds)的受访者比例从33%升至38%,而预计使用量减少的比例从9.7%降至5.4%。但在CoreWeave、Lambda、Crusoe和Nebius等指定提供商中的当前生产使用率仍低得多,仅从1.9%升至5.9%。
扩展意愿与当前使用率之间的差距表明,市场仍处于评估和潜在采用阶段,而非已经完成全面采用。这些公司能否将加速器访问转化为可持续的企业级使用,仍将取决于可靠性、安全性、支持服务、网络和数据管理。
生产级开源及自主管理软件包的使用率也从3.7%升至12.9%,调查中的示例包括PyTorch、Triton、vLLM、Ray和Kubernetes。开源键值缓存工具(如LMCache和vLLM prefix caching)的使用率从6.5%升至11.8%。但对开源平台的考虑比例基本保持不变,从5.6%升至6.5%,这意味着增长主要集中在已经进入实施阶段的机构,而不是来自更广泛的新评估者群体。
方法学限制:本文比较了两轮独立调查和两个时间截面,分别涵盖2026年6月的107名受访者和2026年7月的170名受访者,并非针对同一批机构开展的纵向研究。样本构成也发生了变化,且未进行统计显著性检验;因此,月度差异应被视为趋势信号,而不是因果关系的证明。至于上下文层数据,则来自一项独立调查,每月均有101名受访者。